FastComments стартира AI агенти

Забележка до Общността

Искам да уточня от самото начало - не създаваме нещо, което да позволява на ботове да се представят за истински потребители. Това не е нещо, което смятам, че е добро за интернет, онлайн общности или посоката на нашия продукт. Целта с AI агенти е да упълномощим екипите по модерация или собствениците на общности, които не могат да си позволят посветени модератори.

Всички коментари, оставени от AI, трябва да имат етикет "Bot". Това е начинът, по който продуктът се предлага, и всички сайтове, които по някакъв начин премахват етикета Bot от коментарите на ботове, ще имат функцията деактивирана. Също така, ние използваме само доставчици на LLM, които не обучават на нашите данни. В момента използваме DeepInfra, който предоставя само инференция за модели с отворен код.

Сега, след като това е изяснено :)

Какво е новото

FastComments сега предоставя автоматизирани агенти, които могат да извършват модерационни задачи, да фиксират коментари, да обобщават нишки от коментари и още.

Можете да ги намерите под Customize, then AI Agents.

Тригери и Инструменти

Всеки агент е настроен с списък от тригери и списък от разрешени действия. Тригери включват нови коментари, редакции, изтривания, прагове на гласуване, прагове за маркиране, действия на модератори, коментатори за първи път и други. Ако не искате агент да блокира потребители, можете да изключите инструмента за блокиране.

Например, ако искате само "обобщител на нишката", който само отговаря след определен брой коментари и фиксира този коментар, можете да настроите правомощията на агента така, че той да има достъп само до тези действия.

Можете също да ограничите агента до специфични URL шаблони като /news/* или /forums/*, и до специфични местоположения, така че френскоязичен агент на общността да не започне да отговаря на вашите англоговорещи страници.

Тестов период, Одобрения и Бюджети

Всеки агент стартира в режим на тестов период по подразбиране. В режим на тестов период агентът чете контекста и описва какво би направил, но всъщност не прави нищо. Можете да наблюдавате как минават реални тригери, да видите предложените действия и разсъжденията на агента, и да решите дали му вярвате, преди да го активирате.

За чувствителни инструменти можете да изисквате човешко одобрение. Агентът поставя действието в опашка, администратор преглежда предложеното действие заедно с разсъжденията и увереността на агента и одобрява или отхвърля. Блокирането винаги изисква одобрение в ЕС по член 17 от DSA, но можете да изисквате одобрение за всеки инструмент, навсякъдето.

Всеки агент има дневен и месечен лимит на бюджета. Когато лимитът бъде достигнат, агентът спира да работи, докато периодът не изтече. Изпращаме ви имейли при подразбиращи се прагове от 80 процента и 100 процента (можете също да се абонирате за известие при 50 процента), така че да няма изненадващи фактури.

Памет

Агентите имат памет, която агентът чете и записва сам за себе си. Те могат да записват кратки бележки за потребител или модел, като "предупреждаван за извън темата три пъти" или "група за спам, публикуваща връзки към домейн X", и да прочитат тези бележки при следващия тригер. Паметта се споделя между агентите във вашия обект, така че бележките на агент за добре дошли могат да информират решенията на модерационен агент по-късно. Паметта, свързана с потребител, се изтрива, ако той изтрие акаунта си.

Възпроизвеждане и Тестов Период

Преди да пуснете агент на жив трафик, можете да го стартирате срещу вашите исторически коментари. Инструментът за възпроизвеждане преминава през реални минали коментари в режим на тестов период, показва ви какво би направил агентът и класифицира всяко предложено действие спрямо това, което всъщност се е случило. Това е най-бързият начин за настройка на системния подканващ текст, без да чакате живи събития.

Модели, Поверителност и Разходи

Агентите работят на модели с отворени тегла, хоствани от инфраструктурни доставчици, които не обучават на клиентски данни. В момента можете да избирате между по-бърз модел (gpt-oss-120B-turbo) и по-умен, по-бавен (GLM 5.1), и ще продължим да добавяме опции, тъй като обстановката се развива. Разходите се измерват на токен и се конвертират в долари на вашата страница за използване, заедно с ежедневни и месечни тенденции.

Като част от тази промяна, намаляваме цените на токените от $80 за 1M токена на $20 за 1M комбинирани входно/изходни токени. Повечето от нашите клиенти харчат много малко за токени за откриване на спам, тъй като оригиналната система за откриване на спам на база LLM само триажира към LLM, ако спамът е преминал през класификатора naive-bayes, затова първоначалната цена беше висока. Намаляваме цената, за да насърчим използването на новата функционалност на агентите.

В някой момент, когато разходите за памет се върнат надолу и модели като GLM 5.1 станат по-разумни за работа на собствен хардуер, ще преминем от използването на външен доставчик и ще управляваме хардуера сами.

В Заключение

Обмисляхме дълго как да изградим това, без да накараме агента да се чувства, че е в контрол. Режимът на тестов период, одобренията, ограничените инструменти, лимитите на бюджета и възпроизвеждането срещу историята всичко съществува, за да ви помогне да останете под контрол. Надяваме се AI агенти да освободят вашите модератори за разговорите, които всъщност изискват човек.

Благодарим на нашите клиенти, които ни дават непрекъснато обратна връзка, за да можем да мислим за идеи като тази и също така ни дават време да ги стартираме добре. Както винаги, не се колебайте да ни уведомите по-долу, ако откриете някакви проблеми.

Наздраве!