FastComments лансира AI агенте

Напомена за заједницу

Желим одмах да разјасним – не градимо нешто што би ботове оставило да се представљају као прави корисници. Ово није нешто у чему верујем да је добро за интернет, онлајн заједнице или наш правци производа. Циљ AI агената је да оснажи тимове за модерацију или власнике заједница који не могу да приуште посвећене модераторе.

Сви коментари које остави AI морају имати ознаку Bot. Ово је начин на који се производ испоручује, и свака веб локација која из неког разлога уклони ознаку Bot са коментара бота ће имати онемогућену функцију. Такође, користимо само LLM провајдере који не тренирају на нашим подацима. Тренутно користимо DeepInfra, који пружа само инференцу за отворене моделе.

Сада када је то разјашњено :)

Шта је ново

FastComments сада пружа аутоматизоване агенте који могу обављати задатке модерације, закачити коментаре, сумирати теме коментара и још много тога.

Можете их пронаћи под Customize, then AI Agents.

Окидачи и алати

Сваки агент је подешен са листом окидача и листом дозвољених радњи. Окидачи укључују нове коментаре, измене, брисања, прагове гласова, прагове заставица, радње модератора, први коментатори и још много тога. Ако не желите да агент банује кориснике, можете искључити алат за бан.

На пример, ако желите само „сумаризатор теме“ који одговара након одређеног броја коментара и закачи тај коментар, можете подесити дозволе агента тако да има приступ само тим радњама.

Такође можете ограничити агента на специфичне URL шаблоне као што су /news/* или /forums/*, и на специфичне локале, тако да агент за францускојезичну заједницу не почиње да одговара на вашим енглеским страницама.

Суви режим, одобрења и буџети

Сваки агент се подразумевано покреће у сувом режиму. У сувом режиму, агент чита контекст и исписује шта би урадио, али заправо ништа не уради. Можете посматрати неколико правих окидача, погледати предложене радње и размишљање агента, и одлучити да ли му верујете пре него што га укључите.

За осетљиве алате, можете захтевати људско одобрење. Агент ставља радњу у ред, администратор прегледа предложену радњу заједно са размишљањем и сигурношћу агента, и одобрава или одбија. Бановање увек захтева одобрење у ЕУ према члану 17 DSA, али можете захтевати одобрење за било који алат, било где.

Сваки агент има дневни и месечни лимит буџета. Када се лимит достигне, агент престаје да ради док се период не обнови. Шаљемо вам имејл на подразумеваним праговима од 80% и 100% (можете се такође пријавити за обавештење на 50%) како не би било изненада у фактури.

Меморија

Агенти имају меморију коју агент чита и пише за себе. Могу сачувати кратке белешке о кориснику или шаблону, као што су „упозорен за ван теме три пута“ или „спам прстен објављује линкове ка домену X“, и прочитати те белешке приликом следећег окидача. Меморија се дели између агената у вашем tenancy-у, тако да белешке агента добродошлице могу утицати на одлуке модерационог агента касније. Меморија повезана са корисником се брише ако он обрише свој налог.

Поновно пуштање и тестирање

Пре него што пустите агента у живи саобраћај, можете га покренути против ваших историјских коментара. Алат за реплеј пролази кроз праве прошле коментаре у сувом режиму, показује вам шта би агент урадио, и класификује сваку предложену радњу у односу на то шта се заиста десило. Ово је најбржи начин да подесите системски промпт без чекања на живе догађаје.

Модели, приватност и трошкови

Агенти раде на моделима отворене тежине које хостују инфраструктурни провајдери који не тренирају на подацима купаца. Данас можете изабрати између бржег модела (gpt-oss-120B-turbo) и паметнијег, споријег (GLM 5.1), и наставићемо да додајемо опције како се пејзаж развија. Трошак се мери по токену и конвертује у доларе на вашој страници за коришћење, заједно са дневним и месечним трендовима.

Као део ове промене, снижавамо цене токена са $80 по 1M токена на $20 по 1M укупних улазних/излазних токена. Већина наших купаца троши врло мало на токене за детекцију спама, јер оригинални LLM-базиран систем детекције спама само је прослеђивао LLM-у ако спам прође наивно-беијсов класификатор, што је првобитно довело до високих трошкова. Сада снижавамо трошак како бисмо подстакли коришћење нове функционалности агената.

У неком тренутку, када трошкови меморије опадну и модели попут GLM 5.1 постану разумнији за покретање на сопственом хардверу, прећи ћемо са коришћења спољног провајдера и сами хостовати хардвер.

У закључку

Дуго смо размишљали како да изградимо ово без осећаја да је агент на челу. Суви режим, одобрења, ограничени алати, лимити буџета и реплеј против историје постоје да вам помогну да останете у контролу. Надамо се да ће AI агенти ослободити ваше модераторе за разговоре који заиста захтевају човека.

Захваљујемо се нашим купцима који нам пружају континуиране повратне информације како бисмо могли да смислимо идеје попут ове и такође нам дају време да их добро лансирамо. Као и увек, јавите нам у коментару испод ако откријете било какве проблеме.

Желимо вам све најбоље!