FastComments запускає AI агенти

Примітка до спільноти

Я хочу одразу зазначити - ми не розробляємо щось таке, що дозволяє ботам претендувати на роль реальних користувачів. Це не те, що я вважаю добрим для інтернету, онлайн-спільнот чи нашого вектору розвитку продукту. Мета AI агентів - надати можливість командам модерації або власникам спільнот, які не можуть дозволити собі виділених модераторів.

Всі коментарі, залишені AI, повинні мати тег "Bot". Це спосіб, яким продукт постачається, і будь-які сайти, які якимось чином видалять тег Bot з коментарів ботів, матимуть цю функцію вимкненою. Також ми використовуємо лише постачальників LLM, які не навчаються на наших даних. Наразі ми користуємось DeepInfra, який надає лише висновок для відкритих моделей.

Тепер, коли це взято до уваги :)

Що нового

FastComments тепер надає автоматизованих агентів, які можуть виконувати модераційні завдання, закріплювати коментарі, підсумовувати коментарі та більше.

Ви можете знайти їх у Налаштування, потім AI агенти.

Тригери та інструменти

Кожен агент налаштований зі списком тригерів та списком дозволених дій. Тригери включають нові коментарі, редагування, видалення, пороги голосування, пороги позначок, дії модераторів, коментаторів-початківців і більше. Якщо ви не хочете, щоб агент забороняв користувачів, ви можете виключити інструмент заборони.

Наприклад, якщо ви хочете лише "підсумовувача теми", який відповідає тільки після певної кількості коментарів і закріплює цей коментар, ви можете налаштувати дозволи агента так, щоб він мав доступ лише до цих дій.

Ви також можете обмежити агента до певних шаблонів URL, таких як /news/* або /forums/*, і до певних мовних локалей, щоб агент французькомовної спільноти не починав відповідати на ваших англійських сторінках.

Тестовий режим, затвердження та бюджети

Кожен агент запускається в режимі тестового запуску за замовчуванням. У тестовому режимі агент читає контекст і записує, що він робив би, але насправді нічого не робить. Ви можете спостерігати за кількома реальними тригерами, переглядати запропоновані дії та міркування агента, і вирішити, чи довіряєте ви йому, перш ніж перевести його в активний режим.

Для чутливих інструментів ви можете вимагати людського затвердження. Агент ставить дію в чергу, адміністратор переглядає запропоновану дію разом з міркуваннями агента та його впевненістю, і схвалює або відхиляє. Заборони завжди вимагають затвердження в ЄС відповідно до статті 17 DSA, але ви можете вимагати затвердження для будь-якого інструменту, будь-де.

Кожен агент має щоденний та місячний ліміт бюджету. Коли ліміт досягається, агент припиняє роботу, поки період не закінчується. Ми надсилаємо вам електронний лист за стандартними порогами 80 відсотків і 100 відсотків (ви також можете підписатися на сповіщення про 50 відсотків), щоб не було несподіваних рахунків.

Пам'ять

Агенти мають пам'ять, яку агент читає й пише для себе. Вони можуть зберігати короткі нотатки про користувача або шаблон, такі як "попереджений за офф-топік тричі" або "спам-група публікує посилання на домен X", і читати ці нотатки при наступному тригері. Пам'ять спільна між агентами у вашому орендарі, тому нотатки агента привітання можуть впливати на рішення агента модерації пізніше. Пам'ять, пов'язана з користувачем, очищається, якщо вони видаляють свій обліковий запис.

Відтворення та тестовий запуск

Перед тим як відпустити агента на живий трафік, ви можете запустити його проти ваших історичних коментарів. Інструмент відтворення проходить через реальні минулі коментарі в тестовому режимі, показує, що агент зробив би, і класифікує кожну запропоновану дію проти того, що насправді сталося. Це найшвидший спосіб налаштувати системний запит без очікування живих подій.

Моделі, конфіденційність та вартість

Агенти працюють на відкритих вагових моделях, розміщених постачальниками інфраструктури, які не навчаються на даних клієнтів. Сьогодні ви можете вибрати між швидшою моделлю (gpt-oss-120B-turbo) і розумнішою, але повільнішою (GLM 5.1), і ми продовжимо додавати опції, оскільки ситуація розвивається. Вартість стягується за токени та конвертується в долари на вашій сторінці використання, поряд з щоденними та місячними тенденціями.

У рамках цієї зміни ми знижуємо наші витрати на токени з 80 доларів за 1 млн токенів до 20 доларів за 1 млн комбінованих токенів вводу/виводу. Більшість наших клієнтів витрачають дуже мало на токени для виявлення спаму, оскільки оригінальна система виявлення спаму на базі LLM лише передавала запити до LLM, якщо спам минув класифікатор наївного байєса, отже, і висока первісна вартість. Ми знижуємо цю вартість, щоб заохотити використання нових функцій агентів.

В якийсь момент, коли витрати на пам'ять знову знизяться, і моделі, такі як GLM 5.1, стануть більш доцільними для запуску на самостійно хостованому апаратному забезпеченні, ми відмовимось від використання зовнішнього постачальника та запустимо апаратуру самостійно.

На завершення

Ми довго думали про те, як побудувати це, не роблячи відчуття того, що агент контролює процес. Тестовий режим, затвердження, обмежені інструменти, бюджетні ліміти та відтворення історії існують, щоб допомогти вам зберегти контроль. Ми сподіваємось, що AI агенти звільнять ваших модераторів для розмов, які дійсно потребують людини.

Ми дякуємо нашим клієнтам, які постійно надають зворотний зв'язок, завдяки чому ми можемо придумувати такі ідеї, а також надавати нам час для їх успішного запуску. Як завжди, дайте нам знати нижче, якщо ви виявите будь-які проблеми.

На здоров'я!