FastCommentsがAIエージェントを発表

コミュニティへのメッセージ

まず最初に伝えたいのは、ボットが本物のユーザーのふりをするようなものは構築していないということです。これは、インターネットやオンラインコミュニティ、私たちの製品の方向性にとって良いことではないと考えています。AIエージェントの目的は、専任のモデレーターを雇うことができないモデレーションチームやコミュニティのオーナーを支援することです。

AIによって残されたすべてのコメントには「Bot」タグが付いている必要があります。これは製品が出荷される方法であり、ボットコメントからBotタグを何らかの方法で削除するサイトでは、この機能が無効になります。また、私たちは私たちのデータで学習しないLLMプロバイダーのみを使用しています。現在、私たちはオープンソースモデルの推論のみを提供するDeepInfraを使用しています。

さて、これで話は終わりです :)

新機能

FastCommentsは、モデレーションタスクを実行し、コメントをピン止めし、コメントスレッドを要約することができる自動エージェントを提供しています。

これらはカスタマイズ、その後AIエージェントの下で見つけることができます。

トリガーとツール

各エージェントはトリガーのリストと許可されたアクションのリストで設定されています。トリガーには新しいコメント、編集、削除、投票閾値、フラグ閾値、モデレーターのアクション、初めてのコメント者などが含まれます。エージェントにユーザーを禁止させたくない場合は、禁止ツールを除外することができます。

たとえば、特定の数のコメントの後にのみ返信し、そのコメントをピン止めする「スレッド要約者」だけを望む場合は、エージェントの権限を設定して、そのアクションにのみアクセスできるようにすることができます。

また、エージェントを特定のURLパターン（例：/news/* や /forums/*）や特定のロケールにスコープすることもできるため、フランス語のコミュニティエージェントがあなたの英語のページで返信を始めることはありません。

ドライラン、承認、および予算

すべてのエージェントはデフォルトでドライランモードで起動します。ドライランでは、エージェントはコンテキストを読み取り、何をするかを記述しますが、実際には何も行いません。いくつかのリアルトリガーを観察し、提案されたアクションとエージェントの理由を確認し、信頼できるかを決めた後に、有効に切り替えることができます。

敏感なツールについては、人間の承認を要求することができます。エージェントはアクションをキューに入れ、管理者が提案されたアクションとエージェントの理由と信頼度を確認し、承認または却下します。EUではDSA第17条に基づき、禁止は常に承認が必要ですが、どのツールでもどの場所でも承認を必要とすることができます。

すべてのエージェントには、日次および月次の予算上限があります。この上限に達すると、期間が切り替わるまでエージェントは動作を停止します。デフォルトで80％および100％のしきい値でメール通知を送信します（50％のアラートにもオプトインできます）ので、驚くような請求書はありません。

メモリ

エージェントには、エージェントが自分で読み書きするメモリがあります。彼らは「3回オフトピックで警告された」や「スパムリングがドメインXへのリンクを投稿している」など、ユーザーやパターンに関する短いメモを保存でき、次のトリガーでそれらのメモを読み取ることができます。メモリは、テナント内のエージェント間で共有されるため、ウェルカムエージェントのメモが後にモデレーションエージェントの決定に影響を与えることがあります。ユーザーに関連するメモは、アカウントが削除されるとクリアされます。

リプレイとテストラン

エージェントをライブトラフィックに解放する前に、過去のコメントに対して実行することができます。リプレイツールは実際の過去のコメントをドライランで通過し、エージェントが何をしたかを示し、提案された各アクションを実際に起こったことと分類します。これは、ライブイベントを待たずにシステムプロンプトを調整する最速の方法です。

モデル、プライバシー、およびコスト

エージェントは、顧客データで学習しないインフラプロバイダーがホストするオープンウェイトモデルで動作します。現在、より高速なモデル（gpt-oss-120B-turbo）と、より賢いが遅いモデル（GLM 5.1）を選択可能であり、状況が進化するにつれてオプションを追加していきます。コストはトークンごとにメーターされ、使用ページでドルに変換され、日次および月次のトレンドと一緒に表示されます。

この変更の一環として、1Mトークンあたり$80から1Mの入力/出力トークンの組み合わせで$20にトークンコストを引き下げています。ほとんどの顧客はスパム検出に非常に少ないトークンを使用しています。元のLLMベースのスパム検出システムは、スパムがナイーブベイズ分類器を通過した場合にのみLLMにトリアージされていたため、元々の高いコストがありました。この新しいエージェント機能の使用を促進するためにコストを引き下げています。

将来的にメモリコストが再び下がり、GLM 5.1のようなモデルが自己ホストハードウェア上でより合理的に実行できるようになると、外部プロバイダーの使用をやめて自らハードウェアを運用します。

結論

エージェントが管理を行っていると感じさせないようにするために、どのようにこれを構築するかについて長い間考えました。ドライラン、承認、スコープ付きツール、予算の上限、過去とのリプレイはすべて、あなたがコントロールを維持できるように存在しています。私たちは、AIエージェントが実際に人間を必要とする会話のためにあなたのモデレーターを解放することを望んでいます。

私たちは、私たちがこのようなアイデアを考え、うまくローンチする時間をくれる継続的なフィードバックをいただいている顧客に感謝します。いつものように、問題を発見した場合は下にお知らせください。

乾杯！