モデレーションの仕組み
すべてのコメントは、いくつかの即時チェックを経て AI の審査を受けます。ほとんどのコメントは誰の確認も必要とせず、1〜2 秒で公開されます。AI が判断に迷ったコメントは、モデレーションキューで待機します。誰も対応しなければ、期限後にあなたに代わって判断されます。却下されたコメントは一定期間保存された後、内容が完全に削除されます。
しきい値、期限、保存期間は Moderation Rules で設定します。ルールとライフサイクルをご覧ください。
コメントがたどる流れ
| ステップ | 内容 |
|---|---|
| 1. 即時チェック | 禁止語、不審なリンク、短時間での連続投稿を検出します。 |
| 2. 信頼できる投稿者か | 長く良好な実績がある投稿者は、すぐに公開されます。 |
| 3. AI の審査 | 明らかに問題なし：公開。明らかに有害：却下。判断に迷う：キューへ。 |
| 4. あなたのキュー | あなたが承認または却下します。 |
| 5. 誰も対応しなかった | 期限が過ぎると自動で判断されます。 |
| 6. 却下されたコメント | 保存期間の終了後に内容が削除されます。 |
コメントがどのステップで待機していても、読者には表示されません。投稿者には送信済みとして表示されます。
1. 即時チェック
コメントが保存される前に、数ミリ秒で実行されます。
- スパム制限：投稿者は 1 分間に 5 件、1 時間に 30 件までコメントできます。同じ文章を何度も投稿すると、より厳しい対応になります。その投稿者のその日のコメントが再審査に戻され、24 時間投稿できなくなります。
- リンクのルール：よく知られた画像ホスティングへのリンクは通過します。短縮 URL や作成されたばかりのアカウントからのリンクはキューに送られます。実績のある投稿者は自由にリンクを投稿できます。
- 単語ルール：コメントをブロックする、キューに送る、または記録だけ行う単語やフレーズです。言語を限定できるため、ある言語では侮辱でも別の言語では無害な単語が、必要な場合にだけ反応します。単語ルールは、まだ Site Console から編集できません。
2. 信頼できる投稿者は優先される
各投稿者には 0〜100 の信頼スコアがあり、初期値は 50 です。
| イベント | 変化 |
|---|---|
| コメントが承認された | +1 |
| コメントが却下された、またはスパムと判定された | −10 |
| アカウント作成から 30 日経過 | +5 |
| アカウント作成から 90 日経過 | +5 |
スコアが 60 以上で、かつ承認済みコメントが 15 件以上ある投稿者は信頼できる投稿者とみなされ、そのコメントは AI の審査なしですぐに公開されます。常連の読者がキューで待たされることはありません。1 回の却下は 10 回の承認と同じだけ信頼を失うため、失った信頼を取り戻すのは簡単ではありません。
3. AI の審査
AI は、それ以外のすべてのコメントを 6 つのカテゴリで、0（該当なし）から 1（明白）の範囲で採点します。
hate_speech（ヘイトスピーチ）· insult（侮辱）· threat（脅迫）· fraud（詐欺）· explicit（露骨な内容）· nonsense（無意味な内容）
各スコアの扱いは、あなたのフラグルール（flag rules）で決まります。各カテゴリには 2 つのしきい値があります。
- review 以上なら、コメントはキューに送られます。
- reject 以上なら、すぐに却下されます。
- どちらにも満たなければ公開されます。
各カテゴリは組み込みのしきい値から始まり、カテゴリごとに変更できます。nonsense は採点されて分析に表示されますが、標準ではコメントを保留しません。意味のない文章は迷惑ではあっても、有害ではないからです。
AI は、あなたのコンテンツカテゴリも考慮します。「このキャラクターは最低だ、大嫌いだ」は、漫画サイトではごく普通の批評ですが、ショップの商品レビューでは問題になります。カテゴリ（comics、ecommerce、news、gaming、forum、education、social、general）を設定すると、AI は適切な文脈でコメントを読めるようになります。
4. あなたのキュー
AI が判断に迷ったコメントは、Comments & Moderation の Pending タブで待機します。それぞれについて、フラグが立った理由、その根拠となるスコア、投稿者の信頼プロフィールを確認できます。あなたが承認または却下します。承認するとコメントが公開されて信頼が上がり、却下すると非表示になって信頼が下がります。コメントのモデレーションをご覧ください。
読者からの報告
読者は公開されたコメントを報告できます。報告は報告者自身の信頼スコアで重み付けされるため、信頼できる読者の報告は、作成されたばかりのアカウントの報告より重く扱われます。重みが十分にたまると、コメントがキューに表示されます。報告されたコメントは、待機中も表示されたままです。報告だけでは非表示になりません。
5. 誰もキューに対応しない場合
この仕組みは、あなたが見ているかどうかにかかわらず動作します。コメントが審査期限（標準は 7 日）を過ぎても待機している場合、システムがあなたに代わって判断します。放置されたキューが良いコメントを永遠に埋もれさせることはありません。判断方法は次から選べます。
| 期限切れ時の動作 | 内容 |
|---|---|
| Automatic（標準） | AI のスコアで判断します。カットオフ（標準は 60%）以上なら却下、未満なら承認します。 |
| Approve | 常に公開します。 |
| Reject | 常に却下します。 |
| Keep waiting | 自動では判断しません。誰かが対応するまでキューに残ります。 |
次のコメントは、この方法で判断されることはありません。
- 投稿者が削除したコメントは、削除されたままです。
- すでに判断したコメントは、キューから取り除かれるだけです。
- 報告されたコメントは、代わりに AI の再審査を受けます。投稿者が信頼されていた場合、判断材料となるスコアがないことがあるためです。再審査でキューに戻され、再び期限が切れた場合は、報告が取り下げられます。
自動判断によって投稿者の信頼スコアが変わることはありません。 判断したのは期限であって、投稿者の行動ではないからです。コメントの分析では自動判断にラベルが付くため、あなた自身の判断と区別できます。
6. 却下されたコメントのその後
却下されたコメントはすぐにサイトから消えますが、判断に異議が出た場合に備えて保存期間（標準は 180 日、30 日〜10 年）の間は保存されます。期間が終わると、内容は完全に削除されます。
- 返信がない場合：コメントは画像とともに完全に削除されます。
- 返信がある場合：下に続く会話が崩れないよう、コメントは空のプレースホルダーとして残ります。本文、画像、投稿者の IP アドレスとブラウザ情報は削除されます。読者には、これまでどおり削除済みとして表示されます。
7. AI をチェックする
1 日に数回、システムは最近却下されたコメントから無作為に 1% を選び、再確認のためにキューに入れます。AI が却下しすぎていないかを確認するためのものです。確認しても、承認しない限り何も変わりません。その中に良いコメントが何度も見つかるなら、しきい値が厳しすぎます。
よくある質問
コメントが却下され、投稿者が理由を尋ねている。 Comments & Moderation でそのコメントを開いてください。AI が却下したコメントには、どのカテゴリがどの程度反応したか、どんな判定だったかという分析がすべて表示されます。分析の保存が始まる前の判断には、分析がありません。
キューは毎日確認する必要がありますか？ いいえ。そのために期限があります。ただし自動判断はあくまで予備の手段で、代わりにはなりません。あなたのように文脈を読むことはできないからです。Keep waiting は、誰かが実際にキューに対応している場合にだけ選んでください。
投稿者が、コメントが消えたと言っている。 スパム制限に引っかかっていないか確認してください。同じ文章を繰り返し投稿すると、24 時間投稿できなくなり、その日のコメントが再審査に戻されます。これが最もよくある原因です。