审核

审核机制

一条评论从提交到发布、被拒绝或最终删除的全过程。

每条评论都会先经过几项快速检查,再由 AI 审核。大多数评论在一两秒内就会发布,无需任何人查看。AI 拿不准的评论会进入你的审核队列。如果一直没人处理,到期后系统会替你做出决定。被拒绝的评论会保留一段时间,之后其内容会被永久删除。

阈值、期限和保留期都在 Moderation Rules 中设置。请参阅规则与生命周期。

新组件的审核默认关闭。关闭期间,评论按原样发布,下文所述的防垃圾限制和词语规则也不会生效。

一条评论的流程

步骤发生什么
1. 即时检查识别屏蔽词、可疑链接和过于频繁的发布。
2. 是否为可信作者有长期良好记录的作者,评论立即发布。
3. AI 审核明显没问题:发布。明显有害:拒绝。拿不准:进入你的队列。
4. 你的队列由你批准或拒绝。
5. 无人处理到期后自动做出决定。
6. 被拒绝的评论保留期结束后删除内容。

评论在任何一步等待时,读者都看不到它。作者看到的状态是已提交。

1. 即时检查

这些检查在评论保存之前完成,只需几毫秒。

  • 防垃圾限制。 每位作者每分钟最多发布 5 条评论,每小时最多 30 条。反复发布相同内容会触发更严厉的处理:该作者当天的评论会退回重新审核,并且 24 小时内无法发布。
  • 链接规则。 指向知名图床的链接可以通过。短链接以及新注册账号发布的链接会进入你的队列。老作者可以自由发布链接。
  • 词语规则。 用于屏蔽评论、把评论送入队列或仅作记录的词语和短语。规则可以限定语言,这样在一种语言里是侮辱、在另一种语言里无害的词,只会在该触发的地方生效。词语规则目前还不能在 Site Console 中编辑。

2. 可信作者优先通过

每位作者都有一个 0 到 100 的信任分,初始为 50:

事件变化
评论被批准+1
评论被拒绝或标记为垃圾内容−10
账号满 30 天+5
账号满 90 天+5

信任分 60 分及以上且至少有 15 条已批准评论的作者即为可信作者:其评论无需 AI 审核,立即发布。你的老读者永远不用在队列里等待。一次拒绝扣掉的信任相当于十次批准,失去的信任很难挣回来。

3. AI 审核

AI 会对其余所有评论在六个类别上打分,范围从 0(完全没有)到 1(确定无疑):

hate_speech(仇恨言论)· insult(侮辱)· threat(威胁)· fraud(欺诈)· explicit(露骨内容)· nonsense(无意义内容)

每个分数代表什么,由你的标记规则(flag rules)决定。每个类别有两个阈值:

  • 达到 review 及以上,评论进入你的队列。
  • 达到 reject 及以上,评论立即被拒绝。
  • 两个阈值都未达到,评论发布。

每个类别都从内置阈值开始,你可以逐个类别调整。nonsense 会被打分并显示在分析中,但默认不会拦截评论:乱码令人烦恼,但并无害处。

AI 还会参考你的内容类别。“这个角色太恶心了,我讨厌他”在漫画网站上是普通的评价,在商店的商品评价里却是个问题。设置类别(comics、ecommerce、news、gaming、forum、education、social 或 general)后,AI 就能在正确的语境中理解评论。

AI 每次只读一条评论,同时参考你的内容类别和检测到的语言。它看不到你的页面,也看不到评论串中的其他评论。离题和有组织的垃圾内容由防垃圾限制和重复检测来处理。

4. 你的队列

AI 拿不准的评论会在 Comments & Moderation 的 Pending 标签页中等待。你可以看到每条评论被标记的原因、背后的分数,以及作者的信任档案。由你批准或拒绝:批准会发布评论并提升作者的信任分,拒绝会隐藏评论并降低信任分。请参阅审核评论。

读者举报

读者可以举报已发布的评论。举报会按举报者自身的信任分加权,因此可靠读者的举报比新账号更有分量。累积的权重足够时,评论就会出现在你的队列中。被举报的评论在等待期间仍然可见:仅凭举报不足以隐藏内容。

5. 无人处理队列时

无论你是否关注,这一机制都会运行。如果评论在队列中等待超过你的审核期限(默认 7 天),系统会替你做出决定,以免无人照看的队列永远埋没好评论。处理方式由你选择:

到期处理方式作用
Automatic(默认)按 AI 分数决定:达到分界值(默认 60%)及以上则拒绝,低于则批准。
Approve始终发布。
Reject始终拒绝。
Keep waiting从不自动决定,队列会一直等到有人处理。

以下评论永远不会以这种方式决定:

  • 作者自己删除的评论保持删除状态。
  • 你已经处理过的评论只会从队列中移除。
  • 被举报的评论会改为重新进行一次 AI 审核。它们的作者可能是可信作者,因此可能没有可参考的分数。如果重新审核后评论又回到队列并再次到期,该举报将被撤销。

自动决定永远不会改变作者的信任分。 做出决定的是期限,而不是作者的行为。在评论的分析中,自动决定会单独标注,方便你与自己的决定区分开来。

6. 被拒绝的评论会怎样

被拒绝的评论会立即从网站上消失,但会在你的保留期内保留(默认 180 天,可设为 30 天到 10 年),以防有人对决定提出异议。保留期结束后,其内容会被永久删除:

  • 没有人回复:评论连同图片被完全删除。
  • 有人回复:为了不让下方的对话断开,评论会以空占位的形式保留。其文字、图片、作者的 IP 地址和浏览器信息都会被删除。读者看到的仍是“已删除”,与之前相同。
此操作无法撤销。如果需要更长时间地保留某条评论(例如用于法律程序),请在保留期结束前延长它。

7. 检查 AI 的表现

系统每天会多次从最近被拒绝的评论中随机抽取 1%,放入你的队列供二次查看。这样你可以发现 AI 是否拒绝过多。查看本身不会改变任何东西,除非你批准它。如果你经常在其中发现好评论,说明阈值设得太严。

常见问题

一条评论被拒绝了,作者询问原因。 在 Comments & Moderation 中打开它。被 AI 拒绝的评论会显示完整分析:哪些类别被触发、程度如何,以及 AI 的结论。在开始保存分析之前做出的决定没有分析记录。

我需要每天查看队列吗? 不需要,期限就是为此设置的。不过自动决定只是兜底手段,不能替代人工:它无法像你一样理解上下文。只有确实有人在处理队列时,才选择 Keep waiting。

有作者说他的评论不见了。 检查他是否触发了防垃圾限制。反复发布相同内容会被禁止发布 24 小时,并把当天的评论退回重新审核。这是最常见的原因。