审核

规则与生命周期

开启审核,为 AI 提供语境,设置评论可等待的时长,并调整每个类别的阈值。

打开 Site Console → 你的组件 → Moderation Rules。所有者和管理员可以修改这些设置。页面分为两部分:Lifecycle 以及下方的标记规则(flag rules)。

修改会从下一条提交的评论开始生效,网站上无需重新发布任何内容。修改后会出现 Save 和 Cancel;带着未保存的修改离开页面时会要求确认。

Lifecycle(生命周期)

设置默认值控制内容
Moderation关闭是否检查评论。关闭时评论按原样发布,词语规则和防垃圾限制也会停止。
Content category未设置AI 理解评论时所用的语境。
Review deadline7 天系统做出决定前,评论可以在队列中等待多久。1 到 365 天。
Deadline actionAutomatic到期时如何处理。
Automatic cut-off60%仅适用于 Automatic:到期时,分数达到或高于此值的评论被拒绝,低于此值的被批准。
Retention window180 天被拒绝的评论在内容被永久删除前保留多久。30 到 3650 天。

Content category(内容类别)

选择与你的网站最接近的一项:general、comics、ecommerce、news、gaming、forum、education 或 social。AI 会在这个语境中阅读每条评论。针对虚构反派的狠话在漫画网站上没有问题,但在商品评价中指向卖家时,意思就完全不同了。不设置类别时,AI 只根据文字本身判断。

Deadline action(到期处理方式)

  • Automatic 根据 AI 分数和 Automatic cut-off 决定。想让积压的旧评论更多地发布,就调高分界值;想拒绝更多,就调低。
  • Approve 始终发布等待中的评论。
  • Reject 始终拒绝它们。
  • Keep waiting 从不做决定。只有确实有人在处理队列时才选择它。

自动决定永远不会改变作者的信任分。被举报的评论和作者自己删除的评论另有规则,请参阅审核机制。

Retention window(保留期)

保留期结束后,被拒绝评论的内容(包括图片)将被永久删除。如果需要更长时间地保留评论,请在到期前延长保留期。

标记规则

AI 会针对每个类别给每条评论一个 0% 到 100% 的置信分(confidence score,CS),表示它有多确定这条评论属于该类别。每个类别有一行,带有两个滑块:

  • Review:达到这个分数时,评论进入你的队列。这一行也会提示你的到期处理方式会如何处理它。
  • Reject:达到这个分数时,评论立即被拒绝。

低于 review 滑块的评论会被发布。拖动滑块,或选中后使用方向键调整,然后点击 Save。

标有 Default 的行仍在使用内置阈值。保存某一行后,它就成为你自己的规则;各类别相互独立,你可以只调整其中一个而不影响其他类别。

为了让规则保持合理,控制台会把滑块限制在以下范围内:

滑块允许范围
Review30% 起,始终低于 Reject
Reject70% 到 95%

调整建议

  • 队列里好评论太多? 调高频繁触发的那个类别的 Review。Comments & Moderation 中的徽章会告诉你是哪一个。
  • 有害评论漏网? 调低该类别的 Review,让更多此类评论等待你处理。
  • AI 拒绝了好评论? 调高 Reject。随机抽取 1% 已拒绝评论放入队列的机制,是发现这一问题的最好方式。
  • 队列处理不过来? 再邀请一位审核员,或交给到期处理方式来消化积压。