审核
规则与生命周期
开启审核,为 AI 提供语境,设置评论可等待的时长,并调整每个类别的阈值。
打开 Site Console → 你的组件 → Moderation Rules。所有者和管理员可以修改这些设置。页面分为两部分:Lifecycle 以及下方的标记规则(flag rules)。
修改会从下一条提交的评论开始生效,网站上无需重新发布任何内容。修改后会出现 Save 和 Cancel;带着未保存的修改离开页面时会要求确认。
Lifecycle(生命周期)
| 设置 | 默认值 | 控制内容 |
|---|---|---|
| Moderation | 关闭 | 是否检查评论。关闭时评论按原样发布,词语规则和防垃圾限制也会停止。 |
| Content category | 未设置 | AI 理解评论时所用的语境。 |
| Review deadline | 7 天 | 系统做出决定前,评论可以在队列中等待多久。1 到 365 天。 |
| Deadline action | Automatic | 到期时如何处理。 |
| Automatic cut-off | 60% | 仅适用于 Automatic:到期时,分数达到或高于此值的评论被拒绝,低于此值的被批准。 |
| Retention window | 180 天 | 被拒绝的评论在内容被永久删除前保留多久。30 到 3650 天。 |
Content category(内容类别)
选择与你的网站最接近的一项:general、comics、ecommerce、news、gaming、forum、education 或 social。AI 会在这个语境中阅读每条评论。针对虚构反派的狠话在漫画网站上没有问题,但在商品评价中指向卖家时,意思就完全不同了。不设置类别时,AI 只根据文字本身判断。
Deadline action(到期处理方式)
- Automatic 根据 AI 分数和 Automatic cut-off 决定。想让积压的旧评论更多地发布,就调高分界值;想拒绝更多,就调低。
- Approve 始终发布等待中的评论。
- Reject 始终拒绝它们。
- Keep waiting 从不做决定。只有确实有人在处理队列时才选择它。
自动决定永远不会改变作者的信任分。被举报的评论和作者自己删除的评论另有规则,请参阅审核机制。
Retention window(保留期)
保留期结束后,被拒绝评论的内容(包括图片)将被永久删除。如果需要更长时间地保留评论,请在到期前延长保留期。
标记规则
AI 会针对每个类别给每条评论一个 0% 到 100% 的置信分(confidence score,CS),表示它有多确定这条评论属于该类别。每个类别有一行,带有两个滑块:
- Review:达到这个分数时,评论进入你的队列。这一行也会提示你的到期处理方式会如何处理它。
- Reject:达到这个分数时,评论立即被拒绝。
低于 review 滑块的评论会被发布。拖动滑块,或选中后使用方向键调整,然后点击 Save。
标有 Default 的行仍在使用内置阈值。保存某一行后,它就成为你自己的规则;各类别相互独立,你可以只调整其中一个而不影响其他类别。
为了让规则保持合理,控制台会把滑块限制在以下范围内:
| 滑块 | 允许范围 |
|---|---|
| Review | 30% 起,始终低于 Reject |
| Reject | 70% 到 95% |
调整建议
- 队列里好评论太多? 调高频繁触发的那个类别的 Review。Comments & Moderation 中的徽章会告诉你是哪一个。
- 有害评论漏网? 调低该类别的 Review,让更多此类评论等待你处理。
- AI 拒绝了好评论? 调高 Reject。随机抽取 1% 已拒绝评论放入队列的机制,是发现这一问题的最好方式。
- 队列处理不过来? 再邀请一位审核员,或交给到期处理方式来消化积压。