So funktioniert die Moderation

Jeder Kommentar durchläuft einige schnelle Prüfungen und danach eine KI-Prüfung. Die meisten Kommentare erscheinen innerhalb von ein, zwei Sekunden, ohne dass jemand hinsehen muss. Die, bei denen die KI unsicher ist, warten in Ihrer Moderationswarteschlange. Kümmert sich niemand darum, wird nach einer Frist für Sie entschieden. Abgelehnte Kommentare werden eine Zeit lang aufbewahrt, danach wird ihr Inhalt endgültig gelöscht.

Schwellenwerte, Frist und Aufbewahrungsdauer steuern Sie unter Moderation Rules. Siehe Regeln und Lebenszyklus.

Der Weg eines Kommentars

Solange ein Kommentar bei irgendeinem Schritt wartet, sehen Ihre Leser ihn nicht. Der Verfasser sieht ihn als abgeschickt.

1. Sofortprüfungen

Sie laufen in Millisekunden, bevor der Kommentar gespeichert wird.

• Spam-Limits. Ein Verfasser kann 5 Kommentare pro Minute und 30 pro Stunde posten. Wer denselben Text immer wieder postet, löst eine härtere Reaktion aus: Die Kommentare des Verfassers von diesem Tag gehen zurück in die Prüfung, und er kann 24 Stunden lang nicht posten.
• Linkregeln. Links zu bekannten Bild-Hostern sind erlaubt. Linkverkürzer und Links von brandneuen Konten landen in Ihrer Warteschlange. Etablierte Verfasser können frei verlinken.
• Wortregeln. Wörter und Ausdrücke, die einen Kommentar blockieren, in Ihre Warteschlange schicken oder nur protokolliert werden. Sie lassen sich auf eine Sprache beschränken, sodass ein Wort, das in einer Sprache eine Beleidigung und in einer anderen harmlos ist, nur dort greift, wo es soll. Wortregeln lassen sich in der Site Console noch nicht bearbeiten.

2. Vertrauenswürdige Verfasser haben Vorrang

Jeder Verfasser hat einen Vertrauenswert von 0 bis 100, der bei 50 beginnt:

Ein Verfasser mit einem Wert von 60 oder mehr und mindestens 15 genehmigten Kommentaren gilt als vertrauenswürdig: Seine Kommentare erscheinen sofort, ohne KI-Prüfung. Ihre Stammleser warten nie in der Warteschlange. Eine Ablehnung kostet so viel Vertrauen wie zehn Genehmigungen, verlorenes Vertrauen ist also schwer zurückzugewinnen.

3. KI-Prüfung

Die KI bewertet alle übrigen Kommentare in sechs Kategorien, von 0 (nichts) bis 1 (unverkennbar):

hate_speech (Hassrede) · insult (Beleidigung) · threat (Drohung) · fraud (Betrug) · explicit (explizite Inhalte) · nonsense (Unsinn)

Ihre Flag-Regeln (flag rules) legen fest, was jeder Wert bedeutet. Jede Kategorie hat zwei Schwellenwerte:

• Ab review geht der Kommentar in Ihre Warteschlange.
• Ab reject wird er sofort abgelehnt.
• Liegt er unter beiden, wird er veröffentlicht.

Jede Kategorie startet mit eingebauten Schwellenwerten, die Sie Kategorie für Kategorie ändern können. nonsense wird bewertet und in der Analyse angezeigt, hält Kommentare standardmäßig aber nicht zurück: Kauderwelsch ist lästig, nicht schädlich.

Die KI berücksichtigt außerdem Ihre Inhaltskategorie. „Diese Figur ist widerlich, ich habe ihn gehasst“ ist auf einer Comic-Website gewöhnliche Kritik und in den Produktbewertungen eines Shops ein Problem. Wenn Sie die Kategorie festlegen (comics, ecommerce, news, gaming, forum, education, social oder general), liest die KI Kommentare im richtigen Zusammenhang.

4. Ihre Warteschlange

Kommentare, bei denen die KI unsicher war, warten unter Comments & Moderation im Tab Pending. Zu jedem sehen Sie, warum er markiert wurde, die zugrunde liegenden Werte und das Vertrauensprofil des Verfassers. Sie genehmigen oder lehnen ab. Eine Genehmigung veröffentlicht den Kommentar und erhöht das Vertrauen; eine Ablehnung blendet ihn aus und senkt es. Siehe Kommentare moderieren.

Meldungen von Lesern

Leser können einen veröffentlichten Kommentar melden. Meldungen werden nach dem Vertrauenswert der meldenden Person gewichtet, ein verlässlicher Leser zählt also mehr als ein brandneues Konto. Sobald genug Gewicht zusammenkommt, erscheint der Kommentar in Ihrer Warteschlange. Ein gemeldeter Kommentar bleibt sichtbar, solange er wartet: Eine Meldung allein reicht nicht, um etwas auszublenden.

5. Wenn sich niemand um die Warteschlange kümmert

Das läuft, ob Sie zusehen oder nicht. Wartet ein Kommentar länger als Ihre Prüffrist (standardmäßig 7 Tage), entscheidet das System für Sie, damit eine unbeaufsichtigte Warteschlange gute Kommentare nie für immer begräbt. Sie wählen, wie:

Manche Kommentare werden nie auf diese Weise entschieden:

• Kommentare, die ihr Verfasser gelöscht hat, bleiben gelöscht.
• Kommentare, über die Sie bereits entschieden haben, werden einfach aus der Warteschlange entfernt.
• Gemeldete Kommentare erhalten stattdessen eine neue KI-Prüfung. Ihr Verfasser war womöglich vertrauenswürdig, sodass es keinen Wert gibt, nach dem man gehen könnte. Schickt die neue Prüfung den Kommentar zurück in die Warteschlange und läuft die Frist erneut ab, wird die Meldung verworfen.

Automatische Entscheidungen ändern nie den Vertrauenswert des Verfassers. Entschieden hat die Frist, nicht das Verhalten des Verfassers. In der Analyse des Kommentars sind automatische Entscheidungen als solche gekennzeichnet, sodass Sie sie von Ihren eigenen unterscheiden können.

6. Was mit abgelehnten Kommentaren geschieht

Ein abgelehnter Kommentar verschwindet sofort von Ihrer Website, wird aber für Ihre Aufbewahrungsdauer (standardmäßig 180 Tage, 30 Tage bis 10 Jahre) aufbewahrt, falls die Entscheidung angefochten wird. Nach Ablauf wird sein Inhalt endgültig gelöscht:

• Niemand hat geantwortet: Der Kommentar wird samt Bildern vollständig gelöscht.
• Jemand hat geantwortet: Der Kommentar bleibt als leerer Platzhalter stehen, damit das Gespräch darunter zusammenhält. Text, Bilder, die IP-Adresse und die Browserdaten des Verfassers werden gelöscht. Leser sehen ihn wie zuvor als gelöscht.

7. Die KI überprüfen

Einige Male am Tag nimmt das System zufällig 1 % der kürzlich abgelehnten Kommentare und legt sie zur zweiten Prüfung in Ihre Warteschlange. So erkennen Sie, ob die KI zu viel ablehnt. Das Prüfen ändert nichts, solange Sie nicht genehmigen. Finden Sie darunter immer wieder gute Kommentare, sind Ihre Schwellenwerte zu streng.

Häufige Fragen

Ein Kommentar wurde abgelehnt und der Verfasser fragt nach dem Grund. Öffnen Sie ihn unter Comments & Moderation. Von der KI abgelehnte Kommentare zeigen ihre vollständige Analyse: welche Kategorien angeschlagen haben, wie stark und mit welchem Urteil. Entscheidungen von vor der Speicherung der Analysen haben keine.

Muss ich die Warteschlange täglich prüfen? Nein, dafür gibt es die Frist. Die automatische Entscheidung ist aber eine Rückfallebene, kein Ersatz: Sie kann den Zusammenhang nicht so lesen wie Sie. Wählen Sie Keep waiting nur, wenn sich wirklich jemand um die Warteschlange kümmert.

Ein Verfasser sagt, sein Kommentar sei verschwunden. Prüfen Sie, ob er ein Spam-Limit erreicht hat. Wer denselben Text wiederholt postet, wird 24 Stunden gesperrt, und die Kommentare dieses Tages gehen zurück in die Prüfung. Das ist die häufigste Ursache.