Fonctionnement de la modération
Chaque commentaire passe quelques vérifications rapides, puis un examen par l'IA. La plupart sont publiés en une ou deux secondes sans que personne n'ait à les regarder. Ceux qui font hésiter l'IA attendent dans votre file de modération. Si personne ne s'en occupe, une décision est prise pour vous après un délai. Les commentaires rejetés sont conservés un temps, puis leur contenu est supprimé définitivement.
Vous réglez les seuils, le délai et la durée de conservation dans Moderation Rules. Voir Règles et cycle de vie.
Le parcours d'un commentaire
| Étape | Ce qui se passe |
|---|---|
| 1. Vérifications instantanées | Mots bloqués, liens suspects et envois trop rapides sont détectés. |
| 2. Auteur de confiance ? | Les auteurs à l'historique long et irréprochable sont publiés aussitôt. |
| 3. Examen par l'IA | Clairement acceptable : publié. Clairement nuisible : rejeté. Douteux : envoyé dans votre file. |
| 4. Votre file | Vous approuvez ou rejetez. |
| 5. Personne n'a agi | Décision automatique à l'expiration de votre délai. |
| 6. Commentaires rejetés | Contenu supprimé à la fin de la durée de conservation. |
Tant qu'un commentaire attend à une étape, vos lecteurs ne le voient pas. Son auteur le voit comme envoyé.
1. Vérifications instantanées
Elles s'exécutent en quelques millisecondes, avant l'enregistrement du commentaire.
- Limites anti-spam. Un auteur peut publier 5 commentaires par minute et 30 par heure. Publier le même texte encore et encore déclenche une réponse plus ferme : les commentaires du jour de cet auteur repartent en examen et il ne peut plus publier pendant 24 heures.
- Règles de liens. Les liens vers des hébergeurs d'images connus passent. Les raccourcisseurs de liens et les liens de comptes tout juste créés vont dans votre file. Les auteurs bien établis peuvent publier des liens librement.
- Règles de mots. Des mots et expressions qui bloquent un commentaire, l'envoient dans votre file ou sont seulement journalisés. Elles peuvent être limitées à une langue : un mot insultant dans une langue mais anodin dans une autre ne se déclenche que là où il le doit. Les règles de mots ne sont pas encore modifiables depuis la Site Console.
2. Les auteurs de confiance passent devant
Chaque auteur a un score de confiance de 0 à 100, qui démarre à 50 :
| Événement | Variation |
|---|---|
| Un commentaire est approuvé | +1 |
| Un commentaire est rejeté ou marqué comme spam | −10 |
| Le compte atteint 30 jours | +5 |
| Le compte atteint 90 jours | +5 |
Un auteur avec un score de 60 ou plus et au moins 15 commentaires approuvés est de confiance : ses commentaires sont publiés aussitôt, sans examen par l'IA. Vos habitués n'attendent jamais dans la file. Un rejet coûte autant de confiance que dix approbations : la confiance perdue est difficile à regagner.
3. Examen par l'IA
L'IA note tous les autres commentaires dans six catégories, de 0 (rien) à 1 (sans aucun doute) :
hate_speech (discours de haine) · insult (insulte) · threat (menace) · fraud (fraude) · explicit (contenu explicite) · nonsense (contenu incohérent)
Vos règles de signalement (flag rules) déterminent ce que signifie chaque note. Chaque catégorie a deux seuils :
- À partir de review, le commentaire va dans votre file.
- À partir de reject, il est rejeté immédiatement.
- En dessous des deux, il est publié.
Chaque catégorie démarre avec des seuils intégrés, que vous pouvez modifier catégorie par catégorie. nonsense est noté et affiché dans l'analyse, mais par défaut il ne retient aucun commentaire : le charabia est agaçant, pas nuisible.
L'IA tient aussi compte de votre catégorie de contenu. « Ce personnage est répugnant, je l'ai détesté » est une critique banale sur un site de BD et un problème dans les avis produits d'une boutique. Définir la catégorie (comics, ecommerce, news, gaming, forum, education, social ou general) permet à l'IA de lire les commentaires dans le bon contexte.
4. Votre file
Les commentaires qui ont fait hésiter l'IA attendent dans Comments & Moderation, onglet Pending. Pour chacun, vous voyez pourquoi il a été signalé, les notes qui l'expliquent et le profil de confiance de l'auteur. Vous approuvez ou rejetez. Approuver publie le commentaire et augmente la confiance ; rejeter le masque et la diminue. Voir Modérer les commentaires.
Signalements des lecteurs
Les lecteurs peuvent signaler un commentaire publié. Les signalements sont pondérés par le score de confiance de la personne qui signale : un lecteur fiable compte davantage qu'un compte tout neuf. Quand le poids cumulé est suffisant, le commentaire apparaît dans votre file. Un commentaire signalé reste visible pendant qu'il attend : un signalement seul ne suffit pas à masquer quoi que ce soit.
5. Quand personne ne s'occupe de la file
Ce mécanisme tourne, que vous surveilliez ou non. Si un commentaire attend au-delà de votre délai d'examen (7 jours par défaut), le système décide pour vous : une file laissée à l'abandon n'enterre jamais indéfiniment de bons commentaires. Vous choisissez comment :
| Action à l'échéance | Effet |
|---|---|
| Automatic (par défaut) | Décide selon la note de l'IA : au-dessus ou au niveau du seuil (60 % par défaut), rejet ; en dessous, approbation. |
| Approve | Publie toujours. |
| Reject | Rejette toujours. |
| Keep waiting | Ne décide jamais automatiquement. La file attend que quelqu'un agisse. |
Certains commentaires ne sont jamais tranchés de cette façon :
- Les commentaires supprimés par leur auteur restent supprimés.
- Les commentaires que vous avez déjà tranchés sont simplement retirés de la file.
- Les commentaires signalés font plutôt l'objet d'un nouvel examen par l'IA. Leur auteur était peut-être de confiance : il n'y a alors aucune note sur laquelle s'appuyer. Si ce nouvel examen renvoie le commentaire dans la file et que le délai expire de nouveau, le signalement est abandonné.
Les décisions automatiques ne modifient jamais le score de confiance de l'auteur. C'est le délai qui a tranché, pas le comportement de l'auteur. Dans l'analyse du commentaire, les décisions automatiques sont étiquetées comme telles, pour que vous puissiez les distinguer des vôtres.
6. Ce que deviennent les commentaires rejetés
Un commentaire rejeté disparaît immédiatement de votre site, mais il est conservé pendant votre durée de conservation (180 jours par défaut, de 30 jours à 10 ans) au cas où la décision serait contestée. À l'issue de cette durée, son contenu est supprimé définitivement :
- Personne n'y a répondu : le commentaire est entièrement supprimé, avec ses images.
- Quelqu'un y a répondu : le commentaire reste sous forme d'emplacement vide pour que la conversation en dessous tienne debout. Son texte, ses images, l'adresse IP et les informations de navigateur de l'auteur sont supprimés. Les lecteurs le voient comme supprimé, comme avant.
7. Contrôler l'IA
Plusieurs fois par jour, le système prend au hasard 1 % des commentaires récemment rejetés et les place dans votre file pour un second regard. Ils vous permettent de repérer une IA qui rejette trop. En examiner un ne change rien tant que vous ne l'approuvez pas. Si vous y trouvez régulièrement de bons commentaires, vos seuils sont trop stricts.
Questions fréquentes
Un commentaire a été rejeté et son auteur demande pourquoi. Ouvrez-le dans Comments & Moderation. Les commentaires rejetés par l'IA affichent son analyse complète : quelles catégories se sont déclenchées, avec quelle intensité, et son verdict. Les décisions prises avant l'enregistrement des analyses n'en ont pas.
Dois-je vérifier la file tous les jours ? Non, c'est le rôle du délai. La décision automatique reste toutefois un filet de sécurité, pas un substitut : elle ne lit pas le contexte comme vous. Ne choisissez Keep waiting que si quelqu'un s'occupe réellement de la file.
Un auteur dit que son commentaire a disparu. Vérifiez s'il a atteint une limite anti-spam. Publier le même texte à répétition bloque les envois pendant 24 heures et renvoie en examen les commentaires du jour. C'est la cause la plus fréquente.