Publié le 25 août 2015
Les mots « gay », charia » ou « sioniste » sont souvent inclus dans les commentaires injurieux et seront supprimés en prioritéPour que les commentaires les plus « sensibles » soient traités en premier, la plateforme va se fonder sur plusieurs critères. Le logiciel va d’abord s’intéresser à la source du commentaire, considérant, par exemple, que les risques liés à un message illicite ne sont pas les mêmes sur un forum que sur Facebook. De plus, l’outil va analyser et conserver automatiquement l’historique de chaque contributeur. Il sera possible pour le modérateur de savoir que « M. X » a posté 23 commentaires, dont 8 ont été supprimés ou encore qu’il aime la page Facebook du Monde mais pas celle du Figaro… Un individu ayant un historique particulièrement fourni verra donc ses commentaires traités en priorité par le modérateur. Ensuite, la plateforme va repérer, via des algorithmes, un certain nombre de mots-clés, à l’intérieur des messages, afin d’identifier le caractère litigieux du commentaire. L’expérience démontre en effet que les mots « gay », charia » ou encore « sioniste » sont souvent inclus dans les commentaires injurieux et seront donc supprimés en priorité. Enfin, pour les réseaux sociaux qui nécessitent une modération a posteriori, le logiciel va analyser la viralité du message. Si un commentaire Facebook enregistre beaucoup de « likes » ou de commentaires, celui-ci aura une visibilité plus importante et sera donc traité en priorité par le modérateur. Cette alchimie complexe va permettre au modérateur de lire les contenus identifiés comme dangereux dans les secondes qui suivent leur publication.
La décision de la suppression du commentaire est prise par un professionnelL’automatisation apparente de la modération n’est toutefois qu’une illusion. Seule la dynamique de priorisation est gérée par un logiciel. Le reste est bel et bien traité par des humains, ce qui constitue un travail particulièrement laborieux. La plateforme « Moderatus » permet de mettre en évidence un message à risque mais la décision quant à la suppression ou non du commentaire est prise par un professionnel. A ce jour, l’outil n’est pas (encore) capable de repérer le sarcasme ou le cynisme dont savent faire preuve les habituels provocateurs…
Ce qui est considéré comme agressif sur un site de presse ne le sera pas nécessairement partoutPour faire face aux différentes sensibilités éditoriales, les sociétés spécialisées dans la modération utilisent des équipes dédiées à chaque site de presse. Ainsi, les modérateurs assimilent à la perfection les subtilités et les exigences de leurs clients. Les modérateurs professionnels ont à leur disposition une charte bien plus développée que le texte accessible publiquement sur le site. Dans ce document, les sites d’information détaillent leurs attentes avec précision en notifiant au modérateur quelle attitude adopter dans différentes situations. Il y a donc une base commune, que l’on retrouve sur tous les sites d’information et une vingtaine d’éléments qui varient d’un site à l’autre. A titre d’exemple, certains journaux sont très attachés au respect des droits d’auteur, à la prohibition du spam ou des messages écrits en majuscules (une façon de « crier » ou d’exprimer son agressivité sur internet). D’autres vont avoir des exigences plus idéologiques, propres à leur ligne éditoriale et auront plus de mal à accepter des commentaires qui iraient à l’encontre des principes fondateurs du journal. Ainsi, ce qui est considéré comme agressif sur un site de presse ne le sera pas nécessairement partout. Pour le modérateur, il devient donc difficile d’interpréter ce qui relève du sarcasme ou de la provocation. On entre ici dans la subjectivité propre à l’exercice de la modération. Le traitement de plusieurs centaines de contenus par jour met la concentration et les nerfs du modérateur à rude épreuve.
La modération a priori est souvent vécue comme un acte de censureExternaliser la régulation des commentaires n’est pas un choix facile à assumer pour un site de presse. Cela suppose une parfaite coordination de journal et de ses exigences avec les équipes de modérateurs. Ces exigences sont souvent le fruit d’une conception propre au rédacteur en chef et donc, susceptible d’évoluer régulièrement. Lorsque la modération d’un site de presse connaît des changements, les lecteurs sont avertis. Le changement d’une modération a posteriori vers une modération a priori est souvent vécu comme un acte de censure, défiant la liberté d’expression. La réaction est souvent immédiate. Les « communautés de fait » qui se forment au fil des discussions ne tardent pas à manifester leurs remarques et, le plus souvent, leur mécontentement. En effet, on observe que la modération est le reflet d’une politique éditoriale, de l’idée que se fait un journal des contenus publiés par ses lecteurs. Lorsqu’un site de presse connaît une trop forte affluence, il aura alors tendance à voir les commentaires comme une contrainte nécessaire. C’est là qu’interviennent les sociétés spécialisées dans la gestion et la régulation des espaces participatifs. Cette intervention est d’autant plus essentielle que les réseaux sociaux finissent par avoir vocation à intensifier la réaction des lecteurs.