Halte aux insultes ! Google sort l’artillerie anti-propos abusifs

Halte aux insultes ! Google sort l’artillerie anti-propos abusifs

HARCELEMENT – Pour lutter contre les propos déplacés et "toxiques" sur le net, Google a mis au point Perspective, un outil basé sur l’intelligence artificielle qui doit permettre d’améliorer de manière globale la qualité des conversations en ligne.

Harcèlements, insultes, propos haineux, racistes ou sexistes : si internet est un lieu d’échanges, il est aussi le théâtre d’abus et d’injures. Encore plus quand deux interlocuteurs ne partagent pas les mêmes points de vue. 

Selon un rapporté de Data & Society, 72 % des internautes américains ont déjà été témoins de harcèlement en ligne et 50% en ont été personnellement victimes. Pour que la discussion reprenne ses droits de manière courtoise, Google a décidé de passer à l’action afin d’assainir les conversations. Cela va prendre la forme d’une arme anti-contenus abusifs ou insultants. 

L'intelligence artificielle au secours des modérateurs

Google et son incubateur technologique Jigsaw vont lancer Perspective, un outil qui va pouvoir identifier les commentaires abusifs. Fort de son travail sur l’intelligence artificielle, le deep learning et le machine learning – la faculté technologique d’un appareil à analyser, comprendre et apprendre les comportements-, le géant du web va apprendre aux ordinateurs à détecter les propos "toxiques". 

Perspective ne sera pas un service en lui-même, mais cet outil s’adresse en premier aux medias et aux diffuseurs de contenus. "Nous espérons en faire un outil qui permettra d’améliorer de manière globale la qualité des conversations en ligne", avance Jared Cohen, patron de Jigsaw. 

Déjà testé en live

L'encyclopédie participative Wikipedia et le New York Times ont testé la solution durant plusieurs mois. Chaque commentaire a été passé au crible avant publication, soit près de 11.000 commentaires chaque jour. Il en a résulté que seulement 10% des articles du Times comportaient des commentaires, explique Jared Cohen, président de Jigsaw. Perspective a permis aux modérateurs d’élaborer un moyen de trier plus rapidement les commentaires.

Comment fonctionne Perspective ?

- Il analyse les commentaires et les notes

Perspective appuie son analyse sur des centaines de milliers de commentaires jugés suffisamment "toxiques" par des utilisateurs pour qu’ils aient choisi de quitter une conversation. Ils ont été ensuite répertoriés par des analystes humains. L’outil va ainsi parvenir à donner une note à un commentaire sur cette base.

- Les éditeurs gardent la main

Si Perspective peut signaler à un éditeur ou un modérateur un commentaire qui ne répond pas aux exigences habituelles, ce dernier garde la main sur les informations et peut choisir de ne pas écarter un commentaire. Mais il pourra se servir de l’outil pour aider la communauté à prendre conscience de l’aspect dérogeant, inadéquat ou déplacé du commentaire afin de conserver une discussion saine.

- Une base qui va s’enrichir

Chaque utilisateur peut aider Perspective à affiner son analyse en lui faisant part de commentaires "toxiques". Ce dernier pourra également en repérer tout seul. Il sera ainsi à même d’améliorer sa capacité à noter les commentaires.

Pour le moment, Perspective n’est disponible qu’en anglais. Afin de profiter au plus grand nombre, il va être mis à disposition des développeurs via la bibliothèque open source TensorFlow de Google. 

Sur le même sujet

Les articles les plus lus

Pourra-t-on se déplacer normalement cet été ?

Une usine nucléaire iranienne touchée par un acte de "terrorisme antinucléaire"

SEPT À HUIT - La résurrection de Priscille, première femme bionique de France

EN DIRECT - Covid-19 : 30.671 personnes hospitalisées, dont 5838 en réanimation

Du Stade de France au centre vaccinal de Dreux, les vaccinodromes ont sonné bien creux ce dimanche

Lire et commenter