Instagram met au point une intelligence artificielle pour lutter contre le cyber-harcèlement

COMBAT - Le réseau social a mis au point une intelligence artificielle pour lutter contre le harcèlement sur sa plate-forme. Les publications offensantes seront envoyées à des modérateurs humains pour effectuer la vérification finale et procéder, éventuellement, à leur suppression.
Tout comme ses rivaux, Instagram n’échappe pas au phénomène du harcèlement en ligne. Le réseau social vient donc d'annoncer le déploiement d’une fonctionnalité anti-harcèlement faisant appel au "machine learning" ("apprentissage automatique", en français) pour détecter automatiquement les tentatives d'intimidation. Cette intelligence artificielle, développée en interne par l'entreprise, sera chargée de passer au crible les images publiées sur la plateforme, ainsi que les commentaires, afin d’y déceler diverses formes de harcèlement.
Les publications offensantes seront envoyées à des modérateurs humains pour effectuer la vérification finale et procéder, éventuellement, à leur suppression. "Ce changement va nous aider à identifier et éliminer nettement plus de messages de harcèlement - et c'est une étape cruciale car de nombreuses personnes qui subissent ou observent des tentatives de harcèlement ne les signalent pas", explique le nouveau responsable d'Instagram, Adam Mosseri, dans un post de blog.
Lire aussi
En mai dernier, le réseau social avait déjà annoncé l’arrivée d’un outil permettant de filtrer les commentaires offensants sous une publication. D’ici peu, cette fonction sera également étendue aux vidéos en direct. "Cela nous aidera également à protéger les membres les plus jeunes de notre communauté, car les adolescents subissent davantage le harcèlement en ligne. Le déploiement de cette nouvelle technologie va se poursuivre au cours des prochaines semaines", souligne Adam Mosseri.
L'option "Masquer les commentaires offensants" sera activée par défaut dans le menu des paramètres de l'application. Les utilisateurs pourront également y indiquer manuellement les termes qu'ils souhaitent filtrer dans leurs commentaires ou bien encore choisir de filtrer automatiquement les mots les plus souvent signalés.
En vidéo
SEPT A HUIT - Les ravages du cyber-harcèlement
Un nouveau filtre pour "répandre la gentillesse"
Le réseau social a également annoncé le lancement, en partenariat avec l'actrice Maddie Ziegler, d'un nouveau filtre photo baptisé "Kindness camera effect" (en français, "effet caméra gentille") afin de "répandre la gentillesse" autour de soi. Lorsqu'on l'utilise, l'arrière-plan de la vidéo se remplit de "commentaires aimables en de nombreuses langues". Et si vous basculez votre caméra en mode frontale, des cœurs s’afficheront et l'application vous demandera de "taguer un ami que vous souhaitez soutenir".
Sur le même sujet
"Étudiants, pas influenceurs" : le passage de Gabriel Attal sur Twitch éreinté par sa cible
Quand le gouvernement part à la conquête de la jeunesse : on a regardé la première émission de Gabriel Attal sur Twitch
Le fisc pourra désormais surveiller Facebook ou LeBonCoin pour traquer les fraudeurs
Une femme agressée témoigne de ses difficultés à porter plainte, Schiappa et Darmanin réagissent
Emmanuel Macron se met en scène sur Instagram pour vanter les gestes barrières
Accusation d'inceste contre Richard Berry : une enquête ouverte après la plainte de sa fille Coline
Les articles les plus lus
EN DIRECT - Covid-19 : près de 20.000 nouveaux cas ce dimanche
Face au risque d'un confinement national, "il y a encore de l'espoir", estime Jérôme Salomon
Désormais autorisé dans les cabinets médicaux, le vaccin AstraZeneca est en forte progression
PHOTO - La Nasa publie une vue panoramique de Mars prise par Perseverance
Valérie Pécresse juge inéluctables de nouvelles restrictions en Ile-de-France