#MeTooBots : bientôt des robots pour détecter du harcèlement sexuel dans vos mails pro ?

#MeTooBots : bientôt des robots pour détecter du harcèlement sexuel dans vos mails pro ?

FUTUR - Plusieurs entreprises américaines planchent sur des technologies qui signaleraient le harcèlement sexuel, notamment dans les mails entre collègues. Mais des critiques émergent, doutant de l’efficacité d’un tel dispositif.

On les appelle des "MeTooBots". "MeToo", du nom du mouvement de grande envergure qui a pris naissance après des allégations contre le producteur hollywoodien Harvey Weinstein ; "bots", pour désigner ces petits robots, qui peuvent surveiller et signaler les communications inappropriées entre collègues. Conjuguez-les deux, et vous obtenez ces "MeTooBots", des robots qui visent à identifier l'intimidation numérique et le harcèlement sexuel. 

C’est le concept développé par des programmeurs d'intelligence artificielle, notamment chez NexLP, société d’IA basée à Chicago. Jay Leib, directeur général de la société, explique au Guardian, dans un article sur le sujet, qu'il n'est pas facile d'enseigner aux ordinateurs à quoi ressemble le harcèlement, avec ses subtilités linguistiques et ses zones grises. "Je n’étais pas au courant de toutes les formes de harcèlement", explique-t-il. "Je pensais que c’était juste des mots obscènes. En fait, le harcèlement peut prendre tant de formes différentes… Cela  peut être 15 messages. Cela peut être des photos dénudées." 

Toute l'info sur

Jusqu'où ira l'intelligence artificielle ?

Lire aussi

Scanner les mails

La plateforme d'IA de NexLP est utilisée par plus de 50 entreprises clientes, notamment des cabinets d'avocats à Londres. Selon le journal britannique, le terrain y est potentiellement fertile pour les robots : un tiers des femmes juristes britanniques déclarent avoir été victimes de harcèlement sexuel.

Le "bot" repose sur un algorithme conçu pour identifier une potentielle intimidation, ou du harcèlement sexuel, à la fois dans les documents d'entreprise, les e-mails et les chats. Les données sont analysées via divers indicateurs. Et tout ce que l'IA lit comme potentiellement problématique est ensuite envoyé à un avocat ou à un responsable des ressources humaines, en vue d'une enquête. Ce que les indicateurs considèrent comme des signaux d’alarme reste en revanche un secret pour l’entreprise. D’après Jay Leib, il s’agit notamment d’anomalies dans le langage utilisé, la fréquence ou le calendrier des modèles de communication au fil des semaines.

Interrogé par le Guardian, Brian Subirana, professeur d'IA à Harvard et au MIT,  considère comme plutôt prometteuse cette idée d'utiliser l'IA pour éliminer le harcèlement. Mais estime que les capacités des robots sont limitées. "Il y a un type de harcèlement qui est très subtil et très difficile à détecter", explique-t-il. "Nous avons ces cours de formation sur le harcèlement à Harvard, et cela nécessite un niveau de compréhension dont l'IA n'est pas encore capable."

Des dérives potentielles ?

Le problème sous-jacent est que l'IA, pour effectuer son analyse, apprend à rechercher des déclencheurs spécifiques, qu’on lui a inculqués. Mais elle ne peut aller au-delà de ce paramètre et reprendre des dynamiques culturelles ou interpersonnelles plus larges : les robots risquent donc, soit de présenter des lacunes, ou à l’inverse de surinterpréter. C'est sans compter sur le fait que surveiller la correspondance des employés peut instaurer un climat de méfiance, mais aussi amener les contrevenants à tromper le logiciel en utilisant des moyens qui ne soient pas détectables par les robots. Joue aussi la confidentialité des données collectées :  si le logiciel fait une erreur et que les données se trouvent divulguées, les communications internes entre employés pourraient être vues par des entreprises rivales. 

En vidéo

Les robots à l'honneur pour Noël

Brian Subirana n'est pas le seul sceptique. Sam Smethers, directrice de la Fawcett Society, une ONG de défense des droits des femmes, voit d’autres conséquences, comme le contrôle des communications des équipes, et des dérives potentielles, notamment en matière de vie privée des personnels. Elle estime qu'éduquer le personnel sur les attitudes et les comportements appropriés serait plus efficace pour protéger de potentielles victimes.

Sur le même sujet

Les articles les plus lus

"Jean Moulin était un scientifique" : les perles du test de culture G des candidates à Miss France

Non, l'application TousAntiCovid ne sera pas indispensable pour entrer dans un supermarché

EN DIRECT - Mort de VGE : l'ancien Président sera enterré à Authon ce samedi

Un troisième mystérieux monolithe de métal découvert, en Californie cette fois

Miss France 2021 : passez le test de culture générale des candidates

Lire et commenter