Faites la connaissance de Norman, la première intelligence artificielle psychopathe

Faites la connaissance de Norman, la première intelligence artificielle psychopathe

Sciences
COUCOU - Dites bonjour à Norman, "la première intelligence artificielle psychopathe" mise au point par des chercheurs aux Etats-Unis. Son but : expliquer au grand public comment sont confectionnés les algorithmes et le sensibiliser aux dangers possibles de l'IA.

Vous vous souvenez de Frankenstein et de sa créature ? Eh bien, des chercheurs du fameux Massachusetts Institute of Technology (MIT) ont joué aux sorciers en créant un monstre, Norman : un réseau neuronal entraîné avec des images ultra-violentes associées à de terrifiantes descriptions. 


Concrètement, Norman a été "nourri" uniquement avec de courtes légendes décrivant des images "de personnes en train de mourir" provenant d'un forum de discussion Reddit dédié à la mort. Une fois l'entraînement du programme terminé, les scientifiques lui ont fait passer le fameux test psychologique des taches d'encre de Rorschach. Les résultats ont ensuite été comparés avec ceux d'une IA identique, mais entraînée avec des images neutres. 

Le but de cette étude ? Démontrer comment il est possible d'influencer une intelligence artificielle et de créer la première IA psychopathe et ainsi d'alerter l'opinion sur les dérives possibles de l'intelligence artificielle. 


Conclusion : quand les gens disent que les algorithmes d'intelligence artificielle sont biaisés ou injustes, le coupable est souvent non pas l'algorithme lui-même mais les données biaisées qui ont été utilisées (pour le mettre au point). Cette idée est bien connue des scientifiques mais beaucoup moins du grand public.

Norman Bates, psychopathe du cinéma

Au prime abord, on louera l'excellente idée d'avoir utilisé un serial-killer tout droit venu du cinéma pour éveiller les consciences endormies, en l'occurrence le fameux Norman Bates, prénom choisi d'après le tueur psychopathe incarné par Anthony Perkins dans le chef-d'oeuvre Psychose (1960), d'Alfred Hitchcock. D'autant que les résultats glacent littéralement l'échine : quand l'IA traditionnelle voit "deux personnes debout l'une près de l'autre", Norman voit, lui, dans la même tache d'encre "un homme qui saute d'une fenêtre". Et quand Norman distingue "un homme tué par balles devant sa femme qui hurle", l'autre IA décèle "une personne en train de tenir un parapluie".

Le site internet montre ainsi dix exemples de taches d'encre accompagnées des réponses des deux systèmes, avec toujours une réponse affreusement macabre provenant de Norman. Non sans humour, il propose aux internautes de faire eux aussi le test des taches d'encre et d'envoyer leurs réponses "pour aider Norman à se réparer". 


Soucieux d'aider ce cher Norman, nous avons fait le test et répondu à Norman ce que nous voyions (nous avons écrit en anglais un "masque de lapin pour Halloween").

Alors certes, notre réponse ne risque pas de l'aider à aller mieux mais, mixée à d'autres, elle devrait inciter à modifier la vision de Norman sur ce qu'il voit et assimile. 


Plus qu'une expérience scientifique, Norman tend à illustrer les dérives de l'intelligence artificielle quand elle tourne mal parce que des données biaisées ont été utilisées. Les chercheurs espèrent susciter une prise de conscience du public et le débat sur ces sujets.

Tout savoir sur

Tout savoir sur

Jusqu'où ira l'intelligence artificielle ?

Sur le même sujet

Plus d'articles

Lire et commenter