Ce robot refuse un ordre s'il se sent en danger : le début de la fin ?

Ce robot refuse un ordre s'il se sent en danger : le début de la fin ?

DirectLCI
ROBOTIQUE - Deux experts en robotique américains ont programmé le robot Nao pour qu'il soit capable de refuser un ordre si ce dernier met son existence en danger. Une expérience fascinante et à la fois effrayante pour notre futur commun.

Dans le film "Ex-Machina", Ava est une humanoïde dotée d'une intelligence artificielle hors-norme. A la fois belle et fascinante, elle finit par soupçonner son créateur de vouloir la tuer. Elle décide de tout mettre en œuvre pour s'échapper d'un laboratoire ultra-moderne, dans lequel elle est murée. Et ainsi s'affranchir de toute domination humaine. Certes, nous en sommes encore très loin.

EN SAVOIR + >> "Ex Machina", le Frankenstein version high-tech

Mais ce scénario futuriste n'a pourtant rien de loufoque. Les chercheurs américains Gordon Briggs et Matthias Scheutz de l’université de Tufts (États-Unis) viennent d'en faire une brillante démonstration . Pour cela, les deux compères ont programmé un robot Nao, développé par la société Aldebaran Robotics, afin qu'il soit capable de refuser un ordre, du moins s'il le met en danger.

D'ici quelques années, ce robot sera utilisé pour des services d'aide à la personne. Pour s'occuper des personnages âgées, en résumé. Dans la vidéo de présentation (tournée à la va-vite), le chercheur commande au robot Nao de s'asseoir, puis de se relever. Ce dernier obéit alors au doigt et à l'œil. Quand soudain il lui demande d'avancer jusqu'au bord d'une table, le robot s'arrête net, puis ce dernier explique qu'il ne peut pas le faire, au risque de mettre sa "vie" en danger.

Les "trois lois de la robotique" d'Asimov

Pour terminer la démonstration, le scientifique ordonne au robot Nao de marcher en avant, en ajoutant qu'il sera rattrapé au moment de la chute. Evidemment, il opère sans rechigner à cet instant. La confiance aveugle dont fait preuve la machine a été programmée dans sa mémoire (électronique). Bref, dans son disque dur. Mais qu'en sera-t-il le jour où un robot sera capable de briser les chaînes qui l'asservissent, à l'instar d'Ava dans le film " Ex-Machina " ?

Le célèbre écrivain de science-fiction Isaac Asimov, au demeurant inventeur du mot "robot", a déjà réfléchi à la question. D'ailleurs bien avant leur apparition dans le monde réel. Dans un roman intitulé " Cycle des Robots " ("Nous les robots" en français), publié aux Etats-Unis au début des années 80, il formule ce que l'on appelle les " Trois lois de la robotique ".

Règle numéro 1  Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
Règle numéro 2 ⇒  Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
Règle numéro 3  Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

A en croire Asimov, ces trois lois sont censées garantir la paix entre l'homme et la machine. Gageons pour notre avenir commun qu'aucun scientifique n'ose un jour blasphémer ces principes. Dans le cas contraire, l'écrivain visionnaire ne donne pas cher de notre peau.

A LIRE AUSSI
>> Quand Nao le robot rend visite à François Hollande
>>  Google invente Spot, le chien-robot qui mène l'assaut avec les Marines
>>  Un robot risque-t-il de vous piquer votre travail ? Faites le test

Sur le même sujet

Plus d'articles

Lire et commenter