La reconnaissance faciale utilisée pour repérer les migrants ? Amazon fait polémique aux Etats-Unis

La reconnaissance faciale utilisée pour repérer les migrants ? Amazon fait polémique aux Etats-Unis

International
DirectLCI
INTELLIGENCE ARTIFICIELLE - Le géant de la tech a proposé ses outils d'intelligence artificielle, dont la reconnaissance faciale, aux services américains de l'immigration et des douanes. Une initiative dénoncée par un employé et des associations de défense des libertés.

Interrogé par Bloomberg, Amazon n'a pas démenti avoir eu des pourparlers avec des agences gouvernementales - dont les services de l'immigration et des douanes - mais assure qu'aucun contrat n'a pour le moment été signé. L'entreprise est accusée par des associations de défense des libertés de travailler secrètement avec le gouvernement en utilisant son système d'intelligence artificielle Rekognition potentiellement pour repérer des migrants illégaux. Cette technologie permet d'identifier des personnes sur des photos et des vidéos, et en l’occurrence sur des caméras de surveillance installés dans des lieux publics.


Selon l'ONG Project on Government Oversight, les équipes d'Amazon Web Service auraient participé à plusieurs rencontres en juin dernier avec l'agence fédérale. "Comme nous le faisons habituellement, nous sommes entrés en contact avec des clients intéressés par nos services", a admis un porte-parole à nos confrères de Bloomberg. "L'Immigration and Customs Enforcement est bien l'une de ces organisations."


L'Union américaine des libertés civiles (ACLU) avait déjà dénoncé en mai dernier le fait qu'Amazon mette ce service à la disposition de la police de Floride et de l'Oregon. Le système pourrait bien être déployé prochainement au niveau national.

Une technologie raciste ?

Les ONG s’étonnent de cette initiative alors que le PDG d'Amazon, Jeff Bezos, s'est publiquement opposé à la politique migratoire mise en place par Donald Trump. Surtout elle dénonce une technologie peu fiable et bien souvent raciste. En 2015 par exemple, la technologie de reconnaissance faciale de Google avait identifié certaines personnes de couleur comme ... des gorilles. Des chercheurs de l'institut de technologie du Massachusetts ont d'ailleurs démontré que les systèmes de reconnaissance faciale étaient bien moins efficaces pour identifier des personnes de couleurs et des femmes que des hommes blancs.


Un employé d'Amazon a également fait part de ses préoccupations d'usages abusifs du système. Dans un billet publié sur la plateforme Medium, il affirme que le gouvernement américain a déjà utilisé ces outils en discriminant et en portant atteinte aux "communautés de couleur, aux immigrés et aux personnes exerçant leurs droits de premier amendement". "Ignorer ces préoccupations urgentes lors du déploiement de technologies puissantes auprès du gouvernement et des forces de l'ordre est dangereux et irresponsable", écrit-il sous couvert d'anonymat. "C’est pourquoi nous avons été déçus lorsque Teresa Carlson, vice-présidente du secteur public mondial d’Amazon Web Services, a récemment déclaré qu’Amazon 'soutenait fermement' ses clients des forces de l’ordre, de la défense et du renseignement, même si nous ne 'savons pas la façon dont ils utilisent réellement l’outil'".


En juin dernier, 400 employés avaient déjà adressé une lettre ouverte demandant à Amazon de cesser de vendre le logiciel Rekognition aux forces de l'ordre, sans succès.

En vidéo

VIDÉO - Il était une fois Amazon

Selon BFMTV, Amazon Web Service est déjà lié avec le FBI pour un contrat de 600 millions de dollars et compte bien décrocher un nouveau contrat de 10 milliards de dollars sur 10 ans avec le Pentagone.

Sur le même sujet

Plus d'articles

Lire et commenter