"FAKE NEWS !" (4/5) - Fermes à clics, usines à trolls et deep fake : la post-vérité industrialisée

Population
STRATÉGIE - Dans un climat de défiance qui se généralise, une véritable économie de la désinformation se met en place, par visée politique ou simple appât du gain. Quels en sont les mécanismes ?

Dans le secteur florissant de la fausse information, tout le monde n’utilise pas les mêmes armes. Profitant d’un climat de défiance envers la parole politique et journalistique traditionnelle, certains acteurs mettent en place des techniques de désinformation à échelle industrielle. Par souci politique ou par simple appât du gain, ces stratèges de la post-vérité parviennent à diffuser, promouvoir et "gonfler" artificiellement des informations trompeuses ou mensongères, en mettant à profit le fonctionnement des réseaux sociaux et des plateformes d’information.

Certains cas de "big fake news" sont désormais bien documentés, et certains producteurs qui en ont fait leur spécialité ont déjà fait l’objet d’enquêtes très médiatisées. Ces enquêtes montrent combien la palette des outils et stratégies est large : "fermes à clics" délocalisées dans des pays pauvres, ciblage d'internautes jugés perméables aux fausses informations, production organisée d’articles et de commentaires intraçables, destinés à semer le trouble dans des pays étrangers... Illustration avec quelques cas concrets.

Micro-ciblage et "dark ads" : le succès du Brexit

Désormais considéré comme un cas d’école, l’un des plus grands séismes politiques récents - le Brexit - s’est joué en partie avec le concours d’une campagne de désinformation. Une série de documentaires diffusée sur France 5 s’est récemment penchée sur celle-ci Avant le référendum, certains dirigeants du camp du "Leave" ont martelé qu’une sortie de l’UE permettrait au Royaume-Uni d’économiser 350 millions de livres sterling par semaine, afin de les affecter à la Sécurité sociale. C’était faux, mais beaucoup y on cru, et beaucoup y croient encore.


En comptant la redistribution d’une partie de ces fonds au Royaume-Uni, l’UE "coûtait" en réalité 136 millions par semaine au pays. Mais de nombreux citoyens britanniques ont été délibérément ciblés sur les réseaux sociaux par des annonces ne mentionnant que ce chiffre de 350 millions par semaine, enrobé d’un argumentaire développé spécialement pour les habitants de certaines zones géographiques. Inondant ainsi les plateformes d’informations, le camp du "Leave" s’est construit une solide avance.


L’artisan de cette stratégie s’appelle Dominic Cummings. Directeur de la campagne officielle de "Vote Leave", le stratège a mis à profit les possibilités de "micro-ciblage" offertes par les plateformes comme Facebook. Celles-ci permettent aux annonceurs - qu’ils soient des entreprises ou n’importe quelle autre type d’organisation - de sélectionner les internautes qui pourront voir une publication, en fonction de leur localisation, de leurs opinions affichées, ou de tout autre donnée personnelle.


Poussée à son paroxysme, le micro ciblage porte un nom : les "dark ads", ou “publicités fantômes”. Celles-ci sont visibles uniquement par l’annonceur et par la cible, et disparaissent une fois qu’elles ont été vues par cette dernière. Accusé d’avoir laissé faire des opérations de désinformation via les "dark ads", Mark Zuckerberg, le PDG de Facebook, a annoncé y mettre fin en septembre 2017... avant d’être rattrapé par un autre scandale bien connu : Cambridge Analytica. Cette entreprise a utilisé sans consentement les données de 87 millions d’utilisateurs, majoritairement américains, avant de travailler pour la campagne présidentielle de Donald Trump.

Trump : derrière le discours, l’infrastructure technique

Ce même Donald Trump, bien avant sa campagne présidentielle victorieuse, diffusait déjà en 2014 des fausses informations en série sur Twitter à propos d’Ebola. Pour le professeur en information-communication à Paris 2 Arnaud Mercier, auteur d’une enquête sur le sujet, le futur candidat a instrumentalisé l’épidémie ouest-africaine afin de préparer un agenda sécuritaire lors de la campagne de 2016. Déjà, le magnat de l’immobilier pouvait compter sur le soutien d’un site encore peu connu hors des cercles ultraconservateurs, Breitbart News, qui prendra fait et cause pour lui lors de la campagne. Et pour garantir un succès optimal de ses articles sur les plateformes, le site y accolait le mot-clé "frontière", afin de faire de l’épidémie d’Ebola un sujet lié aux thématiques de sécurité nationale.

Il ne peut y avoir de changement radical par la technologie sans remise en cause du modèle économique des plateformesFrancesca Musiani

Devant les scandales à répétition et les accusations d’avoir contribué à fausser des processus électoraux, les grandes plateformes comme Facebook, Google ou Twitter ont annoncé des séries de mesures destinées à améliorer l’identification des annonceurs auprès d’elles-mêmes et de leurs utilisateurs. "Désormais, les algorithmes des plateformes prennent aussi en compte la source d’une publication avant de la mettre en avant, et tendent à supprimer les diffuseurs de fake news", confirme Francesca Musiani, chercheuse au CNRS et directrice adjointe du Centre Internet et Société. "Mais cela reste un travail à la marge, car leur modèle économique reste basé sur la nécessité de retenir l’attention des internautes. Il ne peut y avoir de changement radical par la technologie sans remise en cause de ce modèle économique."


Dernier exemple en date : une étude de l’association israélienne Big Bots Project a fait état de la multiplication de contenus mensongers sur Twitter et Facebook, favorables au Premier ministre israélien Benjamin Netanyahou, en amont des élections législatives du 9 avril 2019. Ces "milliers" de messages, parfois trompeurs, publiés et partagés quotidiennement proviennent selon le rapport d’environ 400 comptes suspects, dont certains semblent pilotés par des humains.

L’Internet Research Agency : "l’usine à trolls" russes

C’est là un point commun des opérations de désinformation à grande échelle : elles mettent en oeuvre le travail de vrais humains. Avoir les bonnes idées, les écrire de manière crédible, les défendre efficacement sur les réseaux sociaux, choisir les bons contenus à partager pour avoir un discours cohérent... autant d’opérations intellectuelles que les robots peinent à effectuer. Et quelle meilleure illustration de cette importance du capital humain que l’Internet Research Agency (IRA), une organisation russe accusée d’être un usine à propagande au profit du Kremlin.


L’IRA, qui a fait l’objet de plusieurs enquête, dont celle du New York Times Magazine, est située en banlieue de Saint-Petersbourg et employait, au moment de la publication, 400 personnes regroupées dans une quarantaine de bureaux. Selon le témoignage d’une ancienne employée, Lioudmilla Savtchouk, les employés y écrivent 12 heures par jour articles et commentaires destinés à "interpréter chaque événement d’une façon glorifiant la politique du gouvernement et de Vladimir Poutine". Pour la jeune femme, il s’agissait notamment de dénigrer le président ukrainien Petro Porochenko et "d'envoyer un flot de messages positifs sur la reprise de notre économie" alors que la valeur du rouble dévissait.


Pour Marat, un instituteur de 40 ans interrogé par Libération, après deux mois à l’IRA, "le seul critère de sélection à l’embauche, c’est la rapidité d’écriture". En pratique, concernant l’attentat de Charlie Hebdo, "l’une des tâches était formulée ainsi : exprimer 'un rapport négatif vis-à-vis des terroristes qui ont fusillé des gens à Paris, ainsi que vis-à-vis des autorités françaises qui n’ont pas accordé assez d’importance aux menaces terroristes’." Ces blogueurs mercenaires, payés 600 à 1.200 euros par mois pour faire remonter les contenus pro-russes sur les plateformes, sont les héritiers d’une tradition soviétique vieille de près d’un siècle. En 1923, la Guépéou - ancêtre du KGB puis du FSB - créait en effet une division spécialisée dans la désinformation.

Travailleurs du clic et ouvriers de la désinformation

La nouveauté, finalement, ce n’est pas la désinformation, mais son terrain de jeu : Internet. Et dans ce nouvel espace, on trouve des gens en bas de l’échelle économique : les travailleurs du clic. Le sociologue Antonio Casilli, auteur de "En attendant les robots. Enquête sur le travail du clic" estime à au moins 100 millions le nombre de ces nouveaux prolétaires. En France, selon une étude, ils seraient plus de 250.000, un chiffre "comparable voire supérieur aux effectifs des plateformes VTC et de livraison-express".


En effectuant des micro-tâches (répondre à des questions simples, reconnaître des photos, filtrer des contenus interdits), ces "micro-travailleurs" sont les rouages permettant aux intelligences artificielles et aux sites les plus avancés d’être fonctionnels. Ils permettent également, contre (petite) rémunération, de rendre viraux certains contenus, dont des fausses informations, en créant de faux profils, en donnant de faux avis ou en publiant de faux liens vers ces contenus.

Encore peu connus, ces "travailleurs du clic" sont recrutés sur des services de "micro travail" en ligne comme UpWork, FreeLancer, Amazon Mechanical Turk, 5euros.com, Fiverr, Taskrabbit, MinuteWorkers ou MicroWorkers... "L’origine géographique des acheteurs de clics (Etats-Unis, Canada et Royaume-Uni, mais aussi France, et Espagne) et celle des producteurs (Bangladesh, Pakistan, Népal, Indonésie, Sri Lanka, Inde, Kenya, Madagascar) reproduit des tendances globales de délocalisation de 'sales boulots' vers des zones du monde où la force de travail est marquée par une forte vulnérabilité à l’exploitation", écrit Antonio Casilli dans L’Obs.  


Dans certains pays, notamment en Asie, on parle même de "fermes à clics", qui regroupent ces petites mains. N’importe quel client - politique, entreprise, blogueur - en mal de viralité, à l’autre bout du monde, peut faire appel à eux. Concrètement ces "fermes à clics" occupent des appartements ou des maisons, qu’elles remplissent d’étagères couvertes de smartphones. Illustration en Thaïlande, avec le démantèlement d’une de ces fermes :

La rentabilité du fake

Cette nouvelle économie du clic crée des situations pour le moins originales. L’une des plus documentées est celle de la ville de Vélès, en Macédoine, qui a fait l’objet d’enquête de la part de Buzzfeed, du Guardian, et de Wired. "Sans grande perspective d’emploi dans cette cité désindustrialisée, des jeunes ont mis en ligne des sites tels que TrumpVision365.com, USConservativeToday.com, DonaldTrumpNews.co, qu’ils ont utilisés comme base pour propager sur Facebook des millions de mèmes. Ces images cocasses ou choquantes, propageant des mensonges sur les adversaires politiques du candidat républicain, ont généré des flux de revenu publicitaire qui ont permis à ces adolescents, souvent en rupture scolaire, de joindre les deux bouts", écrit Antonio Casilli.


Pour certains, le filon est même devenu une "success story". C’est le cas de l’américain Paul Horner, devenu célèbre pour avoir gagné entre 5.000 et 10.000 dollars de revenus publicitaires par mois en écrivant des fausses informations virales comme celle affirmant que le Pape François soutenait Donald Trump...

Le nouvel horizon des "deep fake"

Bientôt, peut être, ces exemples feront partie de la préhistoire de la post-vérité. Car l’innovation ayant toujours un train d’avance, les manipulations peuvent désormais envahir les vidéos : on appelle ça des "deep fake". Le réalisateur américain Jordan Peele (Get out, Us) a popularisé le procédé, en montrant dans une vidéo de Buzzfeed comment il pouvait faire dire n'importe à Barack Obama en vidéo. L'illusion est parfaite, et montre à quoi pourraient ressembler les canulars de demain.

Peu touchée jusqu’ici, la France a fait l’expérience d'un de ses premiers "deep fake" viraux fin mars 2019, avec cette vidéo du nouveau préfet de Paris Didier Lallement, affublé d’une immense casquette digne d’un officier soviétique.

À l’heure où, face aux mensonges, la vidéo est souvent brandie comme preuve ultime par ceux qui souhaitent rétablir la vérité, l’arrivée des "deep fake" peut générer de grandes confusions. Car si des moyens techniques existent pour les contrer, encore faut-il ne pas arriver trop tard après la manipulation.

Retrouvez ci-dessus le cinquième volet de notre dossier.

Tout savoir sur

Tout savoir sur

"FAKE NEWS !" : un voyage en post-vérité

Sur le même sujet

Plus d'articles

Lire et commenter