Long-format | La machine étrangère à fake news pro-Trump mise tout sur le patriotisme américain

Cela fait plus de huit ans que les usines de contenu à l’étranger (hors États-Unis NDLR) ont commencé à créer des pages de fake news en provenance des États-Unis sur Facebook. Leur activité, désormais alimentée par l’IA, est toujours aussi florissante.

Article d’Emily Baker-White pour Forbes US – traduit par Flora Lucas

Une certaine idée des États-Unis ne cesse de gagner de l’ampleur sur Facebook. Le réseau social a accueilli plus d’une centaine de pages ayant pour thème le patriotisme américain et portant des noms tels que Proud American, Proud To Be An American, American Story et We Are America.

Le problème des « fermes à clics » sur Facebook

Cependant, une grande partie de ces pages, malgré leur nom, ne sont pas du tout américaines. Elles sont gérées par des « fermes à clics » à l’étranger, dont beaucoup sont situées en Macédoine. Ces fermes utilisent l’IA pour produire un océan quasi infini de « pièges à clics ». Des messages de prières pour les soldats américains, des tweets réécrits, des mèmes et des photos de vieilles pin-up hollywoodiennes renvoient à des articles générés par l’IA, contre lesquels les fermes à clics peuvent vendre de la publicité. Des titres comme Des pompiers courageux risquent leur vie pour en sauver d’autres et L’héroïsme d’un père : L’histoire tragique de Phil Dellegrazie et de son fils Anthony annoncent des articles courts et peu informatifs sur des sites internet couverts de publicités souvent à caractère sexuel. Les pages qui les promeuvent font semblant d’être américaines parce qu’elles sont payées chaque fois que quelqu’un clique sur l’un de leurs liens, et dans le monde de la publicité, les clics américains sont parmi les plus précieux.

Une étude de Forbes a identifié 67 pages Facebook (aujourd’hui supprimées) qui se présentaient comme des champions de l’actualité, de la culture ou de l’identité américaines, mais qui étaient en réalité basées à l’étranger. Au 20 août, elles comptaient plus de neuf millions d’adeptes, soit plus que les pages Facebook du Wall Street Journal ou du Washington Post. Trente-trois d’entre elles étaient gérées depuis la Macédoine, les autres étant réparties dans 23 pays différents, dont le Canada, la France, le Maroc, le Venezuela et le Vietnam.

Les fermes à clics, en particulier ceux de Macédoine, ont une longue histoire sur Facebook. Lors de l’élection présidentielle de 2016, des adolescents de ce petit pays d’Europe de l’Est ont diffusé des fake news à des millions d’Américains sur Facebook, engrangeant des dizaines de milliers de dollars de recettes publicitaires. En 2019, des pages similaires d’Europe de l’Est ont fait de même, cette fois-ci, en atteignant près de la moitié des Américains sur la plateforme.

Aujourd’hui, l’IA a donné à ces mêmes opérations la capacité de produire des volumes quasi infinis d’informations de mauvaise qualité (ou carrément fausses) et, dans certains cas au moins, ces fake news produites par l’IA sont en train de percer. Les pages ont commencé à utiliser des images génériques générées par l’IA (aigles à tête blanche, étoiles et rayures, soldats en tenue de camouflage et parfois la statue de la Liberté) pour attirer les utilisateurs américains de Facebook, et dans certains cas, cela fonctionne. Un post publié la semaine dernière par la page American Patriots, basée au Canada, présentait une photo générée par l’IA d’un soldat américain et de ses enfants, et a reçu plus de 100 000 likes et 35 000 commentaires. La page American Patriots, comme la plupart des autres, dirigeait les internautes de Facebook vers des fermes à clics proposant des articles de mauvaise qualité.

Forbes a soumis trois des articles d’American Patriots à un détecteur de texte d’IA appelé GPT-Zero, qui a constaté qu’ils avaient 79 %, 85 % et 100 % de chances d’avoir été générés par une IA. Le détecteur a également constaté que les articles liés à We Love America, une page espagnole, et à American Story, une page macédonienne, avaient une probabilité de 100 % d’avoir été générés par l’IA.

Des pages qui violent les règles de Meta se multiplient grâce à l’IA

« Toutes les plateformes ont des incitations […] et elles offrent une fenêtre sur ce qui est au cœur de Facebook, ce qui le fait fonctionner », a déclaré Jeff Allen, cofondateur de l’Integrity Institute et ancien scientifique de données de Facebook qui a suivi de l’intérieur les réseaux d’administrateurs de pages spammy. Pour lui, les fermes à clics sont une « formidable loupe […] sur les parties les plus reptiliennes de notre cerveau ».

Margarita Franklin, porte-parole de Meta, a déclaré à Forbes que les 67 pages violaient les règles de Meta en matière de comportement inauthentique, car elles présentaient de manière erronée le lieu où elles étaient basées ; elles ont toutes été supprimées. Ce n’est pas nécessairement une violation des règles de Meta que de créer une page sur un pays tout en étant basé dans un autre, mais les pages franchissent une ligne lorsqu’elles trompent les gens sur leur lieu d’origine. Margarita Franklin a déclaré que les pages n’étaient actives que depuis un peu plus d’une semaine lorsque Forbes les a signalées.

Margarita Franklin a également déclaré que si l’IA facilite la création de contenu pour les spammeurs et les escrocs, leur principal défi a toujours été d’attirer les internautes sur leurs pages, qu’elles soient créées à l’aide de l’IA ou non. Selon un récent rapport de Meta Threat Report, l’IA générative « n’a apporté aux acteurs de la menace que des gains de productivité et de génération de contenu », car le coût de création d’articles de type clickbait de faible qualité a toujours été assez bas.

Lorsque les fermes à clics macédoniennes sont devenues importantes sur Facebook en 2016, elles se sont appuyées sur la colère des hyperpartisans de Donald Trump, avec des sujets qui divisent comme l’immigration, les droits des transgenres, la race et le maintien de l’ordre. La théorie était simple : écrire sur ce qui était le plus susceptible d’intéresser les gens. Et à l’époque, les posts sur ces sujets étaient souvent en tête du palmarès de l’engagement sur Facebook.

Cependant, l’algorithme de Facebook s’est éloigné de la politique au cours des huit années qui se sont écoulées depuis. L’entreprise a commencé à rétrograder agressivement les messages politiques après les émeutes du 6 janvier 2021 au Capitole, organisées en partie sur les plateformes Meta.

Certaines pages patriotiques américaines abordent encore des sujets politiques, avec des articles récents sur des sujets tels que la théorie critique de la race et les droits des transgenres. Dans l’ensemble, cependant, les pages ne se concentrent pas sur la politique. Le plus souvent, elles présentaient des histoires de tabloïds classiques, comme des histoires de conjoints infidèles ou d’ouvriers qui se vengent des élitistes qui les ont snobés. Curieusement, les mèmes mettant en scène Simon Cowell, personnalité de la télévision et juge de l’émission America’s Got Talent, sont omniprésents dans les pages. En plus de modifier leur contenu pour tenir compte du fait que l’algorithme de Facebook s’éloigne de la politique, les pages ont également montré d’autres signes révélateurs d’une adaptation aux règles et incitations en constante évolution de la plateforme. Par exemple, Facebook a réduit la portée des liens spammy, mais donne la priorité aux commentaires d’un administrateur de page sur ses propres publications. En conséquence, ces pages ont souvent publié un mème ou une autre image qui résume l’essentiel d’un article, puis ont posté le lien sous forme de commentaire.

Fake news pour une opération d’influence ?

Certaines de ces pages ont également eu recours à d’autres astuces pour stimuler l’engagement des internautes, qui sont depuis longtemps très répandues. Une page basée au Kosovo, appelée Animals News America, présentait des messages de type clickbait similaires (et dans certains cas, identiques) à ceux d’autres pages n’ayant pas pour thème les animaux. Cependant, elle affichait également un flux régulier de chatons et de chiots, selon une stratégie précédemment employée par des diffuseurs de fake news notoires, comme le médecin Joseph Mercola, qui nie la pandémie de covid-19, et NTD News, une marque sœur d’Epoch Times affiliée au mouvement Falun Gong.

Même si ces pages n’étaient pas utilisées intentionnellement pour influencer les opinions politiques des gens, les fermes à clics les transforment parfois en opérations d’influence géopolitique délibérées, a déclaré Jeff Allen. Alors qu’il travaillait encore pour Facebook, il a observé une opération basée en Thaïlande qui ciblait des pages sur la politique à l’intention d’audiences au Myanmar. Ces pages étaient parfois utilisées comme des armes à louer pour des campagnes politiques. « Mais en dehors de la saison des campagnes politiques, ils menaient exactement les mêmes opérations, se contentant de gagner de l’argent. »

Ces pages sont donc moins inoffensives qu’il n’y paraît. « Je parie qu’il existe de nombreuses opérations d’influence étrangères qui aimeraient acheter ces pages au moment opportun. Il y a donc des moments où les fermes à clics peuvent devenir beaucoup plus néfastes », a déclaré Jeff Allen. Après la révélation de l’existence des fermes à clics macédoniennes, Facebook a mis en place une fonctionnalité permettant aux utilisateurs de savoir depuis quel pays est gérée une page qui compte au moins 5 000 abonnés ou qui a diffusé des publicités politiques. Cependant, le pays d’origine de l’administrateur d’une page est souvent caché dans un obscur panneau appelé « Transparence de la page », et les commentaires sur les messages des pages étrangères à thème américain suggèrent que de nombreuses personnes ayant lu ces messages ne savaient pas que ces pages étaient gérées par des étrangers.

Les pages sur le thème des États-Unis étaient elles aussi délibérément trompeuses. Un message posté la semaine dernière par une page appelée America Today affirmait : « Pas un centime de plus pour les nations qui manquent de respect à notre drapeau et à nos valeurs !🇺🇸 » La page était gérée depuis la Macédoine.

Maragarita Franklin a noté que, dans certains cas, Meta affiche désormais l’emplacement des gestionnaires de certaines pages directement dans le fil d’actualité de Facebook.

La Macédoine reste le principal pourvoyeur de fake news patriotiques

Une étude de Forbes a révélé que plus de deux douzaines de pages étaient basées dans ce pays d’Europe de l’Est et que d’autres étaient réparties dans 23 pays différents. Ensemble, elles comptent plus d’adeptes sur Facebook que le Wall Street Journal ou le Washington Post.

Un problème bien répandu sur les réseaux sociaux

Les comptes qui prétendent être américains alors qu’ils ne le sont pas sont un problème très répandu sur les réseaux sociaux. Facebook, et c’est tout à son honneur, est la seule grande plateforme de réseaux sociaux à révéler le pays à partir duquel ses grandes pages sont gérées. D’autres plateformes, dont YouTube et TikTok, permettent aux utilisateurs de déclarer eux-mêmes leur localisation s’ils le souhaitent, ce qui rend plus difficile la détection des comptes qui prétendent être américains alors qu’ils ne le sont pas. Les motivations sont toutefois les mêmes. Parveen Kumar Shah, qui gagne sa vie en conseillant les gens sur la manière de développer leur audience sur YouTube et Instagram par l’intermédiaire de sa chaîne TubeSensei, a récemment suggéré à d’autres créateurs de pages cherchant à se constituer un public de faire semblant d’être américains. Pourquoi ? « Vous gagnerez plus d’argent de cette manière », a-t-il conseillé.

L’IA rend cela encore plus facile. Dans une interview, Parveen Kumar Shah a déclaré à Forbes que désormais, « si vous ne voulez pas montrer votre visage, tout peut être fait par l’IA ». Sur YouTube, il a montré à ses abonnés comment créer des pages sur le thème de la masculinité pour les adolescents américains, avec des titres tels que Far From Weak et Sigma Male. Il a déclaré à Forbes : « Il est très facile de cibler ce type de public, car le cerveau d’un adolescent est très facile à modeler. »

De nombreuses vidéos sur YouTube expliquent comment cacher ou usurper son pays de résidence sur la plateforme, pour faire croire que sa chaîne est basée dans une autre partie du monde. Pour Parveen Kumar Shah, il s’agit d’un simple calcul économique : YouTube rémunère les gestionnaires de chaînes en fonction des publicités diffusées sur leur chaîne, et les annonceurs dépensent beaucoup plus sur les marchés occidentaux qu’en Inde. Sur la chaîne TubeSensei, il explique : « Notre chaîne est destinée à un public américain, et dès qu’il apprend qu’il s’agit d’une chaîne indienne ou qu’un créateur indien est derrière, il arrête de regarder la chaîne. »

Que faire contre ces fake news ?

Jeff Allen, ancien spécialiste des données de Facebook, a décrit les fermes à clics comme un problème que les plateformes doivent résoudre et pour lequel, si elles ne le font pas, les régulateurs pourraient éventuellement les pénaliser. Il a comparé la prévalence des pages inauthentiques aux pneus défectueux d’une voiture : « Cela fait dix ans que vos pneus éclatent sur les autoroutes. À un moment donné, la réglementation va se faire sentir. »

Cependant, tant que les crimes des fermes à clics ne vont pas au-delà de la prolifération de mèmes périmés et de faible qualité, Jeff Allen ne pense pas que la suppression des pages soit la solution. Selon lui, Facebook devrait plutôt s’éloigner d’un algorithme qui incite les gens à publier des articles sensationnalistes, et donc des fake news.

« Si une ferme à clics essaie de cultiver sur votre plateforme, mais n’obtient aucun clic, est-elle toujours une ferme à clics ? »

Rashi Shrivastava a contribué à cet article.

À lire également : Comment l’Intelligence Artificielle Peut-Elle Lutter Contre Les Fake News ?