Arnaque aux deepfakes aux États-Unis sur Facebook et YouTube visant les partisans de Donald Trump

DEEPFAKES | De nombreux Américains se sont fait avoir par des vidéos de Tucker Carlson, de Martin Luther King Jr. et de l’ancien président Donald Trump, toutes générées par l’IA. Sous couvert de soutenir la campagne de réélection du candidat républicain en répondant à un sondage, les arnaqueurs auraient extorqué plusieurs millions de dollars.

Article d’Emily Baker-White pour Forbes US – traduit par Flora Lucas

La vidéo commence par un message du révérend Martin Luther King Jr., une musique de piano à la fois douce et intense est jouée en arrière-plan pendant qu’il s’exprime : « On nous a répété que nous ne pouvions pas voter pour l’homme qui a fait plus pour la communauté noire que n’importe quel autre président. Si un Noir ose s’exprimer en faveur de Donald Trump, un démocrate est toujours là pour traiter cet homme d’Oncle Tom, de nègre de maison, voire pire. »

Une arnaque aux deepfakes bien ficelée

Le faux Martin Luther King Jr. continue pendant plus de deux minutes à faire l’éloge de Donald Trump et à dénigrer les démocrates, tandis que des photos et de courtes vidéos de détenus noirs, de politiciens démocrates et de scènes de troubles civils défilent en arrière-plan. Puis la voix change brusquement et implore le spectateur de répondre à un sondage gratuit pour soutenir l’ancien président Donald Trump. En répondant à ce sondage, le spectateur recevra un drapeau de l’ancien président gratuit et il n’aura qu’à payer les frais d’expédition et de gestion. À aucun moment il n’est fait mention des 80 dollars de frais de carte de crédit récurrents qu’il devra payer après le passage en caisse.

Lorsque les « clients » potentiels cliquent pour recevoir leur drapeau Donald Trump gratuit, ils sont dirigés vers plusieurs sites internet intermédiaires jusqu’à un dernier qui traite les informations relatives à leur carte de crédit. Le site explique, en très petits caractères, qu’en saisissant les informations relatives à leur carte, les « clients » reconnaissent qu’ils devront s’acquitter de frais récurrents pour devenir membres d’un club sur le thème de MAGA (Make America Great Again).

Lorsque les frais de carte de crédit tombent, ils sont presque toujours inattendus, selon trois victimes avec lesquelles Forbes s’est entretenu et plusieurs douzaines de commentaires Facebook laissés par d’autres. Ces frais sont également déroutants, car ils ne proviennent pas du site du drapeau Donald Trump, mais d’un site internet qu’ils n’ont jamais visité. La Federal and Trade Commission (FTC) et le département américain de la justice ont qualifié cette pratique de « blanchiment de cartes de crédit » et ont engagé des poursuites à l’encontre de ceux qui y ont recours.

Les deepfakes de l’arnaque au drapeau gratuit de Donald Trump ont été vus plus de 100 millions de fois sur Facebook récemment, selon la bibliothèque de publicités de l’entreprise. L’une des pages qui les diffusent a dépensé 1 500 000 dollars rien qu’au cours des quatre derniers mois, ce qui en fait le cinquième plus gros dépensier politique de Meta pour ce cycle. Un compte sur YouTube a dépensé près de 800 000 dollars pour diffuser des publicités presque identiques, qui ont été visionnées plus de 85 millions de fois. On ignore combien de personnes ont été escroquées ou combien d’argent elles ont perdu collectivement, mais les dépenses publicitaires et l’ampleur de l’opération indiquent un montant de l’ordre de plusieurs millions.

La direction de campagne de Donald Trump n’a pas répondu à une demande de commentaire de Forbes, mais rien ne prouve que l’ancien président ou sa campagne soient liés à cette escroquerie.

Le faux Martin Luther King Jr. n’est pas le seul deepfake à proposer ce stratagème : d’autres publicités sur les mêmes pages Facebook et comptes YouTube ont présenté des deepfakes de Tucker Carlson et de Donald Trump lui-même. Les comptes à l’origine de ces publicités ont également diffusé des centaines d’autres publicités non politiques sur Facebook et YouTube au cours des derniers mois, mettant en scène les voix truquées de Taylor Swift, Joe Rogan, Dwayne « The Rock » Johnson et d’autres célébrités, affirmant que les spectateurs peuvent recevoir 6 400 dollars de subventions gouvernementales gratuites s’ils appellent simplement un numéro pour s’inscrire. Les soi-disant « subventions gratuites » ont été démenties par l’unité de vérification des faits de Reuters à la fin de l’année 2023.

Les escroqueries visant les partisans de Donald Trump sont courantes en ligne. L’année dernière, des arnaqueurs ont utilisé des deepfakes pour escroquer des personnes et leur faire acheter des milliers de dollars de « Trump Bucks », des billets à l’effigie de Donald Trump dont ils pensaient à tort qu’ils seraient utilisables comme monnaie légale. Le mois dernier, des escrocs ont fait perdre des centaines de milliers de dollars à des personnes âgées qui pensaient investir dans des cartes de débit préchargées à l’effigie de Donald Trump. Le problème s’est aggravé au point que la campagne de Donald Trump a mis en place un « sceau d’approbation » officiel pour permettre aux gens de savoir quelles organisations et quels vendeurs sont réellement affiliés à l’ancien président. Un certain nombre de publicités « drapeau gratuit » se sont identifiées comme « officielles » et revendiquent une coordination avec la campagne de Donald Trump.

Des variantes de l’arnaque au drapeau ont également été diffusées pendant des années sur les réseaux sociaux. The Daily Beast a publié un article sur un système similaire qui a accumulé des centaines de milliers de dollars de dépenses publicitaires sur Snapchat en 2020. On ignore si les publicités pour l’arnaque actuelle sont également diffusées sur TikTok ou sur X (où Forbes a trouvé des tweets qui en font la promotion), car ces plateformes ne gèrent pas de bibliothèques de publicités politiques aux États-Unis.

Qui se cache derrière cette arnaque aux deepfakes ?

Qui est donc à l’origine de l’escroquerie du « drapeau gratuit » ? Une enquête de Forbes a permis de remonter jusqu’à un réseau d’acteurs opaques et trompeurs. Il y a ceux qui commercialisent l’arnaque, notamment un annonceur qui contourne les systèmes de transparence de Facebook et de YouTube. Il y a aussi l’entreprise qui expédie parfois des drapeaux de Donald Trump et dont les empreintes figurent sur plusieurs centaines de sites internet de magasins fictifs. Et puis il y a un nid de Limited liability companies (LLC, type d’entreprises ayant des points communs avec la SARL), facilité par une société qui verse à certaines personnes une allocation mensuelle pour établir des sociétés fictives en leur nom, potentiellement en ruinant leur crédit dans le processus. Les pièces du puzzle s’imbriquent les unes dans les autres de manière à minimiser l’exposition de chaque joueur aux méfaits des autres et à les aider à échapper à la répression des plateformes, des banques et des forces de l’ordre.

Contactés par Forbes, Meta et Google ont enquêté sur les comptes promouvant l’escroquerie Donald Trump et les ont supprimés. Les plateformes ont déclaré que les comptes violaient leurs politiques en matière d’escroquerie, de fraude et de pratiques commerciales inacceptables (les deux plateformes interdisent également les deepfakes non étiquetés dans les publicités politiques). Le groupe Meta a déclaré à Forbes qu’après une enquête plus approfondie, il avait également saisi les services de police et émis une injonction de cesser et de s’abstenir.

En janvier dernier, dans un nouveau blog sur YouTube intitulé The Get Rich Show, un entrepreneur de 30 ans nommé Dan Wang s’est présenté, depuis le siège conducteur d’une Ferrari à 500 000 dollars, comme un « investisseur à long terme et un joueur dégénéré à temps partiel ». Propriétaire d’une entreprise appelée Digital Uprising LLC, Dan Wang a déclaré qu’il pouvait gagner en une semaine ce que son père, ingénieur en informatique, gagnait en un an. Son Instagram, Steady Rev Streams 🤝 High Risk Plays, présente sa collection d’armes à feu et de NFT de Bored Ape.

Les comptes Facebook et YouTube de Dan Wang ont fait partie de ceux qui ont promu l’escroquerie des produits dérivés de Donald Trump et de l’escroquerie des subventions gouvernementales, a-t-il confirmé dans une interview accordée à Forbes. Cependant, ce n’est pas lui qui a publié les deepfakes, a-t-il précisé, mais un ou plusieurs des quelque 100 clients auxquels Dan Wang donne un accès direct à ses comptes publicitaires, en échange d’un pourcentage de leurs dépenses publicitaires totales. Au total, ce réseau de spécialistes du marketing utilise ses comptes pour placer des centaines de milliers d’annonces par jour, vendant toutes sortes de choses. Chaque fois que les internautes cliquent et achètent, ces spécialistes du marketing touchent une commission. « Nous comptons en quelque sorte sur nos représentants sur YouTube et Facebook, ainsi que sur leurs systèmes d’évaluation, pour repérer tout ce qui est diffusé et qui va à l’encontre de la politique de l’entreprise », a déclaré Dan Wang.

Ce dernier a refusé de divulguer quels clients avaient affiché les fausses annonces, mais il a indiqué que certains d’entre eux étaient basés en Inde et à Singapour. Meta et Google interdisent aux entités étrangères de diffuser des annonces politiques aux États-Unis et interdisent également aux propriétaires de comptes de louer ou de vendre l’accès à leurs comptes de la manière décrite par Dan Wang. En l’absence de cette interdiction (et d’une détection et d’une application rigoureuses de celle-ci), un marché secondaire pour l’accès à des comptes comme celui de Dan Wang pourrait permettre à des escrocs, voire à des gouvernements étrangers, d’opérer indirectement sur les plateformes sans être détectés. Après que Forbes a signalé les comptes et les messages de Dan Wang à Meta et à Google, ceux-ci ont été supprimés.

Les clients de Dan Wang ne sont pas les seuls à avoir fait la promotion de cette opération d’hameçonnage et d’échange de produits dérivés de Donald Trump. Forbes a découvert que les frères Zakir et Amaan Khan, spécialistes du marketing d’affiliation à Las Vegas, ont également diffusé des publicités dirigeant les spectateurs vers l’opération de merchandising de Donald Trump. Ils n’ont pas répondu à une demande de commentaire.

Dan Wang a déclaré à Forbes qu’il ignorait qui contrôlait les sites internet promus par les publicités de Donald Trump, et il est probable que les frères Khan l’ignorent également, car de nombreux spécialistes du marketing d’affiliation dirigent le trafic vers des sites internet sans savoir qui se cache derrière.

Une adresse de retour en Floride et un système bien huilé de blanchiment de carte de crédit grâce aux deepfakes

Cependant, le site sur lequel les victimes saisissent les données de leur carte de crédit en pensant obtenir un drapeau Donald Trump gratuit mentionne une adresse de retour, que Forbes a pu retracer jusqu’à une entreprise de dropshipping en Floride appelée Save Rack et dirigée par un homme nommé Audi Kowalski. Ce dernier n’a pas répondu aux nombreuses demandes de commentaires de Forbes.

Cette adresse de retour figure également sur plus de 100 sites de vente en ligne liés à plusieurs dizaines de LLC qui semblent utiliser un système de blanchiment de carte de crédit de particuliers et créer des sociétés fictives en leur nom, une pratique qui, selon les experts, est probablement illégale.

L’été dernier, Alex* a vu une annonce sur Craigslist offrant aux gens la possibilité de gagner un « revenu important » en ligne en y consacrant un minimum de temps. Lorsqu’elle a demandé plus de détails, un représentant d’une société appelée Vertical Merchants l’a contactée. Alex allait rejoindre ce que l’on appelle un programme IBO (Independent Business Owner, entrepreneur indépendant). Ce programme n’est accessible qu’aux citoyens américains âgés de plus de 18 ans, qui doivent avoir une bonne solvabilité pour pouvoir en bénéficier. Si Alex est acceptée dans le programme IBO, Vertical Merchants lui versera jusqu’à 1 000 dollars par mois en échange du droit de créer une LLC et un compte bancaire à son nom. Elle serait techniquement la propriétaire de certaines boutiques en ligne, mais ils s’occuperaient de la gestion quotidienne, elle n’aurait rien à voir avec leur fonctionnement.

Les entreprises de commerce électronique peuvent souhaiter avoir une LLC liée à une personne ayant une bonne solvabilité si leurs clients contestent régulièrement les frais de leur carte de crédit. Lorsqu’une entreprise subit un nombre anormalement élevé de rétrocessions, les banques peuvent la mettre en demeure, lui imposer des amendes et même lui interdire de traiter des paiements. Vertical Merchants fournit un service aux entreprises qui subissent un nombre élevé de rétrocessions, en leur permettant de répartir leurs paiements sur de nombreux comptes différents afin d’éviter les seuils de rétrocessions.

Alex a saisi l’occasion et une série de sites internet ont été créés à son nom et au nom d’une LLC enregistrée à son nom. L’adresse de retour de ces sites était la boîte postale d’Audi Kowalski.

Adam Levitin, professeur à la Georgetown Law School et expert en droit de la protection des consommateurs, a déclaré à Forbes que le modèle de Vertical Merchants violait probablement les lois fédérales et nationales contre les pratiques commerciales trompeuses, car les clients croient qu’ils effectuent des transactions avec une entreprise, alors qu’en réalité, ils en effectuent avec une autre. Il a également prédit que ce modèle violerait les règles de traitement des cartes de crédit des banques, une fois qu’elles se seraient rendu compte de ce qui se passait.

Dans une interview accordée à Forbes, Alex a reconnu que s’inscrire au programme n’était « probablement pas la chose la plus intelligente que j’ai faite ». Elle a semblé se rendre compte en temps réel qu’elle risquait de compromettre son crédit, voire d’engager sa responsabilité pour les fautes commises par d’autres.

Forbes s’est entretenu avec deux autres personnes qui ont utilisé leur propre nom pour créer des LLC impliquées dans l’arnaque aux deepfakes pour les drapeaux gratuits Donald Trump. L’une d’elles a déclaré ne pas connaître Vertical Merchants, mais avoir reçu des paiements de BABI Media LLC, une entité enregistrée au nom de Bruce Workman, le père à la retraite d’un vice-président de la technologie et du marketing de la société de dropshipping d’Audi Kowalski.

Vertical Merchants, Audi Kowalski et Bruce Workman n’ont pas répondu aux nombreuses demandes de commentaires de Forbes. Toutefois, après que Forbes a envoyé des demandes, 89 sites internet liés à cette arnaque aux deepfakes, y compris les pages de transaction où les clients potentiels donnaient leur numéro de carte de crédit, ont été mis hors ligne.

*Ce n’est pas son vrai nom. Forbes a accordé l’anonymat à plusieurs sources qui craignaient des représailles de la part de leur employeur.

À lire également : Escroquerie aux dirigeants, usurpation d’identité et « deepfakes » : comment s’en protéger ?