Le consentement est essentiel pour l’industrie du porno, mais l’IA pourrait y mettre fin

Face à l’explosion du porno généré par l’intelligence artificielle (IA), de nombreux acteurs et actrices affirment que cette nouvelle technologie est utilisée pour leur faire faire ou dire des choses sans leur consentement.

Article de Emily Baker-White pour Forbes US – traduit par Flora Lucas

Pendant des mois, la star du porno Demi Sutra a reçu des messages de fans lui demandant de tourner une scène dans laquelle elle se faisait passer pour une mineure. Elle a refusé. Comme la plupart des acteurs de vidéos pour adultes, Demi Sutra pose des limites claires quant au type de contenu qu’elle est prête à créer et l’ageplay (lorsque les acteurs se font passer pour des mineurs) est un genre de porno qu’elle trouve détestable. Cependant, il y a environ un an et demi, un fan lui a envoyé un message sur Twitter avec une photo d’elle animée avec sa propre voix, déclarant qu’elle n’avait que 16 ans.

« J’ai des vidéos de moi en train de dire des choses dégoûtantes que je ne dirais jamais », a déclaré Demi Sutra dans une interview à Forbes. « Je ne veux pas me voir en train de faire ça. Je ne veux pas participer à cette entreprise négative pour les enfants. Ce sont des prédateurs d’enfants [qui sont à l’origine de ces vidéos]. Je ne veux pas en faire partie. Et pourtant j’en fais partie, en ce moment même, sans mon consentement. »

Demi Sutra n’est pas la seule. Lors d’interviews, trois autres créateurs de contenus pour adultes ont exprimé leur crainte que l’IA ne fasse des ravages sur les principes affirmatifs et vocaux du consentement sur lesquels ils s’appuient dans l’industrie du porno grand public. Leana Lovings, actrice et ambassadrice de la marque pour le site internet Adult Time, a décrit comment ces directives influent sur la manière dont les scènes sont tournées : avant le début du tournage, chaque acteur reçoit une checklist des choses à faire et à ne pas faire. « Chacun confirme à haute voix ce qu’il est prêt à faire ce jour-là et ce qu’il n’est pas prêt à faire », a-t-elle déclaré à Forbes.

Ces règles ont été essentielles à la survie de l’industrie du porno dans un espace très réglementé, où un malentendu peut facilement conduire à une rupture de contrat ou à une infraction à la loi. Cependant, désormais, n’importe qui peut utiliser un algorithme pour superposer le corps d’une personne réelle à une scène fictive, ou faire dire ou faire faire à un acteur quelque chose qu’il n’a pas consenti à faire, souvent sans aucune répercussion.

« Je ne veux pas en faire partie. Et pourtant j’en fais partie, en ce moment même, sans mon consentement. »

Demi Sutra, star du porno

Le niveau de prudence (et de crainte) de l’industrie du porno n’existe pas encore dans le monde en pleine évolution de l’IA pornographique, où des applications ont vu le jour sur internet, promettant aux utilisateurs la possibilité de « déshabiller n’importe qui ! », des artistes adultes, des célébrités ou autres. Les « deepfakes » et « cheapfakes » non consensuels qui s’approprient l’image de personnes (principalement des femmes) sans leur consentement inondent même des sites grand public tels que Reddit et Etsy, qui ont dû faire face à des problèmes de modération.

« L’IA n’en est encore qu’à ses balbutiements dans l’espace adulte. Nous avons des gens qui ne sont pas des travailleurs du sexe qui essaient d’entrer dans l’espace sans avoir à faire face aux ramifications d’un travailleur du sexe », a déclaré Siren Obscura, une réalisatrice et productrice indépendante qui travaille avec des créateurs de contenu pour adultes. « Ces personnes essaient de tirer profit du corps des travailleurs du sexe. »

La grande accessibilité de l’IA capable de produire du porno sur mesure pourrait également réduire la capacité des stars du porno à gagner leur vie. Leana Lovings note que la menace est plus prononcée pour les acteurs qui ont tourné un grand nombre de scènes, révélant leur corps dans de nombreux contextes et sous de nombreux angles, ce qui rendrait plus facile pour l’IA de se faire passer pour eux. « Plus nous tournons de scènes, plus l’IA sera en mesure de nous imiter », a-t-elle déclaré.

Plusieurs des stars du porno qui se sont confiées à Forbes ont fait des comparaisons avec la menace similaire que l’IA fait peser sur les acteurs, ce qui était l’un des principaux problèmes de la récente grève à Hollywood. En fin de compte, le syndicat des acteurs a obtenu des dispositions contractuelles limitant les possibilités pour les employeurs de créer des rendus d’IA de leurs membres. Leana Lovings espère que les législateurs créeront de nouveaux recours pour les acteurs pornos dont les images sont utilisées à mauvais escient. « J’aimerais qu’il y ait davantage de législation qui nous permette d’agir dans ce domaine », a-t-elle déclaré à Forbes.

Peu de lois protègent les personnes dont les images ont été modifiées par l’IA sans leur consentement. Aux États-Unis, certains États ont classé la publication de deepfakes dans le cadre des lois existantes qui interdisent la diffusion de « revenge porn » (photos ou vidéos explicites d’une personne partagées sans son consentement). Cependant, les lois sur le revenge porn se limitent souvent aux situations où les auteurs diffusent des images dans le but de harceler ou de terroriser la victime décrite. Dans le cas d’images ou de vidéos de stars du porno faisant des choses auxquelles elles n’ont pas consenti, d’autres motifs sont plausibles : le créateur de l’image peut l’avoir créée pour la vendre, ou simplement pour en profiter pour son usage personnel.

Certains législateurs et experts préconisent des protections plus solides pour les victimes de deepfakes, qu’ils aient été créés ou non dans l’intention de harceler. Rebecca Delfino, professeure de droit à l’université Loyola Marymount et spécialiste de la législation sur les deepfakes, note que de nombreuses assemblées législatives, y compris la Chambre des représentants des États-Unis, envisagent de nouvelles sanctions pour les personnes qui créent ou diffusent des deepfakes pornographiques. « La pornographie, tant qu’elle est basée sur le consentement, mérite les protections du premier amendement », a-t-elle déclaré à Forbes. « Mais l’absence de consentement, comme c’est généralement le cas lorsqu’une personne fait l’objet d’un deepfake, place ce type de pornographie, je pense, dans le même camp que la pornographie enfantine, que nous ne devrions pas considérer comme une chose susceptible d’être protégée par le premier amendement. »

Rebecca Delfino prévient que la pénalisation des créateurs de contenus non consensuels pourrait ne pas suffire, car il pourrait être difficile de les identifier, et encore plus de les traîner devant un tribunal. Elle a fait remarquer que les fournisseurs d’accès à internet jouent un rôle important dans la mise à disposition du public du deepfake pornographique (et des outils utilisés pour le créer) et que, s’il le souhaitait, le Congrès américain pourrait adopter une loi qui les rendrait passibles de sanctions pour avoir distribué ce type de contenu.

Des stars du porno ont déclaré à Forbes qu’elles avaient également vu des personnes utiliser leurs images de manière troublante, mais avec des moyens moins avancés sur le plan technologique. Stella Sedona a déclaré que son objectif était de créer « un espace inclusif et sûr pour que les gens puissent explorer leur sexualité ». Elle a donc été horrifiée de découvrir des dessins de fans qui associaient des images de son corps à des propos racistes. Bien que les contenus générés par les utilisateurs et représentant des personnalités publiques soient monnaie courante, Stella Sedona souligne que le fait d’être une actrice de vidéos pour adultes n’est pas tout à fait comparable au fait d’être une personnalité publique ordinaire. Lorsqu’une star hollywoodienne joue le rôle d’un super-vilain dans un film, personne ne voit cette personne comme un super-vilain lorsqu’elle se promène dans la rue le lendemain. En revanche, lorsqu’une personne est présente dans un film pornographique, « elle représente ce qu’elle est en tant que personne ».

Pourtant, dans certaines situations, les stars du porno sont confrontées aux mêmes types de détournement que les autres personnalités publiques. Demi Sutra a mentionné qu’elle et d’autres acteurs ont été victimes d’une usurpation d’identité de la part d’escrocs qui leur proposaient des produits, un contenu prétendument exclusif et même des rencontres en personne. Ce type d’escroquerie en ligne vise souvent les célébrités classiques (il suffit de demander aux victimes des nombreuses escroqueries à la cryptomonnaie d’Elon Musk), mais les créateurs pour adultes sont moins bien protégés contre l’usurpation d’identité que d’autres personnalités publiques. Comme ils ne peuvent pas être vérifiés sur les plateformes de réseaux sociaux comme YouTube et Instagram, il est plus difficile pour les fans de savoir quels comptes leur appartiennent vraiment.

« Nous créons un produit artisanal. Si vous voulez du vrai contenu, vous devrez venir sur les pages des créateurs. »

Stella Sedona, star du porno

Pour résoudre ce problème, tous les acteurs pornos ont déclaré qu’ils espéraient que les sites pornographiques et les sites de réseaux sociaux conventionnels mettraient en place des procédures de vérification plus strictes pour aider les utilisateurs à faire la différence entre les comptes authentiques et les imposteurs. Kristen Kaye, responsable marketing et gestionnaire de talents dans l’industrie, est allée plus loin en suggérant que les sites pornos exigent que toute personne téléchargeant du contenu d’IA détienne la licence des images qui y sont représentées. Kirsten Kaye et Siren Obscura ont noté que certains acteurs de vidéos pour adultes ont commencé à expérimenter de nouvelles fonctionnalités d’IA, comme des chatbots formés à leur propre langage et capables d’interagir avec leurs fans 24/7. Ils ont convenu que tant que les acteurs y consentent, les chatbots pourraient être une bonne chose.

Cependant, tous les acteurs s’accordent à dire que l’IA n’est pas près de s’emparer de leur travail. Le porno entièrement faux généré par l’IA, qui ne représente pas une personne réelle, a également proliféré, mais il n’est pas aussi bon que le vrai (pour l’instant) et les acteurs se demandent s’il le sera un jour.

Leana Lovings se dit « humaniste » et pense qu’il ne sera pas facile pour un ordinateur de recréer des émotions humaines authentiques. Stella Sedona est d’accord : « Nous créons un produit artisanal. Si vous voulez du vrai contenu, vous devrez venir sur les pages des créateurs, où les vidéos viennent vraiment de la personne qui les a créées. Et pour beaucoup de gens, c’est ce qu’ils recherchent en fin de compte. »

À lire également : Le site Etsy héberge des deepfakes pornographiques de célébrités