La recherche « Taylor Swift » à nouveau possible sur X, après un blocage en raison de fausses images pornographiques

Il est à nouveau possible pour les utilisateurs d’X, anciennement Twitter, de rechercher le nom de Taylor Swift sur la plateforme. Le réseau social avait mis en place une pause temporaire au cours du week-end, suite à un déferlement d’images pornographiques de la pop star, générées par l’IA.

Un article de Siladitya Ray pour Forbes US – traduit par Lisa Deleforterie

Faits marquants

La recherche « Taylor Swift » donne désormais des tweets contenant le nom de la star de la pop, au lieu du message d’erreur que les utilisateurs ont reçu au cours du week-end.
La décision de la plateforme de bloquer les recherches sur le nom de la chanteuse a été prise après que des images pornographiques de Taylor Swift, générées par l’IA, ont commencé à se répandre sur X, suscitant la colère des Swifties.
X a indiqué à plusieurs médias que les recherches sur le nom de Taylor Swift ont été réactivées, mais que la société « restera vigilante quant à toute tentative de diffusion de ce contenu et le supprimera ».

Contexte clé

Plusieurs dizaines d’images de Taylor Swift générées par l’IA, sexuellement explicites ou représentant des actes de violence à l’encontre de la pop star, ont été largement partagées par de nombreux comptes la semaine dernière, certaines d’entre elles ayant été vues plus de 45 millions de fois et ayant reçu des centaines et des milliers de likes. À cause de ces images, l’expression « Taylor Swift AI » a eu le vent en poupe sur la plateforme la semaine dernière. Les Swifties ont tenté de riposter en signalant en masse un grand nombre de ces messages et en partageant des images plus positives de la popstar avec le hashtag #ProtectTaylorSwift. X a d’abord réagi à la controverse en déclarant que le partage de nudité sans consentement était « strictement interdit » et que la société essayait de retirer ces images activement et de « prendre des mesures appropriées contre les comptes responsables de leur publication ». Un jour plus tard, la société a carrément suspendu les recherches sur le nom de la chanteuse.

Tangente

Un rapport de 404 Media a retracé l’origine probable des images explicites dans des groupes Telegram, dont l’un au moins utilisait « Microsoft Designer », un générateur d’IA texte-image destiné aux graphistes. Le PDG de Microsoft a déclaré à NBC News que les images étaient « alarmantes et terribles » et que l’entreprise s’efforçait de mettre en place des garde-fous autour de la technologie d’IA générative afin d’éviter les abus. L’entreprise a ensuite déclaré qu’elle avait corrigé une faille qui permettait à l’outil Designer d’être utilisé pour générer de telles images.

À surveiller

Cet incident survient alors que certains législateurs américains cherchent à criminaliser le partage de pornographie sans consentement générée par l’IA. La semaine dernière, la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a déclaré que la diffusion de ces images était « alarmante » et a exhorté le Congrès à « prendre des mesures législatives ». Mme Jean-Pierre a également déclaré que les entreprises de médias sociaux devaient faire respecter leurs propres règles, ajoutant : « Nous savons que le laxisme dans l’application des règles a des conséquences négatives sur la sécurité des utilisateurs et un impact disproportionné sur les femmes et les jeunes filles, qui sont les principales cibles du harcèlement et des abus en ligne ».