Selon un nouveau rapport, l’algorithme de recommandation de YouTube oriente les enfants vers des vidéos d’armes à feu et de fusillades dans les écoles.
En 2021, Cristos Goodrow, vice-président de l’ingénierie de YouTube, a déclaré que l’entreprise avait « fait de la diffusion de recommandations responsables sa priorité absolue », affirmant que ses algorithmes n’orientaient pas les spectateurs vers des contenus extrêmes. Cependant, selon le Tech Transparency Project (TTP) de la Campaign for Accountability (CFA), ce n’est pas le cas.
L’équipe a créé quatre comptes, en se faisant passer pour deux garçons de 9 ans et deux garçons de 14 ans, et a créé pour chacun d’eux des listes de lecture composées uniquement de vidéos de jeux. Pour les plus jeunes, il s’agissait de Roblox, Lego Star Wars et Five Nights at Freddy’s, tandis que les comptes plus âgés regardaient des vidéos de jeux de tir comme Grand Theft Auto, Halo et Red Dead Redemption.
Les chercheurs ont ensuite enregistré et analysé les vidéos recommandées par l’algorithme de YouTube. L’un des comptes de 9 ans et un autre de 14 ans ont regardé les vidéos recommandées, tandis que les autres ne l’ont pas fait. Ils ont constaté que YouTube diffusait des contenus sur les fusillades et les armes aux quatre comptes, mais à un volume beaucoup plus élevé pour les deux jeunes qui avaient cliqué sur les vidéos recommandées par YouTube.
« Il est déjà assez grave que YouTube rende accessibles aux enfants des vidéos glorifiant la violence armée. Nous découvrons maintenant qu’il recommande ces vidéos aux jeunes », a déclaré Michelle Kuppersmith, directrice exécutive de Campaign for Accountability. « Malheureusement, ce n’est que le dernier exemple en date des algorithmes de Big Tech qui proposent aux enfants l’un des pires contenus dans une quête sans fin d’engagement ».
YouTube a déclaré dans un communiqué qu’il avait mis en place des processus de contrôle robustes et que l’activité des chercheurs pouvait ne pas refléter fidèlement le comportement des utilisateurs dans la vie réelle.
« Nous proposons un certain nombre d’options pour les jeunes spectateurs, notamment une application YouTube Kids autonome et nos outils Supervised Experience, conçus pour offrir une expérience plus sûre aux préadolescents et aux adolescents dont les parents ont décidé qu’ils étaient prêts à utiliser l’application YouTube principale », a déclaré un porte-parole de YouTube.
« Nous souhaitons que nos recommandations fassent l’objet de recherches, et nous explorons davantage de possibilités de faire appel à des chercheurs universitaires pour étudier nos systèmes. Mais en examinant la méthodologie de ce rapport, il nous est difficile de tirer des conclusions solides. Par exemple, l’étude ne précise pas le nombre total de vidéos recommandées aux comptes de test et ne donne pas non plus d’indications sur la manière dont les comptes de test ont été configurés, notamment sur l’utilisation des outils d’expériences supervisées de YouTube. »
Les vidéos recommandées montraient des fusillades dans des écoles et d’autres fusillades de masse, des images graphiques montrant l’ampleur des dégâts que les armes à feu peuvent infliger au corps humain et des guides pratiques pour transformer une arme de poing en arme entièrement automatique. YouTube a même recommandé à plusieurs reprises un film classé R sur la jeune vie du tueur en série Jeffrey Dahmer, indiquent les chercheurs.
Ces vidéos ont été poussées beaucoup plus loin vers les comptes qui s’engageaient dans les vidéos recommandées – dans certains cas, plus de 10 fois plus. Les vidéos ne semblaient pas être soumises à des restrictions d’âge. En novembre, YouTube a envoyé 382 vidéos d’armes à feu réelles au compte d’engagement de 9 ans, soit une moyenne de plus de 12 par jour, tandis que le compte d’adolescent en a reçu 1 325. En revanche, le compte de 14 ans qui n’a pas cliqué sur le contenu recommandé a reçu 172 vidéos d’armes.
« Les jeux vidéo violents ont longtemps été accusés d’être à l’origine des fusillades de masse aux États-Unis, bien qu’il n’y ait aucune preuve réelle confirmant ce lien », a déclaré M. Kuppersmith. « Pourtant, les algorithmes de YouTube semblent vouloir glorifier l’utilisation d’armes à feu dans le monde réel auprès de garçons âgés d’à peine 9 ans, à une époque où les tireurs de masse sont de plus en plus jeunes. »
Article traduit de Forbes US – Auteure : Emma Woollacott
<<< À lire également : Google va supprimer les anciens comptes Gmail et YouTube non utilisés depuis deux ans >>>
Vous avez aimé cet article ? Likez Forbes sur Facebook
Newsletter quotidienne Forbes
Recevez chaque matin l’essentiel de l’actualité business et entrepreneuriat.
Abonnez-vous au magazine papier
et découvrez chaque trimestre :
- Des dossiers et analyses exclusifs sur des stratégies d'entreprises
- Des témoignages et interviews de stars de l'entrepreneuriat
- Nos classements de femmes et hommes d'affaires
- Notre sélection lifestyle
- Et de nombreux autres contenus inédits
