TikTok : La Plateforme Est-Elle Raciste ?

Alors que le monde attend avec impatience de voir quels seront les impacts à long terme de COVID-19, beaucoup ont trouvé du réconfort dans la plateforme populaire TikTok. Mais un chercheur en intelligence artificielle, Marc Faddoul, démontre que la plateforme peut renforcer les préjugés raciaux. 

TikTok était très populaire auprès de la génération Z, mais sa popularité a augmenté depuis le confinement, avec de nombreuses personnes dans le monde qui passent du temps à recréer des danses populaires et qui font le buzz. TikTok, qui appartient à la société Internet chinoise ByteDance, a débuté sous le nom de Musical.ly et permettait aux utilisateurs de se synchroniser avec leurs chansons préférées. TikTok est devenu un moyen amusant d’unir les gens, mais un chercheur en intelligence artificielle, Marc Faddoul, démontre qu’il peut y avoir un pépin dans le système et que la plateforme peut renforcer les préjugés raciaux.

Dans une série de tweets, Marc Faddoul a indiqué qu’il avait fait une expérience de son côté et découvert que TikTok recommandait des comptes en se basant sur ceux qu’il suivait déjà. Ce n’est pas inhabituel, car c’est ainsi que fonctionnent les algorithmes des médias sociaux. Ce qui était intéressant pour Marc Faddoul, c’est que les caractéristiques physiques de la photo de profil d’une personne étaient imitées dans les recommandations de TikTok. Par exemple, s’il suivait une femme blanche aux cheveux blonds, une série d’utilisateurs de TikTok ayant la même apparence s’ajouterait à ses recommandations.

Si, au contraire, Marc Faddoul suivait un homme asiatique, de la même manière, d’autres comptes d’hommes asiatiques figureraient dans ses recommandations. Un porte-parole de TikTok a fait savoir à BuzzFeed News que ce phénomène est connu sous le nom de filtrage collaboratif. Ce qui est problématique avec le filtrage collaboratif, a indiqué Marc Faddoul, c’est qu’il « peut aussi reproduire n’importe quel préjugé dans le comportement des gens ». Si la majorité des créateurs populaires sur TikTok sont blancs, par exemple, cela peut empêcher que les créateurs de couleur ayant moins de followers soient vus et recommandés aussi souvent sur la plateforme.

La visibilité est importante pour les créateurs et peut se traduire par de l’argent et des opportunités. Si les personnes de couleur reçoivent moins de visibilité que leurs homologues blancs, cela pourrait entraîner une diminution de ces opportunités. L’adolescente Jalaiah Harmon l’a bien remarqué lorsqu’elle n’a pas été initialement créditée pour la danse qu’elle a lancée, appelée la « Renegade dance ». Au lieu de cela, l’utilisatrice la plus suivie de TikTok, Charli D’Amelio, a été créditée comme étant à l’origine de la « Renegade dance ». Comme les plus grands utilisateurs de la plateforme sont des Blancs, il est très probable que l’algorithme de TikTok donne davantage de visibilité aux créateurs blancs tout en limitant la visibilité et la portée des créateurs de couleur.

En plus des préjugés raciaux qui peuvent être perpétués par l’algorithme de la plateforme, plusieurs utilisateurs de TikTok critiquent la plateforme pour le traitement inéquitable des créateurs de couleur. Une lecture rapide sur Twitter des termes de recherche « TikTok » et « racisme » permet de découvrir une multitude de tweets d’utilisateurs partageant des opinions et des vidéos sur les différences de traitement entre les utilisateurs blancs et non blancs.

Tiahra Nelson, qui se fait appeler tiahranelson sur TikTok, a partagé ses expériences en tant que créatrice noire sur la plateforme. Tiahra Nelson indique que « le problème principal est qu’il y a une incohérence par rapport aux directives de la communauté… J’ai rencontré des complications lorsque deux de mes vidéos ont été retirées parce qu’elles « violaient les directives de la communauté ».

L’une des vidéos abordait ce que je ressens personnellement à propos des non-Afro-Américains ayant des propos racistes. Le son que j’avais utilisé pour cette vidéo était un homme qui disait en continu « qu’est-ce qui ne va pas chez vous ». L’autre vidéo qui a été retirée était une vidéo de moi lisant des mèmes de Twitter. Il s’agissait de mèmes comiques auxquels la communauté noire pouvait s’identifier car un grand nombre [de personnes noires] ont vécu les circonstances énumérées.

C’est toujours amusant de faire ces vidéos parce que je suis capable de m’identifier à eux, et que d’autres le peuvent aussi. Quand je suis tombée sur la vidéo d’une fille qui dénigrait la communauté afro-américaine, je n’ai pas compris pourquoi elle continuait à apparaître sur la page « Pour vous », car selon les directives de TikTok, la vidéo aurait dû être retirée ».

Comment TikTok peut-il donc uniformiser les règles du jeu et créer plus d’équité sur la plateforme ? La première étape consiste à s’attaquer au préjugé racial intégré que les algorithmes ont tendance à avoir. Un article du New York Times de 2019 indique que pour remédier aux préjugés algorithmiques, la mise à jour du logiciel sur les ordinateurs peut apporter une solution. Dans cet article, Sendhil Mullainathan, professeur de sciences comportementales et informatiques à l’Université de Chicago, déclare : « nous devons nous assurer que toutes les données nécessaires à l’algorithme, y compris les données utilisées pour le tester et le créer, sont soigneusement stockées ». Outre la modification de l’algorithme de la plateforme, il est essentiel de veiller à ce que tous les utilisateurs soient traités équitablement. Toute vidéo qui enfreint les directives de la communauté TikTok doit être retirée, sans exception.

Le fait de ne pas traiter les utilisateurs de manière équitable peut nuire à la longévité de la plateforme ; les utilisateurs qui ont l’impression de ne pas être traités de manière équitable peuvent migrer vers d’autres plateformes sociales. Tiahra Nelson partage : « TikTok est une excellente plateforme pour illuminer notre créativité et la partager avec d’autres, cependant, certains changements peuvent être apportés pour maintenir l’égalité et l’équité. J’apprécie que TikTok respecte les directives de la communauté car il minimise le chaos qui peut se produire et maintient l’ordre. TikTok doit améliorer sa cohérence en ce qui concerne ce qu’ils considèrent comme une « violation de leurs directives ».

Une fois la cohérence établie, il n’y aura plus de problèmes pour justifier le retrait des vidéos, et les créateurs, quelles que soient leurs origines, pourront donc utiliser la plateforme à leur avantage ».

<<< À lire également : Tiktok Ouvre Un “Centre De Transparence” Pour Rassurer >>>