Les Cinq Façons Dont Facebook Se Sert De L’intelligence Artificielle Pour Contrer Le Terrorisme

Jeudi, Facebook a fait connaître sa politique en matière de lutte contre le terrorisme, révélant ses diverses manières d’utiliser l’intelligence artificielle pour combattre l’activité terroriste.

Ecrit par Monika Bicker, la directrice du service de politique internationale de Facebook, et Brian Fishman, le manager de la politique antiterrorisme du réseau social, le post explique que Facebook trouve la majorité du contenu à caractère terroriste avant que la communauté des utilisateurs n’en prenne connaissance.

Facebook a également fait savoir que tandis que ses efforts actuels se focalisent en priorité sur ISIS et Al Qaeda et leurs partisans, l’entreprise recherche également à se servir d’une technologie afin de combattre d’autres activités terroristes dans le futur, avec plus de 150 employés concentrés sur cette recherche. Les auteurs du post ont ajouté que surveiller Facebook n’est pas évident, avec près de deux milliards d’utilisateurs dans le monde qui écrivent sur le site en plus de 80 langues différentes.Les auteurs ont fait état de cinq façons d’après lesquelles le réseau social tente de contrer le terrorisme.

• Facebook utilise la correspondance d’image, ce qui permet de reconnaître (les visages) et de prévenir le chargement sur le site d’éléments de propagande terroriste, des images ou vidéos ayant précédemment été signalées. 

• Le réseau social expérimente également la compréhension linguistique, une fonction se servant de l’intelligence artificielle pour repérer le contenu terroriste par le biais de « signaux basés sur le texte ». Cette analyse procède au moyen d’un algorithme qui fait ses premiers pas dans la détection de publications similaires, » lit-on dans le texte. « Les algorithmes de machine learning fonctionnent selon un circuit de réactions et s’améliorent avec le temps. »

• Le site utilise des algorithmes pour identifier les groupes terroristes, notamment au moyen de pages associées à cette activité, en pistant les groupes de discussion ou les comptes utilisateurs, et en enquêtant sur l’implication ou non des activités qui y sont associées dans le support du terrorisme. « Nous utilisons des signaux pour repérer un compte connecté à un nombre élevé de comptes ayant été désactivés pour cause d’activité terroriste, ou pour repérer un compte partageant des attributs similaires à ceux d’un compte désactivé, » poursuivent les auteurs.

• La détermination des acteurs du terrorisme qui répètent leurs méfaits est une autre façon pour Facebook d’agir, bien que le texte avertisse sur le fait que ces personnes fassent « continuellement évoluer leurs méthodes. »

• Facebook travaille à présent à des façons d’enquêter sur l’activité terroriste dans la famille des applications Facebook, incluant WhatsApp et Instagram, les acteurs du terrorismes utilisant fréquemment de multiples plateformes. En plus de l’intelligence artificielle, le post discute également de la façon dont Facebook utilise l’expertise humaine et les partenariats pour combattre l’activité terroriste sur le site. « Afin d’identifier plus rapidement les sources d’action terroriste et de ralentir la propagation des contenus de ce type en ligne, nous nous sommes associés à Microsoft, Twitter et YouTube il y a six mois pour annoncer une plateforme partagée de données rassemblant une base unique d’empreintes digitales photos et vidéos, pour viser un contenu produit par ou supportant des organisations terroristes, » lit-on plus loin. « Les gouvernements et les agences intergouvernementales ont aussi un rôle clé à jouer dans la mise en place d’une expertise impossible à développer de manière indépendante par les entreprises.

« Nous avons beaucoup appris sur les mécanismes de propagande d’Isis et Al Qaeda grâce à des comptes rendus provenant d’agences situées dans différents pays. Nous avons également participé et bénéficié des efforts de support de la branche collaboration rassemblant des organisations comme le Forum internet de l’Union Européenne, la coalition internationale contre Daech et le Bureau de l’Intérieur britannique. »

Le post explique également que bien que Facebook ne déchiffre pas les messages cryptés, le site « fournit toutes les informations possibles en réponse aux requêtes pertinentes de la police, en accord avec la loi en vigueur et notre politique. » De plus, les auteurs du texte informent que le site dispose de commentaires et de rapports, ainsi que des services de spécialistes du terrorisme et de la sécurité, en plus d’une équipe chargée de répondre aux menaces de mort ayant été confirmées par des demandes urgentes de la part de la police. Facebook a aussi dit travailler à la création d’un contre-discours à travers des programmes de partenariats, incluant des collaborations avec l’Institute for Strategic Dialogue (un laboratoire d’idées indépendant), aussi bien qu’avec des organisations de communauté et des organisations non-gouvernementales.