Que Cache l’Application de Reconnaissance Faciale Clearview ?

Clearview, l’application de reconnaissance faciale, dispose d’une banque de données bien fournie. La semaine dernière, un article du New York Times révélait comment l’intelligence artificielle avait fait appel à des images postées sur certains réseaux sociaux, comme Facebook et Twitter, pour collecter plus de 3 milliards d’images.

Depuis que l’affaire a éclaté, Clearview AI (une application utilisée par des agences comme le FBI) déclenche controverse sur controverse. Cette semaine, la police a reçu l’ordre de cesser d’utiliser l’application, et la direction de Twitter a envoyé une ordonnance de cessation et d’abstention, notant que l’entreprise avait violé les politiques du réseau social et exigeant que toute donnée récupérée sur sa plateforme soit supprimée.

Entre-temps, un procès vient d’être intenté contre Clearview AI dans l’Illinois, alléguant que les actions de l’entreprise constituent une menace pour les libertés civiles. Un rapide coup d’œil à la politique de confidentialité de l’entreprise suffit à donner des frissons même au moins frileux d’entre nous. Le document explique qu’il faut envoyer un e-mail à [email protected] pour demander le retrait des photos de la base de données : « Pour faciliter le traitement de votre demande, veuillez soumettre votre nom, une photo portrait et une photocopie de votre pièce d’identité délivrée par le gouvernement ».

Si l’application permet d’identifier des criminels, quel est le problème ?

Le simple fait que l’objectif premier de Clearview IA soit de traquer les criminels et que la police fasse appel à l’application fait froid dans le dos. L’Indiana State Police a été la première à identifier un individu qui ne figurait pas dans ses bases de données à l’aide de Clearview, et l’homme a par la suite été arrêté puis inculpé. Mais selon un récent rapport de Buzzfeed, les correspondances proposées par l’application sont impossibles à vérifier et pourraient bien être entièrement erronées.

Clearview affirme que sa technologie est fiable pour 75 % des cas, mais même cette déclaration de la société ne peut pas être prouvée. Un expert en reconnaissance faciale a expliqué à Forbes que si la technologie était utilisée correctement, elle devrait être précise à 99 %. Tout dépend des données qui alimentent la base de données : si l’image de référence enregistrée est bonne, et que la liste de surveillance n’est pas trop longue, la reconnaissance faciale devrait être extrêmement précise.

L’expert précise : « La reconnaissance faciale est une question de probabilités. Plus précisément, la probabilité que l’image enregistrée corresponde à celle que vous vérifiez. Les meilleurs algorithmes actuels sont très précis. Le défi avec Clearview est le nombre et l’étendue de la qualité de leur base de données. Ce n’est qu’en recoupant la base de données avec d’autres critères, comme la géographie ou les liens avec d’autres individus, qu’il est possible de réduire l’éventail de résultats ».

Pourquoi la reconnaissance faciale doit-elle être contrôlée ?

D’autres questions viennent s’ajouter à ce débat. Graham Cluley et Carole Theriault s’interrogent dans leur podcast « Smashing Security » : quid des sosies ? de l’utilisation de Clearview par les gouvernements ? du fait que personne n’ait donné de permission explicite pour apparaître dans les bases de données de Clearview AI ?

Certains prédisent que l’application pourrait être ouverte au grand public. Il va sans dire pour quiconque ayant un peu de bon sens, cette idée ne vaut pas la peine d’être approfondie.

Même les grandes entreprises, comme Microsoft et Google, sont confrontées à l’énigme des programmes de reconnaissance faciale. Alors que de nouvelles applications similaires apparaissent, comme celle de Facebook (qui a été abandonnée), une réglementation devient nécessaire. Quant à Clearview AI, il semblerait que les plaintes et les poursuites engagées à l’encontre de l’application soient fondées.

<<< À lire également : Intelligence Artificielle, Entre Idées Reçues Et Réalité >>>