Une entreprise de surveillance utilisant l'IA a assuré qu'elle avait permis de réduire la criminalité. Ce serait tout l'inverse

Flock, dont le chiffre d’affaires s’élève à quatre milliards de dollars, a fait miroiter aux forces de l’ordre la promesse d’une réduction spectaculaire de la criminalité. Cependant, il n’est pas certain que l’entreprise soit à la hauteur de son propre battage médiatique.

Article de Cyrus Farivar et de Thomas Brewster pour Forbes US – traduit par Flora Lucas

Pendant une brève période en 2021, la ville cossue de San Marino, dans le comté de Los Angeles, a connu une baisse spectaculaire des cambriolages résidentiels, son crime le plus courant. Entre janvier et mai, ils ont chuté de 80 %, passant de 32 à sept au cours de la même période en 2020.

Pour Flock Safety, qui avait installé des lecteurs de plaques d’immatriculation alimentés par l’IA pour le département de police de San Marino en juin 2020, cette statistique était de l’or marketing. L’entreprise s’est emparée de ces données, affirmant que sa technologie avait permis de réduire de 70 % non seulement les cambriolages, mais aussi l’ensemble des délits commis dans la ville.

Une réalité bien différente

Un regard plus large révèle une autre réalité. Malgré cette baisse initiale de cinq mois en 2021, les cambriolages résidentiels ont globalement augmenté après le déploiement des caméras de Flock. En 2019, San Marino a signalé 60 cambriolages résidentiels. En 2023, trois ans après l’arrivée de Flock, il y en a eu 63, soit une augmentation de 5 %.

Parallèlement, les crimes dits de « Partie 1 », à savoir les infractions les plus graves telles que les vols et les meurtres, sont restés presque inchangés : 231 en 2023, contre 230 en 2019, l’année précédant l’installation des caméras Flock. Même le chef de la police de la ville, John Incontro, admet que l’affirmation de 70 %, encore diffusée aujourd’hui sur le site internet de Flock, n’est pas exacte. « Je dois absolument parler à leurs responsables marketing », a-t-il déclaré à Forbes.

Ce n’est pas la première que Flock prend des libertés avec les statistiques criminelles pour soutenir son marketing. La société, dont les caméras de surveillance des plaques d’immatriculation identifient les voitures non seulement par leur plaque d’immatriculation, mais aussi par une « empreinte digitale » qui peut inclure des porte-bagages, des autocollants sur les pare-chocs et bien d’autres choses encore, a régulièrement trié sur le volet et simplifié à l’extrême les données pour étayer ses affirmations en matière de réduction de la criminalité, selon une analyse de Forbes portant sur quatre des juridictions les plus souvent citées. Outre San Marino, l’entreprise, qui vaut aujourd’hui plus de quatre milliards de dollars, a fait des déclarations tout aussi embellies à propos de Fort Worth (Texas), Dayton (Ohio) et Lexington (Kentucky).

« Nous ne prétendons pas que parce que San Marino, en Californie, a enregistré une baisse de 80 % des cambriolages résidentiels, la ville de Los Angeles connaîtra la même chose », a déclaré Josh Thomas, porte-parole de Flock, à Forbes. « L’objectif de ces études de cas est de montrer comment différentes villes et communautés à travers les États-Unis (urbaines, rurales, suburbaines) utilisent cette technologie pour aider à augmenter le nombre d’affaires classées », en référence au temps nécessaire aux forces de l’ordre pour classer une affaire.

« Beaucoup de gens se demandent pourquoi la ville investit autant de ressources dans ces caméras Flock alors qu’elle n’est pas en mesure de démontrer leur efficacité. »

Katie Kersh, avocate à Dayton

Comme preuve supplémentaire de l’efficacité de ses caméras, Josh Thomas a cité une étude rédigée par deux employés de Flock et deux universitaires qui ont analysé les données de 246 des clients de la société. Ce document conclut que « 10 % des délits signalés aux États-Unis sont résolus grâce à la technologie Flock ».

Six universitaires spécialistes de la justice pénale ont jugé problématiques les conclusions de l’étude et les affirmations marketing qui en découlent. Cela « frise le ridicule en l’absence de preuves claires », a déclaré Michael Sierra-Arévalo, professeur de sociologie à l’université du Texas à Austin et auteur de The Danger Imperative, un nouveau livre sur le maintien de l’ordre en Amérique. Jeffrey Fagan, professeur de droit à l’université de Columbia, a déclaré sans ambages à propos du document : « Je doute qu’il survive à un examen par d’autres professionnels. »

Des arguments marketing repris par les dirigeants locaux et hauts responsables des forces de l’ordre

Les dirigeants locaux et les hauts responsables des forces de l’ordre de villes telles que Hall County (Nebraska), Blue Springs (Missouri) et Campbell (Californie) ont utilisé les arguments marketing de Flock concernant la réduction de la criminalité pour vendre à leurs communautés les lecteurs de plaques d’immatriculation de la startup. Certaines villes ont dépensé des centaines de milliers de dollars pour cette technologie, ce qui a entraîné une croissance exceptionnelle de la startup, qui a attiré plus de 482 millions de dollars de la part de grandes sociétés de capital-risque comme Andreesen Horowitz et Founders Fund. Le PDG Garrett Langley a récemment déclaré que les caméras de Flock sont opérationnelles dans un peu plus de 4 000 villes américaines, couvrant ainsi près de 70 % de la population américaine. Selon lui, Flock résout environ 2 200 crimes par jour. Forbes a précédemment rapporté que, dans sa course à la croissance, Flock a installé ses caméras sans les autorisations nécessaires, violant ainsi à plusieurs reprises les lois de cinq États américains.

À d’autres occasions, Flock a exagéré l’efficacité de ses caméras en omettant des détails clés dans son marketing. L’entreprise vante souvent le quartier Twin Towers de Dayton, dans l’Ohio, comme un exemple de réussite, affirmant que le taux de criminalité y a baissé de 43 % grâce à ses caméras. Cette mesure est tirée d’un rapport de la police de Dayton sur l’impact de Flock, qui montre effectivement une baisse de 43 % des taux de criminalité pendant la période du 1^er mars au 20 juillet entre 2018 et 2020. Cependant, les caméras Flock n’ont été installées qu’en mars 2020. Ses caméras ne sont donc associées, au mieux, qu’à la baisse de 28 % enregistrée entre 2019 et 2020.

En décembre 2023, les commissaires de la ville de Dayton ont voté à trois contre deux pour étendre la présence de Flock à toute la ville, en engageant 825 750 dollars pour presque doubler le nombre total de caméras installées et couvrir leurs coûts jusqu’en 2028. « En fin de compte, il s’agit des victimes de notre communauté, dans les parties les plus opprimées de la communauté, où les gens ont des ressources très limitées », a déclaré le commissaire Chris Shaw lors de cette réunion.

Les militants locaux préoccupés par la prolifération des caméras Flock ont trouvé la nouvelle exaspérante. « Beaucoup de gens se demandent pourquoi la ville investit tant de ressources dans ces caméras Flock alors qu’elle n’est pas en mesure de prouver leur efficacité », a déclaré à Forbes Katie Kersh, une avocate de Dayton qui a contribué à la rédaction et à la promotion d’une ordonnance locale sur la surveillance récemment promulguée.

Il en va de même à Fort Worth, au Texas. La police y a installé ses premières caméras Flock en septembre 2020. Dans ses documents marketing, l’entreprise vante une « baisse des crimes violents de 22 % » dans le quartier Las Vegas Trail de la ville entre janvier et août 2021 par rapport à la même période en 2019, que la police attribue « partiellement » à Flock.

« C’est la pièce à conviction A du mensonge avec les statistiques. Je compare toujours cela aux essais de médicaments. Imaginez que vous ne regardiez votre groupe traité que pendant un an et que vous disiez que c’est bon. »

Jonathan Hofer, Institut indépendant

Cependant, entre 2021, la première année complète où les caméras de Flock ont été installées dans toute la ville, et 2023, les crimes dits du « Groupe A », comme les agressions graves et les cambriolages résidentiels, ont augmenté de 5 % dans toute la ville. En avril 2023, Fort Worth comptait 170 caméras pour lesquelles la ville dépense plus de 500 000 dollars par an.

Thomas Flock a attribué l’augmentation de la criminalité à Fort Worth après l’affaire Flock à « des événements qui perturbent la vie telle que nous la connaissons, comme la pandémie mondiale et les troubles qui s’ensuivent ».

Une stratégie marketing de l’instant

Jonathan Hofer, chercheur en sciences sociales qui a étudié l’efficacité des lecteurs de plaques d’immatriculation pour un groupe de réflexion non partisan, l’Independent Institute, a déclaré à Forbes que Flock semble sélectionner des instantanés de statistiques criminelles pour raconter l’histoire qui convient le mieux à son entreprise. « C’est la pièce à conviction A du mensonge avec les statistiques », a déclaré Jonathan Hofer. « Je compare toujours cela aux essais de médicaments. Imaginez que vous ne regardiez votre groupe traité que pendant un an et que vous disiez que c’est bon. »

Indépendamment de son impact réel sur les taux de criminalité, de nombreux responsables des forces de l’ordre affirment que la technologie de Flock leur est utile. Matthew Murray, chef de la police de Yakima, Washington, une ville d’environ 100 000 habitants située dans le sud de l’État, a déclaré à son conseil municipal le 2 janvier que les caméras Flock, qui sont arrivées en ville au printemps 2022, sont « la meilleure chose depuis l’ADN. Je vous le dis, il est vraiment difficile de commettre un crime dans cette ville, si vous êtes dans une voiture ».

À San Marino, le chef de la police a également fait l’éloge de Flock, même s’il a contesté les affirmations marketing exagérées de l’entreprise. « Dans ma ville, cela a été utile », a-t-il déclaré à Forbes. « La startup nous a permis de trouver des suspects, d’éliminer des pistes qui nous menaient dans la mauvaise direction et de corroborer d’autres preuves dont nous disposions. »

Et Flock a certainement aidé la police à retrouver des suspects. Les dossiers du tribunal fédéral examinés par Forbes montrent que la police a utilisé les caméras Flock pour attraper un trafiquant de drogue présumé de l’Oklahoma et un voleur de banque présumé du Michigan. Presque tous les jours, Flock fait la une des journaux locaux à travers les États-Unis, citant le rôle de l’entreprise dans les arrestations.

Certains responsables des forces de l’ordre sont plus sceptiques quant aux affirmations de Flock. À Lexington, dans le Kentucky, où la criminalité n’a que légèrement baissé depuis l’arrivée de Flock au printemps 2022, le lieutenant David Richardson a déclaré à Forbes qu’il ne pensait pas que la technologie allait avoir « un impact démontrable sur les taux de criminalité ». Il a plutôt déclaré : « Je pense que ce que vous allez voir, c’est que le temps nécessaire pour résoudre les affaires va être amélioré. » Cependant, il sera difficile de le prouver, car le service ne comptabilise pas le temps écoulé entre le moment où un crime est commis et celui où un suspect est identifié et fait l’objet de poursuites judiciaires. « Il y a tellement de variables qui entrent en ligne de compte [dans la rapidité d’élucidation d’une affaire] qu’il n’est pas possible de les quantifier », a expliqué David Richardson. Lexington paie actuellement 236 000 dollars par an pour l’installation de 100 caméras Flock.

D’autres villes s’apprêtent à déployer les caméras Flock

Parallèlement, d’autres villes s’apprêtent à déployer les caméras Flock. L’année dernière, Berkeley, en Californie, a approuvé une dépense de 425 000 dollars pour l’achat de 52 caméras Flock au cours des deux prochaines années. Des dizaines d’autres juridictions californiennes, de Beverly Hills à Oakland en passant par Salinas et San Francisco, ont reçu collectivement 24 millions de dollars pour lutter contre la criminalité dans le commerce de détail, dont une grande partie est destinée à l’achat de nouvelles caméras Flock.

Selon Sarah Brayne, professeur de sociologie à l’université du Texas à Austin et auteur de Predict and Surveil, un ouvrage sur la surveillance policière, il est difficile d’évaluer l’efficacité réelle d’une technologie de surveillance, ce qui représente une somme importante de fonds publics à dépenser. « Il est difficile d’estimer les facteurs qui ont un impact causal sur les taux de criminalité, car il s’avère que le monde est très désordonné », explique-t-elle à Forbes, en faisant remarquer les affirmations de Flock en matière de marketing. « C’est comme si je disais que je n’ai parlé qu’à mes amis et que je prédisais le résultat d’une prochaine élection. Vos amis ne constituent pas un échantillon aléatoire. Les clients de Flock ne sont pas un échantillon aléatoire. »