Flock OS Investigate : l'IA policière qui traque les conducteurs sans crime

UN OUTIL D'IA QUI DÉPASSE TOUT CE QUE FLICK AVAIT ANNONCÉ

Pendant des années, Flock Safety, le géant des caméras de surveillance, a répété que sa technologie « ne pouvait pas reconnaître, identifier ou suivre les individus ». Pourtant, l'entreprise a discrètement développé un système d'intelligence artificielle pour la police qui fait exactement cela : identifier les conducteurs et suivre les véhicules uniquement grâce à leurs habitudes de déplacement.

UN RÉSEAU DE CAMÉRAS QUI ENREGISTRE TOUS LES DÉPLACEMENTS

Ce nouvel outil, initialement appelé Nightshift puis rebaptisé OS Investigate, s'appuie sur un réseau de caméras installées dans plus de 6 000 communes. Ces caméras enregistrent les mouvements des voitures et permettent de repérer des témoins potentiels en fonction de la fréquence à laquelle leur véhicule passe dans un quartier, ou de reconstituer les « associés » d'un conducteur en croisant les caméras qu'ils traversent ensemble.

Le système ne se limite pas aux caméras : il puise aussi dans les fichiers de police, les logs des appels d'urgence (911) et les bases de données commerciales. Résultat ? Une plaque d'immatriculation peut rapidement devenir un nom, une adresse, voire la liste des proches d'une personne. Il suffit de dessiner une zone sur une carte et de décrire physiquement une personne pour lancer une Recherche.

69 REQUÊTES PRÉPROGRAMMÉES POUR FACILITER LES ENQUÊTES

OS Investigate est livré avec 69 requêtes préprogrammées que les policiers peuvent sélectionner, modifier ou utiliser telles quelles. Ces requêtes sont stockées dans un cache de plus de 450 fichiers accessibles via les pages de connexion de Flock. Le code révèle que l'outil donne accès à 45 fonctionnalités différentes, comme les scans de plaques, les métadonnées des caméras, les fichiers d'arrestation, les dossiers judiciaires, les logs des appels d'urgence, les résultats de balistique et des bases de données commerciales contenant des numéros de sécurité sociale, des dates de naissance, des numéros de téléphone, des adresses e-mail, ainsi que les proches et associés des personnes.

Flock affirme tester ce produit avec un petit groupe de partenaires policiers et précise qu'il est encore en développement. Les fonctionnalités actuelles pourraient donc évoluer avant une sortie officielle. Cette annonce intervient alors que l'entreprise fait face à une pression politique bipartisane, à une série de cas de policiers ayant mal utilisé sa plateforme, et à une vague de vandalisme touchant ses caméras dans plusieurs villes du pays.

DES REQUÊTES QUI TRANSFORMENT LES OUTILS DE POLICE EN SYSTÈMES DE SUSPICION

Les requêtes préprogrammées décrites par WIRED révèlent une évolution inquiétante : l'outil ne se contente plus de vérifier si un véhicule est recherché par la police. Il permet désormais de soupçonner un conducteur en fonction de où et à quelle fréquence il se déplace, même s'il n'a commis aucun crime.

Prenons un exemple concret : l'une des requêtes demande de « trouver des témoins en fonction des véhicules les plus vus dans [un quartier] au cours des [14 derniers jours] pendant [une plage horaire quotidienne] (les véhicules sur liste blanche seront exclus) ». Un policier n'a qu'à remplir les blancs pour obtenir une liste de plaques, que l'outil convertit ensuite en noms et adresses.

Une autre requête ordonne au système de lister toutes les personnes arrêtées plus de deux fois en deux ans pour « toute infraction », à l'exception des arrestations liées à la drogue. Puis, il doit cartographier leur lieu de résidence, récupérer les appels au service d'urgence à leur domicile et « faire un dossier » sur les trois personnes les plus actives. Ce processus commence par identifier toutes les personnes ayant un casier judiciaire dans une zone donnée et se termine par la création de dossiers détaillés sur trois d'entre elles, choisis par le logiciel.

14 REQUÊTES SANS PLAQUE, SANS NOM, SANS DESCRIPTION

Sur les 69 requêtes, 19 décrivent des recherches de motifs plutôt que des vérifications de casier judiciaire. Parmi elles, 14 ne nécessitent ni plaque, ni nom, ni description : le policier fournit simplement un lieu, une période et un comportement.

Par exemple, certaines requêtes demandent de trouver les véhicules ayant visité trois magasins de détail ou plus dans une ville en trois jours, ou plusieurs banques en une semaine, ou encore plusieurs stations-service entre minuit et 5 heures du matin. Aucune de ces requêtes ne mentionne une cible ou un incident précis.

L'outil applique un filtre qui élimine les bus, les camions semi-remorques, les fourgons de travail et les remorques. Ainsi, un livreur visitant cinq boutiques sera exclu de la liste, tandis qu'un particulier faisant le même parcours restera présent.

Le même type de recherche s'applique aux trajets entre villes : véhicules ayant quitté une ville pour une autre et revenus en moins d'une semaine, ayant effectué des allers-retours répétés sur 14 jours, ou ayant traversé trois zones successivement.

UNE REQUÊTE QUI TRACE LES « ASSOCIÉS » D'UN CONDUCTEUR

Un exemple frappant dans le code montre comment l'outil peut tracer les « associés » d'un conducteur. En partant d'une seule plaque, le système peut cartographier les trajets de cette voiture et de ses « trois principaux associés ». Le code explique comment fonctionne ce classement : il compte le nombre de fois où d'autres plaques apparaissent aux mêmes caméras dans une fenêtre de deux minutes par défaut, et signale toute voiture qui apparaît à côté de la cible trois fois ou plus dans un « seuil de confiance » par défaut de 0,75. Un policier fournit un véhicule, et le logiciel en trouve jusqu'à 20.

« Je ne sais pas comment dire ça autrement, mais ça semble complètement fou », déclare Noel Pichardo, un ancien policier de Pawtucket, dans le Rhode Island, qui a participé à un programme pilote de Flock et a examiné les requêtes pour WIRED. « Je ne vois pas comment on peut contester l'idée que Flock suit littéralement les gens. »

UN OUTIL QUI A COÛTÉ SA CARRIÈRE À UN POLICIER

Pichardo a témoigné contre cette technologie devant les législateurs de l'État du Rhode Island en 2024, quelques semaines après avoir purgé une suspension de 30 jours pour avoir critiqué Flock et la direction du département dans un journal local. L'association des chefs de police de l'État l'a publiquement réprimandé quelques jours plus tard. Des enquêtes et des sanctions ont suivi, qu'il considère comme des représailles. Il a finalement démissionné alors que son département tentait de le licencier.

Un détective d'une agence californienne, qui a souhaité rester anonyme car il n'était pas autorisé à s'exprimer publiquement, voit dans OS Investigate un outil que son département utiliserait. Flock a aidé à résoudre de nombreux vols de véhicules pour eux, explique-t-il, et les policiers travaillent avec des technologies similaires depuis des années. « Je n'étais pas au courant de ce produit d'IA, mais ça ne change pas ma façon de voir les choses », dit-il. « Nous utiliserons tous les outils disponibles pour résoudre des crimes. Ce n'est pas controversé. »

Le détective a admis que les requêtes de recherche de témoins le mettaient légèrement mal à l'aise, mais a ajouté : « En tant qu'agent de la force publique, nous devons utiliser tous les outils disponibles, malgré ce que disent les partisans du 'défund'. »

COMMENT WIRED A ANALYSÉ LE CODE SANS ACCÈS AU SYSTÈME

Pour analyser le logiciel, WIRED a examiné le code que Flock servait depuis ses propres portails de connexion. En chargeant ces pages, les journalistes ont obtenu une interface utilisateur qui n'apparaît normalement qu'après qu'un utilisateur policier se soit connecté. Cela leur a permis de reconstruire des portions des applications authentifiées, y compris leurs requêtes, champs de recherche, outils et contrôles, sans avoir accès au système réel. Les fichiers semblaient contenir tout ce qui était nécessaire pour reconstruire l'interface de zéro.

Avant qu'un policier ne lance une recherche, le logiciel peut demander une justification. Le code montre qu'un policier doit par défaut taper une raison pour sa recherche, mais le formulaire ne semble imposer aucune exigence sur ce que cette raison doit dire ou sa longueur. Si un département exige également un numéro de dossier, le formulaire vérifie uniquement qu'il contient au moins trois caractères. WIRED n'a pas pu déterminer si Flock applique des vérifications supplémentaires sur ses serveurs après la soumission des informations.

WIRED a partagé ses conclusions avec Buchodi, un chercheur indépendant en sécurité et vie privée qui utilise un pseudonyme et a passé plus de dix ans à rétro-ingénierer des logiciels grand public et des technologies de surveillance. Buchodi a examiné le code de Flock séparément et reproduit les principales parties de l'analyse.

CE QUE LE CODE RÉVÈLE (ET CE QU'IL NE RÉVÈLE PAS)

Les références aux outils proposés par Flock, aux données auxquelles ils peuvent accéder et aux requêtes préprogrammées écrites pour la police sont figées dans le code que WIRED a examiné. Ce que ce code ne peut pas montrer, c'est comment le système se comporte en pratique. Il ne contient aucune instruction donnée au modèle lui-même, et il ne révèle pas ce que les serveurs de Flock font avec une requête une fois soumise : ce qu'ils envoient en retour, ou s'ils refusent une commande.

Flock a peu communiqué sur cet outil en public, mais Garrett Langley, son PDG, l'a comparé à un « analyste criminel toujours éveillé, toujours à l'affût ». Lors d'une démonstration pour des chefs de police à Denver l'année dernière, Langley a décrit la capacité de rechercher chaque caméra d'une ville pour trouver les voitures suivant un fourgon blindé, en remontant aux propriétaires enregistrés de ces véhicules et en vérifiant leurs casiers judiciaires, le tout en moins d'une minute.

« Les enquêteurs qui l'utilisent deviennent accros », a-t-il ajouté.

UNE CROISSANCE EXPONENTIELLE POUR FLICK SAFETY

L'entreprise fondée par Langley à Atlanta, où sa première caméra était un téléphone dans une boîte étanche, enregistre désormais 20 milliards de scans de plaques par mois. Des fonds de capital-risque comme Andreessen Horowitz et Founders Fund ont injecté des millions dans l'entreprise, dont la valorisation a atteint 7,5 milliards de dollars lors de son dernier tour de financement. Le slogan original de Flock était « le premier système d'exploitation de sécurité publique qui élimine le crime » — et Langley a récemment déclaré à Vanity Fair que Flock aurait pu résoudre la disparition de Nancy Guthrie, la mère de Savannah Guthrie, si ses caméras avaient été déployées là où elle avait disparu.

Flock compte environ 140 000 utilisateurs actifs par mois. Au siège social d'Atlanta, une caméra dorée couverte de signatures commémore un rituel passé : marquer chaque million de dollars de revenus supplémentaire avec une nouvelle caméra. « Maintenant, on fait plutôt un million par jour », a récemment déclaré Langley à Vanity Fair.

UN SYSTÈME INÉVITABLE SELON UN EXPERT EN DROIT

Andrew Guthrie Ferguson, professeur de droit à l'Université George Washington, estime qu'un système comme OS Investigate était inévitable. « Pour utiliser toutes les données collectées, il faut être capable de les interroger », explique-t-il. « Pour faciliter le travail des policiers qui ne vont pas créer leurs propres outils, il faut préprogrammer le système avec des requêtes en langage naturel et des flux de travail automatisés. »

Ce qui le frappe, c'est le choix des requêtes. « Ce n'est pas sorcier de comprendre que les policiers voudront trouver certains objets ou motifs », dit-il. « Mais il est intéressant de voir ce qu'ils ont préprogrammé. Beaucoup d'activités innocentes pourraient être signalées, même si cela peut aussi être très utile pour les enquêteurs. »

UN MENU DE REQUÊTES QUI PEUT ÊTRE MODIFIÉ À VOLONTÉ

Le menu de requêtes préprogrammées est une commodité, pas une contrainte. Un policier peut également taper ce qu'il veut. Sélectionner une requête la copie dans une simple boîte de chat, où elle peut être modifiée, réécrite ou remplacée entièrement.

Chad Marlow, avocat à l'origine de la campagne « Get The Flock Out » de l'ACLU, estime que c'est là que réside le danger. « La différence entre un policier qui dit 'Voyez-vous des motifs criminels ?' et 'Trouvez-moi des motifs criminels ?' va produire deux choses différentes », explique-t-il. « Et je pense que le fait qu'ils ne semblent pas avoir de limites sur les requêtes permet aux policiers de presque guider l'IA dans ce qu'elle fait. »

Marlow craint que cela ne conduise à une situation où un policier demande à l'IA quelles personnes elle considère comme les plus susceptibles de commettre des crimes. « Cela ne développera pas un critère légal de suspicion criminelle, mais ce que l'IA considère comme tel. »

Le code décrit déjà les filtres que cette requête appliquerait. Le logiciel de Flock enchaîne les recherches de véhicules avec des requêtes dans les dossiers de police qui trient les personnes par sexe, race, origine ethnique, taille, poids, corpulence, cicatrices, marques et tatouages. Une requête permet même de rechercher uniquement par description : « homme, ~1,80 m, sweat à capuche noir, tatouage sur l'avant-bras » près d'un lieu donné. L'outil permet à un policier de délimiter ces critères en sélectionnant un rayon ou en dessinant des formes arbitraires sur une carte.

UN OUTIL QUI POSE DES QUESTIONS CONSTITUTIONNELLES

Jay Stanley, analyste principal en politiques publiques pour le projet Liberté d'expression, vie privée et technologie de l'ACLU, estime que les outils de Flock soulèvent déjà de graves questions constitutionnelles en donnant aux policiers un accès large et souvent sans mandat à un vaste registre des déplacements des gens. Mais les requêtes examinées par WIRED vont encore plus loin : elles transforment un outil conçu pour trouver un véhicule connu en un système qui jette le soupçon sur des conducteurs en fonction de où et à quelle fréquence ils se déplacent, même s'ils ne sont recherchés pour aucun crime.

« On a une sorte de géolocalisation automatique », explique-t-il. « Mais l'IA peut aller bien au-delà de cette frontière statique : qui est à l'intérieur de cette zone ? Qui a été près de cette personne pendant plus de 10 minutes le mois dernier ? Qui a été dans ces six lieux plus de trois fois ? Cela peut devenir beaucoup plus précis, sophistiqué et flexible. »

LES DÉRIVES D'UN OUTIL MAL CONTRÔLÉ

Flock développe ce système d'IA alors qu'il est déjà sous le feu des projecteurs pour les abus commis par les policiers utilisant ses caméras. Par exemple, un officier du Texas a recherché plus de 83 000 caméras à travers le pays l'année dernière pour trouver une femme ayant avorté elle-même, selon des logs de recherche obtenus par 404 Media. Une analyse récente du Washington Post a révélé que 50 policiers ont été inculpés ou accusés d'avoir mal utilisé les systèmes de lecture de plaques, dont 26 pour avoir pisté des épouses, petites amies, ex-compagnes ou femmes qu'ils voulaient rencontrer. En août 2023, les régulateurs de l'Illinois ont constaté que Flock avait violé la loi de l'État en menant un programme pilote qui avait donné accès à ses caméras à la douane et à la protection des frontières dans l'État.

Flock laisse la plupart des règles à ses clients. Les dirigeants des agences décident qui obtient des identifiants, s'ils partagent les données de leurs caméras entre villes et États, et s'ils activent les paramètres proposés par l'entreprise pour décourager les abus. L'outil d'audit qui scanne les recherches suspectes d'une agence est arrivé en avril 2026 en option que les départements peuvent activer. Beaucoup de départements n'ont fait que peu de surveillance de leurs propres recherches, selon le Post.

L'Electronic Frontier Foundation a examiné des ensembles de données concernant plus de 12 millions de recherches enregistrées sur 10 mois et a constaté que 20 % d'entre elles ne donnaient qu'un terme vague comme « enquête », « suspect » ou « requête ». Plus de 50 agences ont effectué des centaines de recherches dont les champs de justification faisaient référence à des activités de protestation.

DES NOUVELLES SÉCURITÉS, MAIS UNE VISION PLUS AMBITIEUSE

Flock affirme que ses nouvelles mesures de sécurité permettront de remédier à certains de ces problèmes. L'entreprise a annoncé la semaine dernière qu'à la fin de l'année, elle surveillera les recherches anormales, bloquera automatiquement les utilisateurs signalés et exigera que les policiers attachent des codes de dossier à leurs recherches.

Dans le même temps, l'entreprise recrute des ingénieurs pour « piloter l'évolution architecturale » de son nouveau système, l'intégrer à sa plateforme de données plus large et construire un cadre qu'elle affirme agira au nom des enquêteurs, selon deux offres d'emploi récentes. Ce rôle couvre les flux de travail multiséquences d'IA et de nouvelles fonctionnalités, y compris la génération automatisée de pistes et la corrélation entre caméras — des usages bien au-delà de la version du logiciel examinée par WIRED.

« Il est clair que Flock a des ambitions bien au-delà des lecteurs de plaques automatiques pour devenir une plateforme numérique du maintien de l'ordre », déclare Ferguson. « Nous sommes à l'aube de l'ère de la police agentique, et la capacité à créer des chatbots en langage naturel pour rechercher dans des ensembles de données massifs deviendra bientôt la norme. »

CE QUE LES EXPERTS EN PRIVACY EN PENSENT

Jay Stanley résume l'inquiétude générale : « La plupart des gens imaginent que les lecteurs de plaques vérifient simplement si un véhicule est recherché. Si ce n'est pas le cas, la police passe à autre chose. Mais on voit de plus en plus le déploiement agressif de l'IA par Flock — et dans certains cas, comme en Chine, il y a très peu d'écart entre ce qui peut être fait et ce qui est effectivement fait. »

Noel Pichardo, l'ancien policier, est catégorique : « Je ne vois pas comment on peut argumenter contre l'idée que Flock suit littéralement les gens. »

UN OUTIL QUI POSE LA QUESTION DE LA SURVEILLANCE DE MASSE

Chad Marlow de l'ACLU craint que ce système ne crée un précédent dangereux : « L'IA ne fonctionne pas avec des critères légaux, mais avec des algorithmes. Si un policier demande 'Trouvez-moi les personnes les plus susceptibles de commettre des crimes', l'IA va répondre en fonction de ses propres critères, qui peuvent être biaisés ou discriminatoires. »

Le code de Flock montre déjà que l'outil peut trier les personnes par origine ethnique, taille ou autres caractéristiques physiques. Une requête permet même de rechercher des personnes en fonction de leur apparence, comme un homme de 1,80 m avec un sweat à capuche noir et un tatouage sur l'avant-bras.

UN SYSTÈME QUI POURRAIT DEVENIR LA NORME

Ferguson, le professeur de droit, estime que ce type de système est inévitable à l'ère du big data et de l'IA. « Les policiers vont vouloir utiliser ces outils pour résoudre des crimes, et les entreprises comme Flock vont continuer à développer des fonctionnalités de plus en plus puissantes », explique-t-il. « La question n'est pas de savoir si ces outils existeront, mais comment les encadrer pour protéger les libertés individuelles. »

Flock Safety, avec ses 140 000 utilisateurs actifs et ses 20 milliards de scans de plaques par mois, est bien parti pour devenir un acteur majeur de la surveillance policière. Son PDG, Garrett Langley, a comparé son outil à un « analyste criminel toujours éveillé ». Mais pour beaucoup, cette description sonne comme un cauchemar : un système qui ne dort jamais, qui traque les déplacements de millions de personnes, et qui peut être utilisé pour justifier des suspicions sans fondement.

CE QUE LES POLICIERS EN PENSENT

Certains policiers, comme le détective anonyme de Californie, voient dans OS Investigate un outil utile pour résoudre des crimes. « Nous utiliserons tous les outils disponibles pour attraper les criminels », explique-t-il. « Ce n'est pas controversé. »

D'autres, comme Noel Pichardo, y voient une menace pour les libertés individuelles. « Ce système transforme la police en une machine à surveiller, sans aucun contrôle démocratique », déclare-t-il.

LES LIMITES DU CODE ANALYSÉ

Il est important de noter que le code analysé par WIRED ne montre pas comment le système se comporte en pratique. Il ne révèle pas ce que les serveurs de Flock font avec les requêtes une fois soumises, ni quelles données ils renvoient. De plus, Flock affirme que le produit est encore en développement et que ses fonctionnalités pourraient évoluer avant une sortie officielle.

Cependant, les requêtes préprogrammées et les outils décrits dans le code laissent entrevoir un système capable de transformer une simple caméra de surveillance en un outil de traque massive. Avec des fonctionnalités comme la génération automatisée de pistes et la corrélation entre caméras, Flock Safety pourrait bien devenir bien plus qu'un simple lecteur de plaques : une plateforme de surveillance policière omniprésente.

CE QUE LES RÉGULATEURS EN DISENT

Les régulateurs commencent à s'inquiéter. En Illinois, Flock a été condamné pour avoir violé la loi de l'État en donnant accès à ses caméras à la douane et à la protection des frontières. Dans d'autres États, des enquêtes ont révélé des abus massifs de la part de policiers utilisant les caméras de Flock pour pister des proches ou des ex-compagnes.

Flock affirme que ses nouvelles mesures de sécurité, comme le blocage automatique des utilisateurs suspects et l'obligation de justifier les recherches, permettront de limiter ces dérives. Mais pour beaucoup, ces mesures ne suffisent pas. « Ce n'est pas une question de technologie, c'est une question de pouvoir », déclare Jay Stanley. « Qui contrôle ces outils ? Qui décide de leurs limites ? »

UN AVENIR INQUIÉTANT POUR LA VIE PRIVÉE

Avec OS Investigate, Flock Safety franchit une ligne rouge. L'entreprise passe d'un outil de surveillance passive à un système actif de traque et de suspicion. Les 69 requêtes préprogrammées montrent que l'outil peut être utilisé pour surveiller des comportements innocents, comme visiter plusieurs magasins ou stations-service, et pour créer des dossiers détaillés sur des personnes sans aucun lien avec un crime.

« Ce n'est plus une question de savoir si la police peut accéder à ces données, mais de savoir comment elle les utilise », explique Andrew Guthrie Ferguson. « Et aujourd'hui, les garde-fous sont bien trop faibles. »

QUELLE EST LA SUITE POUR FLICK SAFETY ?

Flock Safety continue de recruter des ingénieurs pour développer son système et l'intégrer à sa plateforme de données. L'entreprise vise une sortie officielle d'ici la fin de l'année, avec des fonctionnalités comme la génération automatisée de pistes et la corrélation entre caméras. Mais les critiques s'inquiètent déjà de l'impact de ces outils sur les libertés individuelles.

« Nous sommes à l'aube d'une nouvelle ère de surveillance policière », déclare Jay Stanley. « Et si nous ne faisons rien, cette ère pourrait bien être celle de la fin de la vie privée telle que nous la connaissons. »

EN BREF : CE QUE VOUS DEVEZ RETENIR

OS Investigate est un nouvel outil d'IA développé par Flock Safety pour la police. Il permet :

• • D'identifier les conducteurs et de suivre leurs déplacements sans plaque d'immatriculation.
• • De créer des dossiers détaillés sur des personnes en fonction de leurs habitudes de déplacement.
• • D'utiliser 69 requêtes préprogrammées pour faciliter les enquêtes, mais aussi pour jeter le soupçon sur des conducteurs innocents.
• • D'accéder à des bases de données commerciales contenant des informations personnelles (numéros de sécurité sociale, adresses, proches, etc.).
• • De tracer les « associés » d'un conducteur en croisant les caméras qu'ils traversent ensemble.

Flock Safety affirme que le produit est encore en développement, mais les requêtes préprogrammées et les outils décrits dans le code laissent entrevoir un système capable de transformer une simple caméra de surveillance en un outil de traque massive.

POUR ALLER PLUS LOIN

Si vous souhaitez en savoir plus sur les outils de surveillance policière et leurs impacts sur la vie privée, voici quelques ressources :

• Le rapport de l'ACLU sur les dérives des lecteurs de plaques automatiques : aclu.org

• L'analyse du Washington Post sur les abus des systèmes de lecture de plaques : washingtonpost.com

• L'enquête de 404 Media sur l'utilisation des caméras de Flock pour traquer une femme ayant avorté : 404media.co