Quand l'IA de la police condamne un innocent à 93% de certitude

UNE ARRESTATION SUR UNE ERREUR DE MACHINE

Robert Dillon, un homme de 52 ans vivant à Fort Myers en Floride, a été arrêté en août 2024 après qu’un système de reconnaissance faciale l’ait identifié comme un suspect à 93% de correspondance. Pourtant, Dillon n’avait jamais mis les pieds à Jacksonville Beach, à plus de 300 miles de chez lui. Le système avait comparé son visage avec une image floue, capturée directement sur l’écran d’un ordinateur affichant une vidéo de surveillance d’un McDonald’s.

L’algorithme de reconnaissance faciale avait signalé Dillon comme l’homme ayant tenté de séduire une enfant de moins de 12 ans dans un restaurant McDonald’s de Jacksonville Beach. Une accusation gravissime, porteuse d’un stigmate social permanent. Dillon a été arrêté chez lui devant sa femme, incarcéré pour la nuit, puis libéré sous caution après avoir dû emprunter de l’argent et mettre son camion en gage.

UNE ENQUÊTE CONSTRUITE POUR CONFIRMER L’ERREUR

Plutôt que de vérifier si l’IA avait tort, les policiers ont construit un dossier pour confirmer son résultat. Dillon a été poursuivi pendant plus de deux mois avant que le parquet ne classe l’affaire sans suite. Pourtant, les preuves disculpatoires existaient : une Recherche dans les lecteurs de plaques d’immatriculation avait confirmé que ni sa voiture ni celle de sa femme n’avaient été détectées dans la région au moment du crime présumé. Dillon n’avait pas quitté Fort Myers depuis deux ans.

Le policier en charge de l’enquête, le caporal Scott O’Connell, avait même appelé Dillon des mois avant l’arrestation. Dillon avait nié toute implication et précisé qu’il n’avait jamais mis les pieds à Jacksonville Beach. O’Connell a omis cette conversation dans son affidavit pour obtenir le mandat d’arrêt. Il a aussi caché le résultat des recherches de plaques, pourtant disponibles au moment de la rédaction du document.

LA BASE DE DONNÉES FACIALE QUI A TOUT FAUX

L’erreur vient du système FACES, une base de données centralisée de reconnaissance faciale gérée par le bureau du shérif du comté de Pinellas. Ce système contient plus de 38,5 millions d’images, dont des photos d’identité judiciaire et des permis de conduire. En 2022, 196 agences de police y avaient accès. Dillon y a été identifié comme correspondant à 93% avec le suspect filmé par les caméras de surveillance du McDonald’s.

Le problème ? L’image utilisée était une photo prise directement sur l’écran de l’ordinateur affichant la vidéo, et non une extraction numérique du fichier vidéo. Résultat : des reflets, une résolution réduite et des distorsions de couleur. Dillon, lui, a les cheveux raides. Le suspect sur la vidéo avait les cheveux bouclés. Une différence flagrante.

UNE IDENTIFICATION FACIALE QUI NE VEUT RIEN DIRE

Le chiffre de 93% est un score de confiance, une mesure de proximité numérique entre deux modèles mathématiques. Ce n’est pas une probabilité que les deux images représentent la même personne. Les algorithmes de reconnaissance faciale varient selon leur conception et leur entraînement, rendant ce score difficile à interpréter. Un policier recevant un « 93% de correspondance » n’a aucun moyen d’évaluer la base de ce score, ni de comprendre ce que signifie réellement ce pourcentage.

Pourtant, O’Connell a présenté à une gérante de McDonald’s une planche de photos incluant Dillon parmi cinq autres visages choisis pour lui ressembler. La gérante, qui n’avait pas vu l’incident, a identifié Dillon comme l’homme portant un trench noir ce soir-là. O’Connell n’a jamais montré cette planche à la victime, ni à ses parents. Pire : il n’a pas exploité les données de commandes mobiles, les relevés de paiement, ni les historiques de l’application McDonald’s pour vérifier la présence de Dillon sur place.

UN POLICIER AU PASSIF LOURD

Le caporal O’Connell avait pourtant un passé trouble. Licencié du bureau du shérif du comté de St. Johns pour avoir menacé de « faire sauter » l’agence, réintégré, puis arrêté pour violences conjugales avant de démissionner sous la pression, il a été embauché par la police de Jacksonville Beach. Malgré tout, il a été chargé de l’enquête sur ce cas sensible et promu caporal après l’arrestation erronée de Dillon.

L’enquête du procès a révélé qu’O’Connell avait omis des éléments clés dans son affidavit pour obtenir le mandat. Il n’a pas mentionné que les résultats de reconnaissance faciale « ne constituent pas une identification positive, sont intrinsèquement peu fiables et ne constituent pas de motif probable selon la politique de la police de Jacksonville Beach ». Il a aussi caché que la gérante du McDonald’s n’avait pas assisté à l’incident, occupée par son travail.

DEUX MOIS DE CAUCHEMAR JUDICIAIRE

Dillon, qui travaillait comme pêcheur commercial, a perdu un mois de revenus pendant cette période. Incapable de se concentrer, il a accumulé des retards de loyer et a dû reprendre le travail par crainte de perdre son logement. Son visage, publié en ligne, continue de le poursuivre : des membres de la communauté l’abordent encore en public pour lui demander des comptes. Il ne se sent plus en sécurité pour être aimable avec des enfants. Aucune agence de police n’a jamais présenté d’excuses ou reconnu l’erreur.

Dillon a déclaré : « Je ne me remettrai jamais de la terreur et de l’inquiétude que j’ai ressenties, me demandant si je reverrais un jour ma femme et ma fille. » Il accuse la police d’avoir « fait confiance à cette technologie dangereuse au lieu de faire leur travail et d’enquêter vraiment. »

UNE TECHNOLOGIE QUI FAIT DES VAGUES

Ce cas illustre les dangers des systèmes de reconnaissance faciale utilisés par les forces de l’ordre. Les algorithmes, entraînés sur des bases de données souvent biaisées ou de mauvaise qualité, peuvent produire des résultats trompeurs. Pourtant, ces outils sont de plus en plus déployés, malgré l’absence de cadre légal strict et de garanties contre les erreurs.

Les avocats de Dillon, de l’Union américaine pour les libertés civiles (ACLU) et du cabinet Hoguet Newman Regal & Kenney, demandent des dommages et intérêts ainsi que des changements dans l’utilisation de ces technologies par la police. Ils soulignent que Dillon n’est pas un cas isolé : au moins 15 personnes aux États-Unis ont subi le même sort à cause d’erreurs de reconnaissance faciale.

UN SYSTÈME QUI MASQUE LES PREUVES

Le procès révèle une pratique inquiétante : les policiers, au lieu d’enquêter, se fient aveuglément aux résultats des algorithmes. O’Connell n’a pas exploité les pistes évidentes : les relevés de commandes mobiles, les données de paiement, les historiques de l’application McDonald’s, les anciennes vidéos de surveillance montrant les clients réguliers, ou encore les relevés de localisation des téléphones portables. Toutes ces données auraient pu disculper Dillon en quelques heures.

Au lieu de cela, la police a construit un dossier bâclé, omettant sciemment des preuves disculpatoires pour obtenir un mandat d’arrêt. Dillon a été arrêté chez lui, devant sa famille, comme un criminel dangereux. Son visage, diffusé en ligne, continue de le hanter bien après l’abandon des charges.

LA RECONNAISSANCE FACIALE, UN OUTIL À RISQUES

Les systèmes de reconnaissance faciale comme FACES sont souvent présentés comme des outils infaillibles. Pourtant, leur fiabilité dépend de la qualité des images utilisées et des algorithmes entraînés. Une image floue, une mauvaise lumière, ou un algorithme mal conçu peuvent transformer une erreur en tragédie. Dillon en est la preuve vivante : une correspondance à 93% ne signifie pas 93% de chances d’être coupable. Cela signifie simplement que l’ordinateur a trouvé une ressemblance numérique, sans garantie aucune.

Les experts soulignent que ces systèmes sont particulièrement dangereux lorsqu’ils sont utilisés pour des accusations graves, comme la tentative de séduction d’un enfant. Une erreur peut détruire une vie en quelques heures, et les conséquences durent des années.

UNE PROCÉDURE QUI IGNORE LES DROITS

Le cas de Dillon montre comment les procédures judiciaires peuvent être manipulées pour confirmer les erreurs technologiques. O’Connell a omis des éléments clés dans son affidavit, comme les appels téléphoniques de Dillon niant toute implication, ou les résultats des lecteurs de plaques. Pourtant, ces informations auraient pu éviter l’arrestation. La politique de la police de Jacksonville Beach est claire : les résultats de reconnaissance faciale ne constituent pas un motif probable. Pourtant, O’Connell a utilisé ce résultat pour obtenir un mandat.

Ce n’est pas la première fois qu’un policier abuse de son pouvoir. O’Connell avait déjà un passé judiciaire chargé, avec des antécédents de violence et de menaces. Pourtant, il a été chargé d’une enquête sensible et a obtenu une promotion après l’arrestation erronée de Dillon.

LES CONSÉQUENCES POUR LA VIE DE DILLON

Dillon a perdu un mois de revenus pendant cette période, une période cruciale pour son activité de pêcheur commercial. Incapable de se concentrer sur son travail, il a accumulé des retards de loyer et a dû reprendre le travail par crainte de perdre son logement. Son visage, publié en ligne, continue de le poursuivre : des membres de la communauté l’abordent encore en public pour lui demander des comptes. Il ne se sent plus en sécurité pour être aimable avec des enfants.

Son calvaire a duré plus de deux mois avant que le parquet ne classe l’affaire sans suite. Pourtant, aucune agence de police n’a jamais présenté d’excuses ou reconnu l’erreur. Dillon porte désormais le stigmate d’un homme accusé à tort, et sa réputation est durablement entachée.

UNE AFFAIRE QUI FAIT RÉFLÉCHIR

Ce cas soulève des questions cruciales sur l’utilisation des technologies de reconnaissance faciale par les forces de l’ordre. Faut-il interdire ces outils pour les accusations graves ? Comment garantir que les algorithmes ne reproduisent pas les biais des bases de données utilisées pour les entraîner ? Comment éviter que des policiers ne se fient aveuglément aux résultats des machines, au détriment des enquêtes traditionnelles ?

Dillon et ses avocats demandent des changements structurels : une meilleure formation des policiers, une utilisation plus transparente des algorithmes, et une obligation de vérifier les résultats des machines avant toute arrestation. Ils veulent aussi que les agences de police reconnaissent leurs erreurs et présentent des excuses aux victimes de ces technologies défaillantes.

LA RECONNAISSANCE FACIALE, UN OUTIL ENCORE MAL MAÎTRISÉ

Malgré les promesses des promoteurs de la reconnaissance faciale, cette technologie reste fragile et sujette à des erreurs. Les images de mauvaise qualité, les algorithmes mal entraînés, et l’absence de cadre légal strict en font un outil dangereux, surtout lorsqu’il est utilisé pour des accusations graves. Dillon en est la preuve : une correspondance à 93% ne signifie pas 93% de chances d’être coupable. Cela signifie simplement que l’ordinateur a trouvé une ressemblance numérique, sans garantie aucune.

Les experts appellent à une régulation stricte de ces outils, avec des garanties contre les erreurs et des obligations de transparence. Sans cela, des innocents continueront de payer le prix des failles technologiques.

UN CAS QUI N’EST PAS ISOLÉ

Dillon n’est pas le seul à avoir été victime d’une erreur de reconnaissance faciale. Selon l’ACLU, au moins 15 personnes aux États-Unis ont subi le même sort. Ces erreurs peuvent avoir des conséquences dramatiques : arrestations injustifiées, poursuites judiciaires, perte de revenus, et stigmatisation à vie. Pourtant, les agences de police continuent d’utiliser ces outils, malgré leurs risques connus.

Les avocats de Dillon demandent des dommages et intérêts ainsi que des changements dans l’utilisation de ces technologies par la police. Ils veulent aussi que les agences reconnaissent leurs erreurs et présentent des excuses aux victimes de ces technologies défaillantes.

UNE TECHNOLOGIE QUI DOIT ÊTRE RÉGULÉE

Ce cas illustre l’urgence d’encadrer strictement l’utilisation de la reconnaissance faciale par les forces de l’ordre. Les algorithmes, aussi sophistiqués soient-ils, ne doivent pas remplacer le jugement humain et l’enquête traditionnelle. Les policiers doivent être formés pour comprendre les limites de ces outils et vérifier leurs résultats avant toute arrestation.

Les experts appellent à une régulation stricte, avec des garanties contre les erreurs et des obligations de transparence. Sans cela, des innocents continueront de payer le prix des failles technologiques. Dillon en est la preuve : une erreur de machine peut détruire une vie en quelques heures.

LES DÉFAILLANCES DU SYSTÈME FACES

Le système FACES, utilisé pour identifier Dillon, contient plus de 38,5 millions d’images. Pourtant, son utilisation a conduit à une erreur grave. L’image utilisée pour la comparaison était une photo prise directement sur l’écran d’un ordinateur, et non une extraction numérique du fichier vidéo. Résultat : des reflets, une résolution réduite et des distorsions de couleur. Dillon, lui, a les cheveux raides. Le suspect sur la vidéo avait les cheveux bouclés. Une différence flagrante.

Les experts soulignent que ces systèmes sont particulièrement dangereux lorsqu’ils sont utilisés pour des accusations graves, comme la tentative de séduction d’un enfant. Une erreur peut détruire une vie en quelques heures, et les conséquences durent des années.

UNE AFFAIRE QUI DOIT CHANGER LES PRATIQUES

Ce cas doit servir d’électrochoc pour les forces de l’ordre. Les policiers doivent être formés pour comprendre les limites des outils technologiques et vérifier leurs résultats avant toute arrestation. Les algorithmes ne doivent pas remplacer le jugement humain et l’enquête traditionnelle. Les avocats de Dillon demandent des changements structurels : une meilleure formation des policiers, une utilisation plus transparente des algorithmes, et une obligation de vérifier les résultats des machines avant toute arrestation.

Les experts appellent à une régulation stricte de ces outils, avec des garanties contre les erreurs et des obligations de transparence. Sans cela, des innocents continueront de payer le prix des failles technologiques. Dillon en est la preuve : une erreur de machine peut détruire une vie en quelques heures.

LA RECONNAISSANCE FACIALE, UN OUTIL À RISQUES

Les systèmes de reconnaissance faciale comme FACES sont souvent présentés comme des outils infaillibles. Pourtant, leur fiabilité dépend de la qualité des images utilisées et des algorithmes entraînés. Une image floue, une mauvaise lumière, ou un algorithme mal conçu peuvent transformer une erreur en tragédie. Dillon en est la preuve vivante : une correspondance à 93% ne signifie pas 93% de chances d’être coupable. Cela signifie simplement que l’ordinateur a trouvé une ressemblance numérique, sans garantie aucune.

Les experts soulignent que ces systèmes sont particulièrement dangereux lorsqu’ils sont utilisés pour des accusations graves, comme la tentative de séduction d’un enfant. Une erreur peut détruire une vie en quelques heures, et les conséquences durent des années.

UNE AFFAIRE QUI FAIT RÉFLÉCHIR SUR L’AVENIR

Ce cas pose une question cruciale : faut-il interdire la reconnaissance faciale pour les accusations graves ? Comment garantir que les algorithmes ne reproduisent pas les biais des bases de données utilisées pour les entraîner ? Comment éviter que des policiers ne se fient aveuglément aux résultats des machines, au détriment des enquêtes traditionnelles ?

Dillon et ses avocats demandent des changements structurels : une meilleure formation des policiers, une utilisation plus transparente des algorithmes, et une obligation de vérifier les résultats des machines avant toute arrestation. Ils veulent aussi que les agences de police reconnaissent leurs erreurs et présentent des excuses aux victimes de ces technologies défaillantes.

CONCLUSION : UNE ERREUR QUI DOIT TOUT CHANGER

L’affaire Dillon montre à quel point la reconnaissance faciale peut être dangereuse lorsqu’elle est mal utilisée. Une erreur à 93% a suffi à détruire la vie d’un homme innocent pendant deux mois. Pourtant, les preuves disculpatoires existaient : Dillon n’avait jamais quitté Fort Myers, ses véhicules n’avaient pas été détectés dans la région, et il avait les cheveux raides, contrairement au suspect.

Ce cas doit servir d’avertissement. Les forces de l’ordre doivent arrêter de se fier aveuglément aux algorithmes et revenir à des méthodes d’enquête traditionnelles. Les algorithmes ne doivent pas remplacer le jugement humain. Les agences de police doivent reconnaître leurs erreurs et présenter des excuses aux victimes. Sans cela, d’autres innocents continueront de payer le prix des failles technologiques.