Pourquoi l'IA de détection d'armes a échoué ? Une famille porte plainte après une tuerie

UNE FAMILLE PORTE PLAINTE APRÈS L’ÉCHEC D’UNE IA DE DÉTECTION D’ARMES

Un adolescent survivant d’une tuerie scolaire survenue en janvier 2025 dans un lycée de Nashville, dans le Tennessee, a porté plainte contre le fabricant d’un système de détection d’armes par IA. Ce système n’a pas détecté l’arme de poing utilisée par le tireur, qui a causé la mort de deux personnes, dont lui-même.

LES LIMITES DU SYSTÈME MISES EN AVANT DANS LA PLAINTE

Selon le recours déposé devant un tribunal du comté de Davidson le mois dernier, l’entreprise de sécurité Omnilert savait, ou aurait dû savoir, que son système présentait des défauts majeurs pouvant entraîner des échecs de détection en situation réelle. Ces limites incluent notamment la position des caméras, la proximité de l’arme par rapport aux capteurs, l’angle de prise de vue, l’éclairage et la visibilité de l’arme.

OMNILERT REFUSE DE RÉPONDRE AUX QUESTIONS

Le cofondateur d’Omnilert, Ara Bagdasarian, a décliné l’invitation d’Ars Technica à répondre aux questions concernant la plainte. La société System Integrations, autre défendeur dans cette affaire, qui revendait le système Omnilert, n’a pas non plus réagi à la demande de commentaires d’Ars Technica.

UN MILLION DE DOLLARS DÉPENSÉS POUR UN SYSTÈME QUI A FAILLI

En 2023, le conseil scolaire des écoles publiques de Nashville (MNPS) a signé un contrat de plus d’un million de dollars pour installer une couche de détection par IA sur son réseau de caméras et d’infrastructures de sécurité réparti dans tout le district. Après la tuerie de janvier 2025, le porte-parole du MNPS, Sean Braisted, a expliqué lors d’une conférence de presse que, en raison de la position du tireur par rapport aux caméras, les images « n’étaient pas assez proches pour obtenir une lecture précise et déclencher l’alarme ».

OMNILERT A-T-IL TROP PROMIS ?

La plainte s’appuie sur des extraits du site web d’Omnilert, tels qu’archivés sur l’Internet Archive quelques jours avant la tuerie. Elle accuse l’entreprise d’avoir survendu les capacités de son système en affirmant notamment que sa détection visuelle d’armes par IA « aurait pu atténuer ou prévenir la tragédie de Marjory Stoneman Douglas High School » en identifiant les menaces plus tôt. Cette référence à l’une des tueries scolaires les plus meurtrières des États-Unis visait à montrer que son produit pouvait éviter des drames similaires.

UNE TECHNOLOGIE EN QUESTION

Chris Smith, l’un des avocats du plaignant, a exprimé des doutes sur l’efficacité de ce type de système. « Je trouvais cette idée un peu bidon, a-t-il déclaré. J’ai une Tesla, et je pense que son système de conduite autonome est bidon. Ce n’est pas prêt pour le grand public . Comment peut-on faire confiance à un tel système ? C’est ça, le plan pour protéger les enfants des tueries scolaires ? Pourquoi est-ce mieux qu’un détecteur de métaux ? »

Certains critiques partagent les mêmes réserves que Smith. Ils soulignent que l’argent public dépensé pour ces systèmes aurait pu être utilisé autrement. « Je n’ai jamais vu une tuerie scolaire où il n’y avait pas eu d’alerte, a déclaré David Riedman, expert en sécurité et éducation qui gère la base de données des tueries scolaires K-12. L’argent dépensé par le MNPS pour déployer ces systèmes de détection aurait pu servir à embaucher un conseiller ou aider un élève en détresse. Chaque décision détourne des ressources d’autres besoins. »

PREMIÈRE PLAINTE DE CE TYPE

Smith a également indiqué que, à sa connaissance, il s’agissait de la première plainte de ce genre déposée contre Omnilert ou une entreprise similaire. « Je pensais qu’il était important, au-delà des blessures de M. Hanin, de sensibiliser à toute cette situation », a-t-il expliqué.

UNE QUESTION DE CONFIANCE DANS L’IA

Cette plainte soulève une question cruciale : dans quelle mesure un système d’IA doit-il être fiable pour être utilisé dans des situations aussi critiques que la sécurité scolaire ? Les familles des victimes et les experts s’interrogent sur la capacité de ces technologies à remplacer des mesures de sécurité traditionnelles, comme les détecteurs de métaux ou la présence humaine renforcée.