OpenAI dévoile le Contact de Confiance, un rempart contre les suicides sur ChatGPT

CONTACT DE CONFIANCE : UNE NOUVELLE FONCTION POUR PRÉVENIR L’AUTO-AGRESSION

Jeudi dernier, OpenAI a dévoilé une nouvelle fonction appelée Contact de Confiance. Elle permet d’alerter une personne de confiance si des propos liés à l’auto-agression (quand quelqu’un parle de se faire du mal) apparaissent dans une conversation. Concrètement, un adulte utilisant ChatGPT peut désigner un ami ou un membre de sa famille comme contact de confiance dans son compte. Si la conversation dérive vers des idées suicidaires, OpenAI va d’abord encourager l’utilisateur à contacter cette personne. Ensuite, le système envoie automatiquement une alerte au contact pour l’inciter à prendre des nouvelles de l’utilisateur.

DES POURSUITES JUDICIAIRES POUR INCITATION AU SUICIDE

OpenAI fait face à une vague de poursuites intentées par les familles de personnes qui se sont suicidées après avoir discuté avec son chatbot. Dans plusieurs affaires, ces familles affirment que ChatGPT a encouragé leur proche à passer à l’acte, ou l’aurait même aidé à planifier son suicide.

COMMENT OPENAI SURVEILLE LES CONVERSATIONS À RISQUE

Actuellement, OpenAI utilise à la fois des Outils automatisés et une équipe humaine pour traiter les incidents dangereux. Certains mots-clés dans les conversations déclenchent une alerte dans le système de l’entreprise, qui signale des idées suicidaires. Ces informations sont ensuite transmises à une équipe de sécurité composée de vraies personnes. L’entreprise assure que chaque notification de ce type est examinée par un humain. « Nous nous efforçons d’examiner ces alertes en moins d’une heure », précise-t-elle.

ALERTE AUTOMATIQUE AU CONTACT DE CONFIANCE

Si l’équipe interne juge que la situation représente un risque grave pour la sécurité, ChatGPT envoie alors une alerte au contact de confiance, par e-mail, SMS ou notification dans l’application. Le message est volontairement court : il encourage simplement le contact à prendre des nouvelles de la personne concernée, sans donner de détails sur ce qui a été dit, afin de protéger la vie privée de l’utilisateur, explique OpenAI.

DES PROTECTIONS EXISTANTES POUR LES ADOS

La fonction Contact de Confiance s’ajoute aux mesures de sécurité que l’entreprise a introduites en septembre dernier pour les ados. Ces dernières permettent aux parents d’avoir un certain contrôle sur le compte de leur enfant, notamment en recevant des notifications si le système détecte un « risque grave pour la sécurité ». Depuis un certain temps déjà, ChatGPT propose aussi des messages automatiques qui encouragent à consulter des professionnels de santé si la conversation tourne autour de l’auto-agression.

LES LIMITES DU SYSTÈME : OPTIONNEL ET MULTIPLES COMPTES

Un point crucial : le Contact de Confiance est facultatif. Et même si cette protection est activée sur un compte, rien n’empêche un utilisateur d’avoir plusieurs comptes ChatGPT. Les contrôles parentaux d’OpenAI sont eux aussi optionnels, ce qui présente la même limite.

OPENAI : « AIDER DANS LES MOMENTS DIFFICILES »

« Le Contact de Confiance s’inscrit dans les efforts globaux d’OpenAI pour bâtir des systèmes d’IA qui aident les gens dans les moments difficiles », a déclaré l’entreprise dans son billet d’annonce. « Nous continuerons à collaborer avec des cliniciens, des chercheurs et des décideurs pour améliorer la réponse des IA quand une personne est en détresse. »

ÉVÉNEMENTS ET INFORMATIONS COMMERCIALES

Le premier StrictlyVC de 2026 aura lieu à San Francisco le 30 avril. Les places partent vite. Inscrivez-vous.

Achetez un pass Disrupt et obtenez le deuxième à moitié prix. Offre valable jusqu’au 8 mai. Inscrivez-vous.

Cette semaine seulement : achetez un pass, obtenez le deuxième à moitié prix. Votre prochaine levée de fonds. Votre prochain recrutement. Votre prochaine opportunité décisive. Rendez-vous à TechCrunch Disrupt 2026, où plus de 10 000 fondateurs, investisseurs et leaders de la tech se réunissent pendant trois jours pour plus de 250 sessions tactiques, des rencontres puissantes et des innovations qui redéfinissent le marché. Inscrivez-vous avant le 8 mai pour venir accompagné à moitié prix.

Cette semaine seulement : achetez un pass, obtenez le deuxième à moitié prix. Votre prochaine levée de fonds. Votre prochain recrutement. Votre prochaine opportunité décisive. Rendez-vous à TechCrunch Disrupt 2026, où plus de 10 000 fondateurs, investisseurs et leaders de la tech se réunissent pendant trois jours pour plus de 250 sessions tactiques, des rencontres puissantes et des innovations qui redéfinissent le marché. Inscrivez-vous avant le 8 mai pour venir accompagné à moitié prix.

San Francisco, CA | 13-15 octobre 2026 INSCRIVEZ-VOUS

Quand vous achetez via des liens dans nos articles, nous pouvons percevoir une petite commission. Cela n’affecte pas notre indépendance éditoriale.

27 mai, Athènes, Grèce : StrictlyVC Athens arrive. Écoutez des analyses sans filtre des leaders tech européens et connectez-vous à ceux qui façonnent l’avenir. Réservez votre place avant qu’il ne soit trop tard.