ChatGPT prévient un proche si vous exprimez des idées suicidaires

UN SOUTIEN POUR LES MOMENTS DIFFICILES

Des millions de personnes utilisent ChatGPT pour apprendre, explorer des idées ou réfléchir à des questions personnelles. Parfois, ces conversations touchent à des sujets sensibles, quand quelqu’un traverse une période de détresse. L’objectif d’OpenAI est de concevoir des systèmes qui répondent avec soin lors de ces échanges et encouragent à chercher de l’aide dans la vraie vie quand c’est nécessaire.

LE CONTACT DE CONFIANCE, UN FILET DE SÉCURITÉ

Le déploiement progressif de Trusted Contact (Contact de Confiance) commence aujourd’hui. Cette fonction de sécurité optionnelle permet à un adulte de désigner une personne de confiance, un ami, un membre de la famille ou un aidant, qui pourra être avertie si nos systèmes automatisés et nos réviseurs détectent que l’utilisateur a évoqué des idées d’automutilation de manière suffisamment sérieuse.

Concrètement, quand un utilisateur traverse une crise, l’IA pourra envoyer une notification à ce proche, en complément des lignes d’écoute locales déjà intégrées à ChatGPT. L’idée est d’ajouter une couche de soutien, pas de remplacer les services professionnels.

DE LA PROTECTION PARENTALE AUX ADULTES

Cette nouveauté s’appuie sur les notifications de sécurité parentales déjà en place. Les parents ou tuteurs peuvent recevoir une alerte quand le compte lié d’un adolescent montre des signes de détresse aiguë. Désormais, toute personne de plus de 18 ans peut choisir d’ajouter un Contact de Confiance à son compte.

LA SCIENCE DERRIÈRE LE LIEN SOCIAL

Les études montrent que le lien social est l’un des facteurs de protection les plus puissants pour réduire le risque de suicide. Le Contact de Confiance est conçu pour favoriser ce lien avec une personne que l’utilisateur connaît déjà et en qui il a confiance. Cela ne remplace ni les soins professionnels ni les services d’urgence. ChatGPT continue d’inciter à appeler une ligne de crise ou les secours quand la situation l’exige.

UNE RÉVISION HUMAINE EN MOINS D’UNE HEURE

Les situations graves sont rares, mais quand elles surviennent, les systèmes sont pensés pour intervenir rapidement. Une notification au Contact de Confiance ne reflète pas toujours parfaitement le vécu de la personne, car aucun système n’est infaillible. C’est pourquoi chaque alerte passe par une révision humaine avant d’être envoyée, et l’objectif est de traiter ces signalements en moins d’une heure.

CONÇU AVEC DES EXPERTS EN SANTÉ MENTALE

Pour bâtir ce dispositif, OpenAI a collaboré avec des cliniciens, des chercheurs et des organisations spécialisées en santé mentale et en prévention du suicide. Le Réseau Mondial de Médecins (plus de 260 médecins agréés dans 60 pays) et le Conseil d’Experts sur le Bien-être et l’IA ont guidé les réflexions. L’Association Américaine de Psychologie a aussi été étroitement associée au projet.

DES GARDE-FOUS À CHAQUE ÉTAPE

Le Contact de Confiance ne fonctionne pas seul. ChatGPT dispose de protections pour orienter les conversations sensibles à tous les niveaux de risque. L’équipe améliore en continu la manière dont le système réagit face aux différents degrés de détresse exprimés dans un échange, afin d’offrir une réponse nuancée et adaptée.

L’IA AU SERVICE DU LIEN HUMAIN

Ce dispositif s’inscrit dans une démarche plus large : construire des intelligences artificielles qui aident les gens dans les moments difficiles. OpenAI continuera de travailler avec des cliniciens, des chercheurs et des décideurs pour améliorer la réponse des IA face à la détresse. L’objectif est clair : les systèmes d’IA ne doivent pas évoluer dans une bulle, mais aider à connecter les personnes aux soins, aux relations et aux ressources du monde réel.