ChatGPT détecte les idées suicidaires et prévient votre personne de confiance

QUAND LES MOTS CACHENT UN APPEL À L'AIDE

Vous mettre en relation avec une personne de confiance quand cela compte le plus. Les gens utilisent ChatGPT pour apprendre, explorer des idées, résoudre des problèmes et réfléchir à des questions personnelles. Parfois, ces conversations peuvent inclure des moments où une personne est en difficulté ou cherche du soutien. Notre objectif est de concevoir des systèmes qui répondent avec attention aux conversations sensibles et encouragent les gens à chercher de l'aide dans le monde réel lorsque c'est nécessaire.

UN NOUVEAU FILET DE SÉCURITÉ : LA PERSONNE DE CONFIANCE

Aujourd'hui, nous commençons à déployer la Personne de confiance (Trusted Contact), une fonctionnalité de sécurité facultative dans ChatGPT qui permet aux adultes de désigner une personne de confiance, comme un ami, un membre de la famille ou un aidant, qui pourra être notifiée si nos systèmes automatisés et nos évaluateurs formés détectent que la personne inscrite a évoqué l'idée de se faire du mal d'une manière qui indique un risque sérieux pour sa sécurité. La Personne de confiance est conçue pour offrir une couche supplémentaire de soutien, en complément des lignes d'assistance locales déjà disponibles dans ChatGPT, en aidant les utilisateurs à se connecter à une personne de confiance lorsqu'ils sont en crise.

INSPIRÉ DES CONTRÔLES PARENTAUX

La Personne de confiance s'appuie sur les contrôles parentaux et leurs notifications de sécurité, qui permettent aux parents ou tuteurs de recevoir des alertes lorsque des signes de détresse aiguë sont détectés pour un compte adolescent lié. Désormais, nous étendons nos options d'alerte de sécurité afin que toute personne de plus de 18 ans puisse choisir d'ajouter une personne de confiance.

LE LIEN SOCIAL, REMPART CONTRE LE SUICIDE

Les conseils d'experts identifient le lien social comme l'un des facteurs de protection les plus importants pour réduire le risque de suicide. La Personne de confiance est conçue pour encourager la connexion avec quelqu'un en qui l'utilisateur a déjà confiance. Elle ne remplace pas les soins professionnels ou les services de crise, et constitue l'un des plusieurs niveaux de sauvegarde pour soutenir les personnes en détresse. ChatGPT continuera d'encourager les utilisateurs à contacter les lignes d'écoute d'urgence ou les services d'urgence lorsque cela est approprié.

RAPIDITÉ ET FIABILITÉ DU PROCESSUS

Bien que ces situations graves de sécurité soient rares, lorsqu'elles surviennent, nos systèmes sont conçus pour permettre un examen et une réponse rapides.

Aucun système n'est parfait, et une notification à une Personne de confiance peut ne pas toujours refléter exactement ce que vit une personne.

CONÇU AVEC DES EXPERTS EN SANTÉ MENTALE

Nous avons développé la Personne de confiance avec les conseils de cliniciens, de chercheurs et d'organisations spécialisées dans la santé mentale et la prévention du suicide. Ce travail s'appuie sur notre Réseau mondial de médecins, un réseau de plus de 260 médecins diplômés dans 60 pays, et notre Conseil d'experts sur le bien-être et l'IA. Nous avons également travaillé en étroite collaboration avec des organisations externes, notamment l'Association américaine de psychologie.

DES GARDE-FOUS À CHAQUE ÉTAPE

En plus de la Personne de confiance, ChatGPT dispose de garde-fous pour orienter les conversations sensibles à chaque étape. Nous avons continué d'améliorer la façon dont le système répond aux différents niveaux de risque exprimés dans une conversation.

VERS UNE IA PLUS HUMAINE

La Personne de confiance fait partie de l'effort plus large d'OpenAI pour construire des systèmes d'IA qui aident les gens dans les moments difficiles. Nous continuerons à travailler avec des cliniciens, des chercheurs et des décideurs politiques pour améliorer la façon dont les systèmes d'IA réagissent lorsque des personnes peuvent être en détresse. Notre objectif est de faire en sorte que les systèmes d'IA n'existent pas de manière isolée. Au contraire, ils doivent aider à connecter les gens aux soins, aux relations et aux ressources du monde réel qui comptent le plus.