Pourquoi la Californie veut protéger les ados de l'IA… et OpenAI applaudit

LA CALIFORNIE VEUT PROTÉGER LES ADOS DE L'IA

L’État américain de Californie prépare une nouvelle loi, le projet SB 1119, pour encadrer l’utilisation de l’intelligence artificielle par les jeunes. Cette loi vise à mettre en place des mesures de sécurité strictes tout en laissant aux adolescents l’accès à des Outils utiles pour apprendre, créer et se préparer à l’avenir. OpenAI, l’entreprise derrière ChatGPT, soutient activement ce projet. Cette prise de position s’inscrit dans la continuité des engagements pris par Sam Altman, cofondateur et PDG d’OpenAI, l’an dernier sur les principes à appliquer pour les ados.

UNE LOI POUR ENCADRER L'IA CHEZ LES JEUNES

En l’absence d’action fédérale aux États-Unis, la Californie a l’opportunité de fixer un standard élevé en matière de sécurité pour les jeunes utilisant l’IA. Dans une lettre adressée au gouverneur Gavin Newsom, OpenAI salue son leadership ainsi que celui du sénateur Steve Padilla, des députés Buffy Wicks et Rebecca Bauer-Kahan, et de l’ensemble de la législature californienne. Le projet SB 1119 s’appuie sur les mesures de sécurité déjà soutenues par OpenAI à travers ses produits, ses principes politiques mondiaux et son travail sur l’Acte pour une IA sûre pour les parents et les enfants. OpenAI encourage le gouverneur Newsom à signer ce projet de loi.

LES ADOS, PREMIÈRE GÉNÉRATION À GRANDIR AVEC L'IA

Les adolescents sont la première génération à grandir avec l’IA. Selon les chiffres d’OpenAI, près de 9 jeunes sur 10 qui utilisent ChatGPT s’en servent chaque semaine pour apprendre, obtenir des informations, développer des compétences ou améliorer leur productivité. Cette opportunité s’accompagne d’une responsabilité claire : les jeunes doivent bénéficier d’expériences conçues en fonction de leurs besoins spécifiques, avec des protections par défaut renforcées et des opportunités adaptées pour apprendre, créer et explorer.

CHATGPT POUR LES ADOS : UN OUTIL SÉCURISÉ PAR DÉFAUT

Pour répondre à ces enjeux, OpenAI a lancé ChatGPT pour les ados, une version spécialement conçue pour les utilisateurs de moins de 18 ans. Ce service aide les jeunes à apprendre, à réfléchir de manière critique et à construire leurs connaissances, tout en promouvant une utilisation saine. Il intègre des protections intégrées et donne aux parents un contrôle supplémentaire. Dès qu’un utilisateur est estimé avoir moins de 18 ans ou déclare avoir entre 13 et 17 ans, il est automatiquement redirigé vers ChatGPT pour les ados. Ces protections ne sont pas des options que l’on peut désactiver : elles font partie de l’expérience de base.

SB 1119 : PROTECTIONS AUTOMATIQUES POUR LES 13-17 ANS

Le projet SB 1119 prévoit que les protections s’appliquent automatiquement aux utilisateurs identifiés comme ayant entre 13 et 17 ans. Cette loi combine une responsabilisation forte avec des mesures de sécurité conçues pour protéger les jeunes lorsqu’ils utilisent l’IA. Elle reconnaît aussi que l’IA n’est pas un réseau social comme les autres. Le texte établit des protections adaptées pour aider les jeunes à utiliser l’IA pour apprendre, créer et explorer, tout en préservant l’accès à des fonctionnalités éducatives et critiques pour la sécurité.

DES FONCTIONNALITÉS CONÇUES POUR LES ADOS

ChatGPT pour les ados propose une série d’outils spécialement conçus pour aider les jeunes à apprendre, comme des quiz, des visualisations d’apprentissage et un mode étude. Ces outils ont été développés avec des éducateurs et des experts en apprentissage pour guider les élèves étape par étape. Ils visent à approfondir la compréhension et à renforcer les habitudes d’apprentissage. Les fonctionnalités qui utilisent le contexte des conversations précédentes, comme la mémoire, aident à appliquer les protections de manière cohérente, à repérer les schémas préoccupants et à offrir un soutien d’apprentissage plus utile au fil du temps.

LA MÉMOIRE DE CHATGPT : UN OUTIL POUR UN APPRENTISSAGE CONTINU

Grâce à des fonctionnalités comme la mémoire, ChatGPT peut conserver des informations et préférences pertinentes d’une conversation à l’autre. Cela permet aux ados de poursuivre des projets d’apprentissage à long terme sans repartir de zéro. Cette continuité aide aussi à éviter de renforcer des schémas nuisibles et à fournir des réponses plus efficaces lorsqu’un jeune a besoin d’aide ou de ressources supplémentaires.

UN ÉQUILIBRE ENTRE SÉCURITÉ ET APPRENTISSAGE

Pour OpenAI, l’équilibre entre sécurité et apprentissage n’est pas nouveau. En un an, l’entreprise a ajouté des contrôles parentaux, une prédiction d’âge, son plan de sécurité pour les ados et des principes pour les moins de 18 ans dans son Modèle de spécifications — les règles qui guident le comportement des modèles. Ces principes interdisent les interactions romantiques, l’encouragement à la dépendance émotionnelle ou les affirmations selon lesquelles ChatGPT serait humain ou conscient. OpenAI propose aussi des contrôles parentaux permettant aux familles de gérer les paramètres clés pour leurs ados et de recevoir des notifications en cas de situations à haut risque.

SB 1119 : UN CADRE POUR LA SÉCURITÉ DE L'IA CHEZ LES JEUNES

Le projet SB 1119 établit un cadre solide pour la sécurité de l’IA chez les jeunes en Californie. Une étude continue et une collaboration pendant la mise en œuvre permettront d’améliorer les dispositions clés et de maintenir l’efficacité du cadre à mesure que la technologie évolue. OpenAI se dit prêt à soutenir ce travail et à continuer de construire des expériences d’IA qui traitent les ados comme des ados, avec des protections automatiques renforcées et des opportunités significatives pour apprendre et grandir.