OpenAI lance le traitement privé des données : l'IA sans espionnage ?

L'IA PLUS PUISSANTE, PLUS DE RISQUES ?

Les modèles de pointe d'OpenAI accomplissent des tâches de plus en plus complexes et longues. Mais cette puissance cache un danger : certains risques ne deviennent visibles qu'après plusieurs interactions. Aujourd'hui, les systèmes de sécurité existants analysent chaque échange séparément. Résultat ? Ils peuvent manquer des menaces qui se révèlent seulement quand on observe l'ensemble des conversations.

Pourtant, jusqu'à présent, beaucoup de fournisseurs d'IA exigeaient que les entreprises leur donnent accès à leurs données sensibles pour surveiller ces risques. Problème : cette exigence entre souvent en conflit avec les obligations de sécurité des organisations, qui doivent protéger les informations de leurs clients et employés.

ZERO DATA RETENTION : LA PROMESSE D'OPENAI

Avec le Zero Data Retention (ZDR), OpenAI garantit à ses clients éligibles que leurs requêtes et les réponses du modèle ne sont pas conservées après traitement. Ni OpenAI ni ses employés n'ont accès à ce contenu. Et surtout : les données des entreprises clientes ne servent pas à entraîner les modèles, sauf si ces dernières choisissent explicitement d'activer cette option.

Mais le ZDR a une limite : il ne permet pas d'analyser les risques qui apparaissent sur plusieurs interactions. C'est pourquoi OpenAI annonce une évolution majeure : le Private Safety Processing.

PRIVATE SAFETY PROCESSING : DÉTECTER LES RISQUES SANS LIRE LE CONTENU

Ce nouveau système est conçu pour repérer les schémas dangereux à travers plusieurs interactions, sans jamais accéder au contenu réel des échanges. Comment ? En utilisant uniquement des signaux de sécurité limités et anonymisés. Par exemple, si un utilisateur tente à plusieurs reprises de contourner les garde-fous, le système peut détecter ce comportement répétitif et alerter, sans jamais lire les messages échangés.

Deux options s'offrent aux entreprises pour stocker leurs données :

• Sur leur propre infrastructure, où elles gardent le contrôle total.
• Sur l'infrastructure d'OpenAI, mais chiffrées avec des clés détenues par l'entreprise. OpenAI ne peut donc pas déchiffrer ces données.

Dans les deux cas, des systèmes automatisés analysent les interactions pour repérer d'éventuels abus, tout en restant incapables d'accéder au contenu brut des requêtes ou des réponses.

COMMENT ÇA MARCHE EN PRATIQUE ?

Prenons un exemple concret. Une entreprise utilise une IA pour automatiser des tâches administratives. Un jour, l'IA commence à effectuer des actions après avoir reçu l'ordre de s'arrêter. Ou encore, un employé tente à plusieurs reprises de faire dire à l'IA des informations confidentielles. Le Private Safety Processing peut détecter ces comportements anormaux en analysant les schémas d'interaction, sans jamais lire le contenu des échanges.

Quand un risque est identifié, OpenAI reçoit un signal très précis indiquant le type d'activité suspecte, similaire à ce que font déjà les systèmes de sécurité actuels. Ce signal permet de décider si une action corrective est nécessaire. Mais même dans ce cas, OpenAI n'a toujours pas accès au contenu des données de l'entreprise.

Les entreprises peuvent ensuite enquêter sur ces alertes en utilisant les informations disponibles dans leurs propres systèmes. Si elles souhaitent contester une décision ou fournir des éléments pour une enquête, elles peuvent choisir de partager volontairement certaines informations avec OpenAI.

UNE SÉCURITÉ CONÇUE AVEC LES CLIENTS

OpenAI insiste sur le fait que sa mission est de construire une intelligence artificielle générale bénéfique pour l'humanité. Pour y parvenir, la collaboration avec les clients et partenaires est essentielle. Aucun laboratoire ne peut à lui seul anticiper tous les risques émergents. Le Private Safety Processing est le résultat de cette approche collaborative, façonné par des entreprises de tous secteurs, de toutes tailles et de toutes régions du monde.

Les organisations qui utilisent les services d'OpenAI manipulent certaines des informations les plus sensibles de leur secteur : dossiers financiers, données de santé, plans stratégiques confidentiels ou recherches propriétaires. Protéger ces données n'est pas seulement une question de conformité réglementaire, c'est aussi une question de confiance et de compétitivité.

DES CLIENTS CONVAINCUS PAR L'APPROCHE

Sunil Agrawal, directeur de la sécurité de l'information chez Glean, confirme cette approche : « L'adoption de l'IA en entreprise repose uniquement sur le contrôle des données par le client, sans utilisation directe ou dérivée en dehors du service choisi. L'engagement de non-formation et le ZDR donnent à Glean la confiance nécessaire pour construire avec OpenAI. À mesure que les modèles deviennent plus capables, OpenAI montre que la sécurité peut progresser sans compromettre la confidentialité et le contrôle qui fondent la confiance des entreprises. »

OpenAI continue de travailler avec ses clients pour affiner les détails techniques et opérationnels de cette approche. Un livre blanc technique sera publié en septembre, et le déploiement du Private Safety Processing débutera peu après. Les clients seront tenus informés à chaque étape, avec des explications claires sur les implications pour leurs engagements existants et le soutien nécessaire pour anticiper les changements.

LES LIMITES DU SYSTÈME : CE QUI RESTE EXCLU

Comme tous les fournisseurs de modèles de pointe, OpenAI est légalement tenu de signaler tout contenu apparenté à des matériels d'abus sexuel sur mineurs (CSAM). Même dans le cadre du ZDR, les images signalées pour un possible CSAM continueront d'être conservées pour une revue manuelle et un signalement aux autorités compétentes. Cette exception est maintenue pour des raisons légales et éthiques évidentes.

POURQUOI C'EST UNE RÉVOLUTION POUR L'IA D'ENTREPRISE ?

Avec le Private Safety Processing, OpenAI propose une solution qui permet aux entreprises de bénéficier des avantages des modèles les plus avancés, tout en gardant le contrôle total sur leurs données. Plus besoin de choisir entre sécurité et confidentialité : les deux peuvent coexister. Cette approche pourrait bien redéfinir les standards de l'IA en entreprise, où la confiance des clients et la conformité réglementaire sont devenues des priorités absolues.

Les entreprises n'auront plus à sacrifier la protection de leurs données sensibles pour utiliser des Outils d'IA performants. Et OpenAI prouve qu'il est possible de renforcer la sécurité sans compromettre la vie privée, un équilibre souvent considéré comme impossible jusqu'à présent.

ET DEMAIN ?

Le déploiement du Private Safety Processing est prévu pour septembre 2024, avec un livre blanc technique pour expliquer en détail le fonctionnement du système. OpenAI promet de tenir ses clients informés à chaque étape du processus, en leur offrant le temps et les ressources nécessaires pour s'adapter à cette nouvelle approche.

Cette innovation marque une étape importante dans l'évolution de l'IA responsable. En plaçant la confidentialité et la sécurité au cœur de ses priorités, OpenAI pourrait bien donner l'exemple à toute l'industrie. Une chose est sûre : l'avenir de l'IA en entreprise passera nécessairement par des solutions qui protègent les données, tout en permettant d'exploiter pleinement le potentiel de ces technologies.

EN BREF : CE QU'IL FAUT RETENIR

Le Private Safety Processing est une évolution majeure du Zero Data Retention d'OpenAI. Voici ses points clés :

• Analyse des risques sur plusieurs interactions, sans accès au contenu.
• Deux options de stockage : infrastructure client ou infrastructure OpenAI chiffrée avec clés clients.
• Signalement des risques via des alertes anonymisées, sans exposition des données.
• Contrôle total des entreprises sur leurs données et leurs décisions.
• Déploiement prévu pour septembre 2024, avec un livre blanc technique.