Les questions brûlantes de l'Institut Anthropic sur l'IA de demain

POURQUOI UN INSTITUT AU CŒUR D'UN LABORATOIRE DE POINTE ?

Au The Anthropic Institute (TAI), l’équipe exploite les informations accessibles depuis un laboratoire de pointe pour étudier l’impact de l’IA sur le monde et partager ses découvertes avec le public. Cet article présente les questions qui motivent son programme de Recherche. Dans un texte fondateur sur la sécurité de l’IA, l’institut a souligné que la recherche efficace en sécurité exigeait un contact étroit avec les systèmes d’IA les plus avancés. La même logique vaut pour analyser les impacts de l’IA sur la sécurité, l’économie et la société.

Chez Anthropic, des signaux précoces montrent que des métiers comme le développement logiciel se transforment radicalement. L’économie interne d’Anthropic commence à se modifier, de nouvelles menaces émergent des systèmes construits, et l’on observe les premiers indices d’une IA qui accélère la recherche et le développement de l’IA elle-même. Pour tirer pleinement parti des progrès de l’IA, TAI souhaite partager un maximum de ces informations et étudie comment ces dynamiques pourraient façonner le monde extérieur, et comment le public peut orienter ces changements.

PARTAGER DONNÉES ET OUTILS POUR UNE RECHERCHE OUVERTE

TAI étudie les impacts concrets de l’IA depuis sa position privilégiée au sein d’un laboratoire de pointe, puis publie ses conclusions pour aider les organisations extérieures, les gouvernements et le public à prendre de meilleures décisions. L’institut partage des données, recherches et outils afin de faciliter le travail des chercheurs et institutions sur ces questions. Cela inclut :

INFLUER SUR LES DÉCISIONS D'ANTHROPIC

TAI pèse sur les choix d’Anthropic. Cela peut se traduire par le partage de données que l’entreprise n’aurait pas diffusées autrement – comme l’Indice Économique Anthropic – ou par une approche différente de la mise à disposition de technologies, à l’image des analyses de cybermenaces qui alimentent des initiatives telles que le Project Glasswing.

UN PILIER POUR LA CONFIANCE À LONG TERME

Les travaux de TAI devraient devenir des contributions essentielles au Long-Term Benefit Trust (LTBT) d’Anthropic. La mission du LTBT est de garantir qu’Anthropic optimise en permanence ses actions pour le bénéfice à long terme de l’humanité. Ce programme de recherche a été élaboré avec le LTBT ainsi qu’avec des employés de toute l’entreprise.

UN AGENDA VIVANT ET UNE INVITATION À COLLABORER

Il s’agit d’un agenda évolutif, pas figé. Les questions seront ajustées au fur et à mesure que les preuves s’accumulent, et de nouvelles interrogations émergeront. L’institut accueille les retours et révisera son programme à la lumière des échanges. Ceux qui souhaitent participer peuvent postuler au programme Anthropic Fellow, une bourse de quatre mois pour aborder ces questions avec le mentorat de l’équipe TAI. Les détails et candidatures sont disponibles en ligne.

L'ÉCONOMIE BOULEVERSÉE PAR LE DÉPLOIEMENT DE L'IA

Comprendre comment le déploiement de systèmes d’IA toujours plus puissants transforme l’économie est crucial. Il faut aussi développer les données et la capacité prédictive nécessaires pour choisir de déployer l’IA de manière bénéfique pour le public. Pour répondre aux questions de ce pilier de recherche, TAI approfondira les données de l’Indice Économique Anthropic et explorera d’autres méthodes pour affiner les modèles sur l’impact de l’IA puissante – qu’il s’agisse de pertes d’emplois, de croissance économique sans précédent ou d’autres effets.

LES CAPACITÉS À DOUBLE USAGE : LE REVERS DE LA MÉDAILLE

Les systèmes d’IA ont tendance à progresser dans de multiples capacités simultanément, y compris des capacités à double usage. Un système qui s’améliore en biologie devient aussi meilleur pour créer des armes biologiques. Les IA performantes en programmation le sont aussi en piratage informatique. Mieux comprendre les menaces que l’IA peut exacerber aide la société à devenir plus résiliente face à ce nouveau paysage de risques.

PARTENARIATS ET SYSTÈMES D'ALERTE PRÉCOCE

Ces questions visent à développer des partenariats pour améliorer la résilience mondiale face à une IA transformatrice, et à mettre en place des systèmes d’alerte précoce pour les menaces émergentes. Nombre d’entre elles alimenteront le programme de recherche de la Frontier Red Team.

L'INTERACTION HUMAIN-IA, SOURCE DE CHANGEMENTS SOCIÉTAUX

L’interaction entre les humains, les organisations et les systèmes d’IA sera une source majeure de changements sociétaux. Comprendre comment l’IA peut modifier les personnes et les institutions qui interagissent avec elle est un axe central pour l’équipe Impacts Sociétaux de TAI. Pour étudier ces transformations, elle fait évoluer ses outils existants et en crée de nouveaux, allant de logiciels pour une meilleure observabilité de sa plateforme à des outils pour mener des enquêtes qualitatives à grande échelle.

L'IMPACT DE L'IA SUR LES INDIVIDUS ET LES SOCIÉTÉS

À mesure que les systèmes d’IA gagnent en puissance, les scientifiques les utilisent pour mener une part croissante de leurs recherches. Ainsi, de plus en plus de recherches scientifiques se déroulent de manière autonome ou semi-autonome, avec de moins en moins de supervision humaine. Dans le domaine de l’IA elle-même, des systèmes de plus en plus performants pourraient servir à développer leurs propres versions successeurs. On parle parfois de « R&D de l’IA par l’IA ».

UN DIVIDENDE NATUREL : L'IA QUI CONÇOIT L'IA

La R&D de l’IA par l’IA pourrait être un « dividende naturel » de la création de systèmes toujours plus intelligents et capables. Tout comme les progrès en programmation ont conduit à des capacités cybernétiques duales, et les avancées scientifiques à des capacités biologiques duales, les progrès dans les travaux techniques complexes pourraient naturellement aboutir à des systèmes d’IA capables de développer d’autres IA.

LE DANGER D'UNE ACCÉLÉRATION INCONTRÔLÉE

La R&D de l’IA par l’IA recèle un potentiel de danger considérable. Alors que les décideurs politiques évaluent les leviers à actionner, il sera crucial de comprendre comment le rythme des progrès de l’IA évolue, et si la recherche en IA pourrait bientôt connaître un rendement composé.