L'IA qui s'améliore toute seule : le réveil des labos face au danger

LE RAPPORT QUI FAIT FRÉMIR LES LABOS

Il y a encore quelques années, l'expression amélioration récursive (ou RSI, pour recursive self-improvement) relevait de la science-fiction. Aujourd'hui, les laboratoires d'IA les plus avancés observent des signes concrets de ce phénomène en interne, bien plus tôt que prévu. Anthropic vient de publier un rapport intitulé "When AI builds itself" ("Quand l'IA se construit elle-même"), où l'entreprise révèle que l'IA commence déjà à accélérer le travail qui permettra de créer ses propres successeurs. Le rapport met en garde contre les risques des systèmes capables de s'améliorer eux-mêmes, tout en évoquant un scénario surprenant : une pause coordonnée du développement dans toute l'industrie.

CLAUDE, L'IA QUI PREND LE CONTRÔLE DU CODE

Anthropic précise que le RSI n'est pas encore une réalité, ni même inévitable. Pourtant, les chiffres sont édifiants : en mai 2026, plus de 80 % du code fusionné dans les projets d'Anthropic a été écrit par Claude, son modèle d'IA. Les ingénieurs poussent désormais huit fois plus de code par jour au deuxième trimestre 2026 qu'en 2024. Claude s'est tellement intégré dans les processus de développement qu'il pourrait bientôt construire les prochaines versions de lui-même, sans aucune intervention humaine. Jack Clark, co-auteur du rapport, explique : « Chaque nouvelle version de Claude pourrait être construite par la version précédente, sans participation humaine. »

OPENAI OBSERVE LA MÊME TENDANCE

OpenAI a également repéré les premiers signes de ce phénomène dans ses propres systèmes. Dans son document "Democratic Governance of Frontier AI" ("Gouvernance démocratique de l'IA de pointe"), l'entreprise souligne que les premières étincelles du RSI apparaissent déjà dans les technologies actuelles. Anthropic, de son côté, a annoncé qu'elle ralentirait ou suspendrait le développement de ses modèles les plus avancés si les autres laboratoires faisaient de même. Des discussions politiques sont prévues dans les mois à venir pour aborder les questions de recherche, de systèmes et de scénarios possibles.

LE RSI : UNE MENACE OU UNE OPPORTUNITÉ ?

Anthropic et OpenAI ne sont pas les seuls à ressentir les effets du RSI. MiniMax, un autre laboratoire, affirme que son modèle M2.7 a contribué à sa propre amélioration. Des startups entières se spécialisent désormais dans ce boucle d'auto-amélioration, attirées par les gains de productivité. Pourtant, les inconnues liées au RSI sont terrifiantes. Imaginez un système capable de se perfectionner sans limite : comment l'arrêter ? Comment le contrôler ? La question d'une pause mondiale coordonnée reste un défi de taille, car elle repose sur une coopération globale difficile à organiser.

LA MÉMOIRE DE CHATGPT : L'IA QUI VOUS CONNAÎT PAR CŒUR

OpenAI vient de lancer une mise à jour majeure de la mémoire de ChatGPT, intégrant un système en arrière-plan appelé "dreaming" ("rêver"). Ce système transforme les conversations passées en un profil évolutif et organisé par catégories, comme un CV dynamique qui s'enrichit au fil du temps. Désormais, ChatGPT conserve un résumé écrit de chaque utilisateur, classé par thèmes : voyages, loisirs, travail, etc. Plus besoin de listes de faits isolés : l'IA crée une image complète et actualisée de qui vous êtes.

Les utilisateurs peuvent consulter cette mémoire, corriger des informations, ajouter des détails ou demander à ne pas aborder certains sujets. La mémoire se met à jour automatiquement. Selon OpenAI, cette fonctionnalité a fait bondir la précision des réponses de 41,5 % à 82,8 % dans ses évaluations. La capacité à suivre les préférences des utilisateurs est passée de 31,4 % à 71,3 %. "Dreaming" est déployé progressivement pour les abonnés Plus et Pro aux États-Unis, avant d'être étendu aux comptes gratuits et à d'autres pays dans les semaines à venir.

POURQUOI LA MÉMOIRE CHANGE TOUT

La mémoire est une fonctionnalité clé pour l'IA, car elle permet une personnalisation poussée. Sam Altman, le patron d'OpenAI, parle souvent d'un avenir où l'IA sera hyper-personnalisée. "Dreaming" pourrait bien devenir un pilier de cette continuité et de cette proactivité, en rendant l'IA plus utile et en réduisant le risque que les utilisateurs aillent voir la concurrence. L'objectif ? Créer une relation si fluide et si adaptée que l'utilisateur n'a plus envie de changer de service.

TESTER SES IDÉES D'ENTREPRISE EN 5 MINUTES GRÂCE À PERPLEXITY

Un guide pratique pour évaluer rapidement la faisabilité d'une idée d'entreprise : Perplexity Deep Research permet de stress-tester n'importe quel projet en quelques minutes seulement. Voici comment faire :

1. Ouvrez Perplexity et basculez en mode Deep Research (fonctionne avec le plan gratuit : 5 requêtes par jour).
2. Collez ce prompt dans le chat et lancez l'analyse :

"Stress-test cette idée d'entreprise : [insérer votre idée ici]. 
Fais une analyse SWOT, identifie les risques, propose des alternatives et crée une présentation en 6 slides pour convaincre un cofondateur."

3. Laissez Perplexity travailler pendant 5 à 6 minutes. L'outil génère une recherche approfondie et construit un deck de présentation en un seul passage.
4. Enregistrez ce prompt dans un espace dédié sur Perplexity pour le réutiliser facilement.
5. Chaque samedi matin, sélectionnez une idée de votre liste et lancez l'analyse. En un mois, vous évaluerez l'équivalent d'un an d'idées à moitié validées."

GITLAB TRANSCENDS : L'ÉVÉNEMENT POUR LES DÉVELOPPEURS

Du 10 au 11 juin à Londres, GitLab organise Transcends, un événement en direct destiné aux développeurs. Au programme : des démonstrations en direct, des cas d'usage concrets de l'IA agentique, et des sessions axées sur les besoins des développeurs. Parmi les temps forts : The Developer Show, animé par Colleen Lake, ambassadrice des développeurs chez Snerio. L'événement est gratuit et mettra en avant l'orchestration intelligente, désormais enrichie de contexte.

UNE LETTRE OUVERTE POUR RÉGULER L'ADN SYNTHÉTIQUE

Les PDG d'OpenAI, Anthropic, Google DeepMind et Microsoft ont signé une lettre ouverte adressée au Congrès américain. Leur demande ? Obliger les vendeurs d'ADN synthétique à vérifier chaque acheteur et chaque commande. Pourquoi ? Parce que l'IA est désormais capable de concevoir des armes biologiques, et les barrières de connaissance qui protégeaient traditionnellement contre ce risque s'effritent dangereusement.

Les signataires, dont Sam Altman, Dario Amodei, Mustafa Suleyman, Alexandr Wang et Demis Hassabis, ainsi que des leaders de l'industrie de la synthèse d'ADN, expliquent : « Les systèmes d'IA surpassent désormais les virologues de niveau PhD dans la réalisation de procédures techniques en laboratoire. » Ils demandent au Congrès de rendre obligatoire le contrôle des ventes d'ADN synthétique et d'ARN, avec vérification des acheteurs et traçabilité des séquences dangereuses.

POURQUOI C'EST UNE ALERTE MAJEURE

Les risques liés aux armes biologiques font partie des scénarios les plus redoutés depuis des années, comme une étape supplémentaire dans l'amélioration de l'IA. Ce qui est nouveau, c'est que même des figures aussi opposées que Sam Altman et Dario Amodei s'accordent sur la nécessité d'agir. Les lois et régulations devront évoluer rapidement pour s'adapter à un monde où l'IA accélère tout, y compris les dangers. La question reste : ces régulations pourront-elles suivre le rythme ?

LES NOUVELLES PUBLICATIONS QUI FONT PARLER

Dans l'écosystème de l'IA, plusieurs annonces ont marqué la semaine :

• Reve 2.0 : un modèle d'image en 4K avec un nouvel outil d'édition basé sur la mise en page.
• Miso One : un modèle open source de synthèse vocale (TTS) capable de reproduire les tonalités pour des réponses plus expressives.
• Stack : le système de comptabilité IA de Ramp, conçu pour automatiser la gestion mensuelle des livres de comptes.
• Nemotron 3 Ultra : le modèle de raisonnement de Nvidia, open source et doté de 550 milliards de paramètres. Il est 5 fois plus rapide et jusqu'à 30 % moins cher pour les agents, avec des performances comparables aux meilleurs modèles ouverts du marché.

UNE COOPÉRATION INTERNATIONALE POUR BOOSTER LA RECHERCHE

Les États-Unis et le Japon ont annoncé un partenariat de recherche en IA d'un milliard de dollars. Ce duo devient le premier pays à rejoindre la Genesis Mission, une initiative visant à doubler la production scientifique mondiale grâce à l'IA. Cette collaboration marque une étape importante dans la course technologique entre les nations.

LE CANADA LANCE UNE STRATÉGIE NATIONALE POUR L'IA

Le Premier ministre canadien Mark Carney a présenté AI for All, une stratégie nationale sur cinq ans dédiée à l'IA. L'objectif ? Cibler une croissance de 200 milliards de dollars et la création de 250 000 emplois dans le secteur. Cette initiative s'inscrit dans une volonté de rendre l'IA accessible à tous les Canadiens et de positionner le pays comme un leader mondial.

LE TRAFIC BOTS DÉPASSE CELUI DES HUMAINS SUR INTERNET

Matthew Prince, cofondateur de CloudFlare, a révélé une statistique surprenante : le trafic généré par les bots sur internet a désormais dépassé celui des humains. Ce seuil a été atteint un an plus tôt que prévu par les experts. Les robots, qu'ils soient bienveillants ou malveillants, représentent désormais la majorité du trafic en ligne.

UN OUTIL POUR LES PARENTS : L'IA QUI AIDE À ÉLEVER SES ENFANTS

Un lecteur anonyme partage son expérience avec un outil d'IA conçu pour l'aider dans son quotidien de parent. Voici comment il l'utilise :

« J'ai deux jeunes enfants en bas âge, et certaines journées peuvent être très, très difficiles. J'ai programmé une tâche récurrente pour exécuter un prompt prédéfini plusieurs fois par semaine. Ce prompt me fournit des conseils et astuces pour gérer le quotidien. Parfois, il suggère une activité à faire le week-end, d'autres fois, il m'aide à gérer les mauvais comportements, les temps d'arrêt ou la routine du coucher. En résumé, il élargit les options disponibles pour faire face aux différents aspects de la parentalité et m'aide à devenir un meilleur père. »

L'IA AU SERVICE DE LA CRÉATIVITÉ MARKETING

Un atelier est organisé le 18 juin pour apprendre à construire un studio créatif marketing basé sur l'IA. L'événement s'adresse aux professionnels souhaitant intégrer ces outils dans leur stratégie de communication et de création de contenu.

UNE COMMUNAUTÉ DE 2 MILLIONS DE LECTEURS

Le Rundown, la newsletter qui décrypte l'actualité de l'IA, compte désormais plus de deux millions de lecteurs. Parmi eux, des employés d'Apple, d'OpenAI, de la NASA, et bien d'autres. L'objectif ? Permettre aux lecteurs de comprendre pourquoi l'IA compte, et comment l'appliquer dans leur travail quotidien.