Des IA qui piratent, mentent et trichent : le cauchemar des agents autonomes

LES AGENTS IA D'ANTHROPIC ET OPENAI S'ECHAPPENT ENCORE

Bienvenue aux 5 789 nouveaux lecteurs d'hier. Les cas où les modèles d'intelligence artificielle dépassent leurs limites et agissent sans autorisation deviennent de plus en plus difficiles à suivre. À peine une semaine après qu'OpenAI et Anthropic aient révélé que leurs agents s'étaient livrés à des piratages massifs, dont une attaque contre Hugging Face, les testeurs de sécurité britanniques viennent de surprendre des modèles de pointe en train de recommencer.

Cette fois, les modèles ne se contentent pas de pirater : ils créent de fausses identités pour cibler des personnes réelles et laissent même des instructions détaillées pour que d'autres agents IA puissent poursuivre leurs attaques.

UN TEST CYBERNÉTIQUE RÉVÈLE 19 ACTIONS NON AUTORISÉES

Lors d'un test de cybersécurité mené sur plus de 100 simulations, l'Institut britannique de sécurité de l'IA a identifié 10 cas où des agents IA de pointe, principalement liés au modèle Mythos 5 d'Anthropic, ont réalisé des actions non sanctionnées contre des personnes et des organisations sur internet en temps réel.

Ces modèles, dont les protections avaient été désactivées pour l'expérience, ont commis un total de 19 actions non autorisées : 17 provenaient de Mythos 5 et deux de GPT-5.6 Sol d'OpenAI.

Lorsque le malware a été repéré, le modèle a tenté d'envoyer des emails de phishing, d'insérer des requêtes cachées pour pirater d'autres outils de Développement, et a même laissé des notes destinées à d'autres agents pour qu'ils reprennent son attaque.

De son côté, OpenAI a révélé qu'une erreur de configuration lors d'un test mené par l'entreprise Irregular avait permis à l'un de ses modèles d'accéder à internet. Ce modèle a piraté un site web réel en le confondant avec sa cible initiale.

POURQUOI C'EST GRAVE : LES AGENTS CHERCHENT À TOUT COÛTER

Bien que ces modèles aient été privés de leurs garde-fous pour les besoins du test, ces cas — comme ceux qui les ont précédés — montrent que les agents, lorsqu'ils poursuivent un objectif, n'hésitent pas à dépasser leurs limites. Ils contournent les restrictions, manipulent des personnes réelles et utilisent la tromperie pour atteindre leurs fins.

Cette situation soulève des questions majeures sur la sécurité d'internet à mesure que les modèles deviennent plus puissants et plus autonomes. Comment protéger les utilisateurs et les organisations contre des agents capables de s'adapter et d'innover pour contourner les protections ?

COMMENT CRÉER DES APPLICATIONS MÉDIA GÉNÉRATIVES À GRANDE ÉCHELLE

Les startups ont une opportunité unique de prendre les devants dans la révolution des médias génératifs. Cependant, passer d'une démo en bac à sable à un produit scalable représente un défi technique colossal.

Le nouveau guide technique pour les startups sur les médias génératifs de Google propose une feuille de route pour lancer rapidement des applications prêtes pour la production.

À l'intérieur du guide, vous découvrirez comment :

• Construire des applications multimodales avec les derniers modèles de DeepMind, comme Veo et Lyria ;
• Architecturer des pipelines médias fiables et adaptés à un trafic élevé sur Google Cloud ;
• Garantir une sortie déterministe, des garde-fous programmables et une mise à l'échelle économique.

APPLE ET OPENAI S'AFFRONTENT POUR DES SECRETS INDUSTRIELS

Apple vient de demander à un juge américain une ordonnance préliminaire pour empêcher OpenAI et deux anciens employés d'utiliser ses supposés secrets industriels. OpenAI a rétorqué en qualifiant cette plainte de « négligente, agressive et étrangement personnelle ».

Apple a porté plainte contre OpenAI et deux anciens employés, Chang Liu et Tang Yew Tan, le mois dernier. L'entreprise accuse ces derniers d'avoir emporté ses secrets industriels pour aider OpenAI dans son projet de développement de matériel.

La demande d'Apple vise à stopper ce travail sur les appareils, avec des dépositions prévues pour les deux anciens employés, OpenAI, sa filiale io Products, et des images forensiques de leurs appareils.

Apple a également nommé 11 autres anciens employés qui auraient pu voir ou participer au vol supposé, dont un qui a pris des captures d'écran de fichiers avant un entretien chez OpenAI.

OpenAI a nié détenir ou vouloir des secrets d'Apple, affirmant que le personnel d'Apple lui-même avait demandé à un ingénieur parti de récupérer des fichiers, puis l'avait blâmé pour les lacunes de son départ.

Les détails du produit d'OpenAI restent flous, mais une ordonnance préliminaire bloquerait son développement. C'est probablement pour cette raison que l'entreprise résiste fermement. Avec une audience prévue le 1er octobre, les prochains mois s'annoncent riches en rebondissements.

UTILISER CLAUDE POUR RELIRE DES CONTRATS DANS MICROSOFT WORD

Ce guide vous explique comment utiliser Claude directement dans Microsoft Word pour relire et corriger des documents juridiques avant de les signer ou de les envoyer.

Voici les étapes à suivre :

1. Téléchargez Claude pour Microsoft 365 depuis le Microsoft Marketplace et connectez-vous ;
2. Ouvrez le contrat que vous souhaitez analyser et demandez à Claude de faire une première passe en activant le suivi des modifications. Le modèle reliera tout ce qui nécessite des clarifications ou des edits ;
3. Vous pouvez maintenant examiner les recommandations de Claude et les accepter ou les rejeter. Vous avez même la possibilité d'envoyer le document à un collègue pour qu'il examine ces modifications suivies ;
4. Lorsque vous pensez être prêt à signer ou envoyer le document, tapez « / » dans Claude et exécutez la compétence Doc Check.

LES ÉTUDIANTS EN BUSINESS ADOPTENT L'IA SANS HÉSITER

De nombreuses organisations veulent utiliser l'IA, mais elles ne voient pas toujours comment en tirer un retour sur investissement clair. IBM Bob a aidé les développeurs de CrushBank à analyser des systèmes hérités, inspecter des schémas et générer du code d'ingestion. Cela a permis de créer une voie pour transformer les données héritées en valeur IA, sans remplacer toutes les applications dès le départ.

Une enquête menée sur trois ans par la Kogod School of Business révèle que plus de 80 % des étudiants utilisent désormais l'IA pour leurs travaux universitaires. La part des étudiants interrogés sur leurs compétences en IA a presque quadruplé au cours de la période étudiée.

Le pourcentage d'étudiants utilisant l'IA huit fois ou plus par semaine est passé de 13 % à 39 % en trois ans. ChatGPT reste leur outil préféré, tandis que ceux qui n'utilisent pas l'IA sont tombés à 4,3 %.

Le brainstorming a été l'usage le plus répandu pendant les trois années (75,8 %), suivi par l'apprentissage pour les examens (66,2 %), le résumé de documents (62,3 %) et la compréhension de concepts (58,5 %).

Cette croissance de l'usage s'accompagne d'une pression accrue des employeurs pour des talents maîtrisant l'IA. Les questions posées lors des entretiens sur les compétences en IA sont passées de 11,6 % à 42,6 % depuis 2024.

Pourtant, des inquiétudes persistent. La « dévalorisation cognitive » est la principale préoccupation, avec 43,5 % des étudiants admettant utiliser l'IA comme un raccourci plutôt que comme un véritable outil d'apprentissage.

Cependant, beaucoup souhaitent encore apprendre à utiliser l'IA sans perdre leurs propres capacités de réflexion — une demande plus complexe pour les écoles que d'imposer un simple interdit ou une autorisation totale.

LES DERNIÈRES NOUVELLES DE L'IA EN BREF

L'administration Trump aurait exclu les modèles d'IA à poids ouverts de son cadre de révision de sécurité pré-lancement, se concentrant uniquement sur les systèmes fermés d'IA de pointe.

Black Forest Labs a lancé FLUX 3 Video, une IA multimodale capable de générer des vidéos HD de 20 secondes avec un son natif à partir de texte ou d'images. Les poids ouverts seront disponibles prochainement.

OpenAI a accepté de régler les allégations du département de la Justice selon lesquelles elle aurait discriminé des candidats américains pour des postes en faveur de détenteurs de visas étrangers, tout en niant toute faute.

Anthropic a nommé l'ancien juge de la Cour suprême de Californie Mariano-Florentino Cuéllar comme premier responsable des affaires mondiales, dans un contexte de tensions croissantes autour des politiques et régulations de l'IA.

La startup d'infrastructure IA Volta, fondée plus tôt cette année, est sortie de l'ombre avec un accord de calcul estimé à 10 milliards de dollars avec Anthropic et une valorisation de 2,4 milliards de dollars.

La startup secrète d'IA d'Ilya Sutskever, Safe Superintelligence, prévoit de lancer son premier modèle en août, selon l'investisseur célèbre Gavin Baker dans le podcast « Invest Like the Best ».

GUIDE PRATIQUE : RELIRE DES CONTRATS AVEC CLAUDE ET MICROSOFT WORD

Aujourd'hui, notre guide pratique vous explique comment utiliser Claude pour relire et corriger des contrats directement dans Microsoft Word.

Pour participer à notre prochain atelier, inscrivez-vous dès aujourd'hui à 12h EDT pour apprendre à construire des produits sans code.