Ces IA qui inventent des virus tueurs de bactéries : le danger caché

La plupart des travaux en intelligence artificielle appliquée à la biologie se concentrent sur la conception de protéines. Ces molécules sont essentielles à la vie : elles catalysent les réactions chimiques et structurent les cellules. En modifiant une protéine, on peut donc modifier le fonctionnement d’un organisme. Mais il existe une autre approche : jouer avec l’ADN, la recette qui permet de fabriquer les protéines.

L’ADN est une molécule composée de quatre bases nucléiques : A, T, C et G. Chaque séquence de ces lettres code pour une protéine ou une fonction biologique. Pourtant, les modèles d’IA entraînés sur l’ADN ne semblaient pas capables de produire des résultats utiles au départ. Pourtant, des chercheurs ont poussé l’expérience : ils ont créé des modèles génomiques à grande échelle, des outils capables de générer des séquences d’ADN fonctionnelles.

Ces modèles ont d’abord été utilisés pour produire des protéines fonctionnelles chez les bactéries. Puis, ils ont été poussés plus loin : les chercheurs ont tenté de générer des génomes complets de virus, ces entités qui infectent les cellules pour se reproduire. Et ça a marché. Les virus créés par l’IA sont proches de virus existants, mais avec des caractéristiques distinctes qui n’auraient probablement jamais évolué naturellement.

COMMENT FONCTIONNENT CES MODÈLES D'IA SUR L'ADN ?

Les grands modèles de langage comme ceux utilisés pour les chatbots sont entraînés à prédire le mot suivant dans une phrase. Les modèles génomiques à grande échelle fonctionnent sur le même principe, mais pour l’ADN. Au lieu de mots, ils prédisent la prochaine base nucléique (A, T, C ou G).

Cette tâche semble plus simple que la prédiction de texte, car l’ADN n’utilise que quatre lettres. Pourtant, c’est plus complexe qu’il n’y paraît. Certaines parties du génome sont très sensibles aux changements : une seule base modifiée peut rendre une protéine non fonctionnelle. D’autres régions sont plus flexibles et acceptent plus de variations sans conséquence. Les modèles doivent donc comprendre le contexte biologique de chaque séquence pour prédire correctement la suite.

Par exemple, les gènes bactériens qui ont des fonctions similaires ont tendance à se regrouper dans le génome. Si on donne à un modèle génomique une partie de ce groupe, il peut générer des séquences d’ADN codant pour des protéines aux fonctions liées. Certaines de ces protéines peuvent même ressembler à des protéines jamais observées auparavant.

Mais il y a un problème : notre connaissance des génomes complexes, comme ceux des cellules humaines ou animales, est encore limitée. Si on donne à un modèle une séquence d’une cellule complexe, il peut générer des gènes et des séquences régulatrices qui ressemblent à des gènes réels. Pourtant, comme les gènes peuvent se trouver n’importe où dans ces génomes, on ignore quelle pourrait être leur fonction. Impossible donc de les tester ou de les utiliser en toute sécurité.

POURQUOI LES CHERCHEURS ONT TESTÉ DES VIRUS DE BACTÉRIES ?

Les chercheurs de l’université Stanford, qui ont développé les modèles Evo 1 et Evo 2, ont pris une précaution importante : ils n’ont pas entraîné leurs modèles avec des séquences de virus ciblant des cellules complexes. Même si on ne comprend pas tout ce que ces modèles génèrent, il existe un risque qu’ils produisent quelque chose de dangereux.

Mais il existe un autre monde de virus : ceux qui infectent les bactéries. Ces virus, appelés bactériophages, ne peuvent pas infecter les humains. Les chercheurs ont donc décidé de tester si leurs modèles pouvaient générer des génomes complets de bactériophages. Leur objectif : voir s’ils pouvaient créer des virus fonctionnels, mais sans danger pour l’homme.

Ils ont choisi comme cas d’étude le virus ΦX174, un bactériophage bien connu qui infecte Escherichia coli (E. coli). Ce virus est simple : il ne possède que 11 gènes répartis sur environ 5 400 bases. Chaque gène a une fonction identifiée, et son cycle d’infection est bien compris. De plus, ΦX174 a une particularité utile : sa séquence finale est toujours la même. Cette répétition peut servir de signal pour que le modèle génomique reconnaisse qu’il doit générer une séquence liée à ΦX174.

COMMENT L'IA A CRÉÉ DES VIRUS À PARTIR DE RIEN ?

Pour préparer leurs modèles, Evo 1 et Evo 2 ont été nourris avec plus de 2 millions de bases d’ADN de bactériophages. Ensuite, ils ont été affinés avec des séquences spécifiques à la famille des Microviridae, à laquelle appartient ΦX174. Les chercheurs ont ensuite testé différents types de prompts (instructions données à l’IA).

Si le prompt contenait trop de bases de la séquence de départ de ΦX174, le modèle recrachait simplement le reste du génome. Si le prompt était trop court, il générait des séquences sans lien avec le virus. Après plusieurs essais, les chercheurs ont trouvé que des prompts de 4 à 9 bases fonctionnaient le mieux pour obtenir des résultats pertinents.

Les séquences générées par l’IA pouvaient être très variées : de copies quasi parfaites de ΦX174 à des séquences à peine reconnaissables comme virales. Pour filtrer les résultats, les chercheurs ont appliqué des règles strictes. Par exemple, ΦX174 utilise une protéine de pointe pour s’accrocher aux bactéries. Si le gène codant pour cette protéine était absent ou trop différent, le virus ne pouvait pas fonctionner. Ils ont donc éliminé toutes les séquences où cette protéine était à moins de 60 % identique à la version originale.

Ils ont aussi rejeté les virus trop longs ou trop courts (moins de 4 000 bases ou plus de 6 000), ceux qui avaient des répétitions de plus de 10 bases identiques à la suite, et ceux dont les proportions de bases GC et AT étaient inhabituelles. Après ce filtrage, il restait 302 séquences virales potentielles. Les chercheurs ont pu synthétiser chimiquement 285 d’entre elles et les ont insérées dans des bactéries pour observer leur effet.

CE QUE LES VIRUS CRÉÉS PAR L'IA ONT DE SPÉCIAL

Les virus conçus par l’IA ressemblaient souvent à ΦX174, mais avec des différences notables. Parmi les 285 virus testés, seuls 16 (soit 5,6 %) étaient viables. Mais si on ne regardait que les virus les plus proches de ΦX174 (ceux avec une similarité de séquence de 98 % ou plus), la viabilité montait à 46 %. Autrement dit, plus un virus ressemble à ΦX174, plus il a de chances de fonctionner.

La plupart des virus viables possédaient les mêmes gènes que ΦX174. Aucun n’avait de mutation dans la région où commence la duplication du génome viral. Cela confirme une règle connue : même une seule modification d’une base, changeant un seul acide aminé dans une protéine, a en moyenne 20 % de chances d’inactiver le virus. ΦX174 est donc très sensible aux changements.

Pourtant, les virus conçus par l’IA présentaient des différences individuelles marquées. L’un d’eux avait perdu une protéine virale entière, compensant cette perte par des modifications ailleurs dans le génome. Un autre avait ajouté un gène entièrement nouveau. Beaucoup avaient des gènes plus longs ou plus courts que l’original. L’un d’eux avait même remplacé un gène de ΦX174 par un gène d’un virus très éloigné.

Les chercheurs ont fait un calcul intéressant. Ils ont estimé que chaque changement d’un acide aminé avait 20 % de chances d’inactiver le virus. Selon cette logique, un virus avec moins de 25 changements avait seulement 2,3 % de chances d’être viable. Pourtant, sur les 300 virus générés par l’IA, cinq avaient moins de 25 changements, et trois d’entre eux étaient viables. À l’inverse, près d’un quart des virus avec plus de 25 changements étaient viables, y compris deux qui en avaient plus de 50. Cela montre que l’IA est bien plus efficace que le hasard pour concevoir des virus fonctionnels.

UNE AVANCÉE POUR LES THÉRAPIES PAR BACTÉRIOPHAGES

Cette étude n’est pas seulement théorique. Elle pourrait avoir des applications pratiques. Les bactériophages sont étudiés comme traitements contre les infections bactériennes résistantes aux antibiotiques. Cependant, certaines souches de bactéries ont déjà développé une résistance à des familles de bactériophages, y compris ΦX174.

Une solution possible est d’utiliser un cocktail de bactériophages : comme il est difficile pour une bactérie de résister à plusieurs virus en même temps, cette approche pourrait contourner le problème de la résistance. Et c’est exactement ce que l’IA a produit : un cocktail de 16 virus viables.

Les chercheurs ont comparé l’efficacité d’un cocktail naturel de bactériophages contre E. coli à un cocktail composé des 16 virus conçus par l’IA. Le cocktail naturel a échoué, mais le cocktail de l’IA a rapidement développé la capacité d’infecter des hôtes autrement résistants. Les chercheurs pensent que cela est dû à des échanges de segments d’ADN entre les virus conçus par l’IA et l’apparition de mutations supplémentaires.

Cependant, il n’est pas certain que cette avancée soit majeure. Les thérapies par bactériophages sont étudiées depuis des années, mais elles ne sont pas encore largement utilisées malgré l’augmentation des souches bactériennes résistantes aux antibiotiques. Les auteurs de l’étude soulignent aussi les risques liés aux modèles génomiques à grande échelle. Bien qu’ils aient exclu les virus ciblant les vertébrés de leurs données d’entraînement, rien n’empêche quelqu’un d’autre de refaire la même expérience avec ces virus.

LES RISQUES : UNE IA QUI PEUT TOUT CRÉER

L’étude se termine par un appel à une meilleure régulation de ces outils et de domaines connexes, comme la commande de séquences d’ADN sur mesure. Pour l’instant, la régulation de l’IA n’a pas réussi à suivre le rythme effréné de cette technologie. Les risques sont réels : même si les chercheurs ont pris des précautions, leurs modèles pourraient générer des séquences dangereuses si on les entraînait avec les mauvaises données.

Le danger ne vient pas seulement des virus conçus pour infecter les bactéries. Les mêmes techniques pourraient être appliquées à des virus ciblant les humains. Et si une IA malveillante ou un acteur mal intentionné avait accès à suffisamment de ressources informatiques, il pourrait concevoir un virus capable de se propager chez l’homme. La question n’est plus de savoir si c’est possible, mais quand cela arrivera.

UNE RÉVOLUTION DANS LA CONCEPTION DE VIRUS

Cette étude montre que les modèles génomiques à grande échelle ne sont pas seulement des outils de recherche. Ils pourraient devenir des instruments puissants pour concevoir des virus, des protéines ou d’autres molécules biologiques. Mais avec ce pouvoir vient une grande responsabilité. Les chercheurs appellent à une réflexion urgente sur la manière de réguler ces technologies pour éviter des conséquences imprévues.

Les virus conçus par l’IA pourraient un jour être utilisés pour lutter contre des infections résistantes aux antibiotiques. Mais ils pourraient aussi être détournés pour créer des armes biologiques. La frontière entre innovation et danger est mince, et il est crucial de la surveiller de près.

CE QUE ÇA CHANGE POUR L'AVENIR

Cette avancée marque un tournant dans la biologie synthétique et l’intelligence artificielle. Pour la première fois, une IA a conçu des virus fonctionnels à partir de rien. Cela ouvre la porte à des applications médicales, mais aussi à des risques inédits. Les modèles génomiques pourraient révolutionner la médecine, l’agriculture ou l’industrie. Mais ils pourraient aussi être utilisés à des fins malveillantes.

Les chercheurs soulignent l’importance de la régulation. Les séquences d’ADN synthétiques sont déjà réglementées dans certains pays, mais ces règles sont souvent insuffisantes. Avec l’arrivée de l’IA, il devient encore plus urgent de renforcer ces cadres pour éviter que ces outils ne tombent entre de mauvaises mains.

Cette étude n’est qu’un début. Les modèles génomiques à grande échelle vont continuer à évoluer, et leurs capacités vont s’améliorer. Il est donc crucial de réfléchir dès maintenant à la manière de les encadrer pour en tirer le meilleur parti sans mettre en danger la société.

UN APPEL À L'ACTION POUR LES GOUVERNEMENTS

Les auteurs de l’étude appellent à une meilleure gouvernance de l’IA et des technologies connexes. Ils soulignent que la régulation actuelle ne suit pas le rythme des avancées technologiques. Pourtant, les risques sont réels et potentiellement catastrophiques. Sans une régulation adaptée, des acteurs mal intentionnés pourraient exploiter ces outils pour créer des virus dangereux.

Les gouvernements et les organisations internationales doivent agir rapidement pour mettre en place des cadres réglementaires stricts. Cela inclut le contrôle des séquences d’ADN synthétiques, la surveillance des modèles génomiques à grande échelle, et la coopération internationale pour éviter que ces technologies ne soient utilisées à des fins malveillantes.

Cette étude est un avertissement. Elle montre que l’IA peut déjà concevoir des virus fonctionnels, et qu’il est urgent de prendre des mesures pour éviter des conséquences imprévues. La technologie évolue plus vite que la régulation, et il est temps de combler cet écart avant qu’il ne soit trop tard.

LES LIMITES ACTUELLES DE CES MODÈLES

Malgré leurs succès, les modèles génomiques à grande échelle ont encore des limites. Par exemple, ils ne peuvent pas prédire avec certitude la fonction d’un gène dans un génome complexe. De plus, leurs sorties doivent être soigneusement filtrées pour éviter de générer des séquences dangereuses ou non fonctionnelles. Enfin, leur utilisation nécessite des ressources informatiques importantes, ce qui limite leur accessibilité.

Cependant, ces limites ne sont pas insurmontables. Avec l’amélioration des algorithmes et l’augmentation des ressources disponibles, ces outils pourraient devenir encore plus puissants. Il est donc crucial de continuer à les étudier et à les encadrer pour en maximiser les bénéfices et en minimiser les risques.

UNE NOUVELLE ÈRE POUR LA BIOLOGIE SYNTHÉTIQUE

Cette étude marque le début d’une nouvelle ère pour la biologie synthétique. Les modèles génomiques à grande échelle pourraient permettre de concevoir des organismes sur mesure, des protéines inédites ou des thérapies innovantes. Mais ils ouvrent aussi la porte à des risques biologiques sans précédent.

Les chercheurs appellent à une collaboration entre scientifiques, gouvernements et industriels pour encadrer ces technologies. L’objectif n’est pas de freiner l’innovation, mais de s’assurer que celle-ci se fasse de manière sûre et responsable. La biologie synthétique et l’IA sont des outils puissants, mais leur utilisation doit être guidée par une éthique solide et une régulation adaptée.

CE QUE LES PARENTS ET LES ÉLÈVES DOIVENT SAVOIR

Cette étude montre à quel point l’intelligence artificielle et la biologie sont devenues des domaines interconnectés. Les modèles génomiques à grande échelle pourraient un jour permettre de concevoir des médicaments sur mesure, de lutter contre des maladies génétiques ou de créer des cultures résistantes aux parasites. Mais ils pourraient aussi être utilisés pour créer des armes biologiques.

Pour les jeunes, cette avancée est une invitation à explorer ces domaines. La biologie synthétique et l’IA offrent des opportunités incroyables pour innover et résoudre des problèmes globaux. Mais elles nécessitent aussi une réflexion éthique et une compréhension des risques. Les écoles et les universités doivent intégrer ces sujets dans leurs programmes pour préparer les générations futures à ces défis.

LES PROCHAINES ÉTAPES POUR LA RECHERCHE

Les chercheurs de Stanford prévoient de continuer à explorer les capacités des modèles génomiques à grande échelle. Ils veulent améliorer leur compréhension des séquences générées et affiner leurs méthodes de filtrage pour éviter les résultats dangereux. Ils étudient aussi comment ces outils pourraient être utilisés pour concevoir des protéines inédites ou des thérapies innovantes.

À plus long terme, l’objectif est de créer des modèles capables de prédire avec précision la fonction des gènes dans des génomes complexes. Cela ouvrirait la porte à des applications médicales révolutionnaires, comme la conception de vaccins sur mesure ou de traitements contre des maladies génétiques.

Mais avant cela, il reste beaucoup de travail à faire. Les chercheurs doivent comprendre comment ces modèles fonctionnent, quelles sont leurs limites et comment les rendre plus sûrs. Et surtout, ils doivent travailler avec les gouvernements et la société pour s’assurer que ces outils sont utilisés de manière responsable.

UN AVERTISSEMENT POUR L'HUMANITÉ

Cette étude est un avertissement. Elle montre que l’intelligence artificielle peut déjà concevoir des virus fonctionnels, et qu’il est urgent de prendre des mesures pour éviter des conséquences imprévues. Les modèles génomiques à grande échelle sont des outils puissants, mais ils pourraient aussi devenir des armes si on ne les encadre pas correctement.

Les gouvernements, les scientifiques et la société civile doivent travailler ensemble pour réguler ces technologies. Il ne s’agit pas de freiner l’innovation, mais de s’assurer que celle-ci se fasse de manière sûre et responsable. L’avenir de la biologie synthétique et de l’IA dépend de notre capacité à trouver un équilibre entre progrès et précaution.

CONCLUSION : INNOVER SANS RISQUER L'IRRÉVERSIBLE

Les virus conçus par l’IA représentent une avancée majeure, mais aussi un risque sans précédent. Ces outils pourraient révolutionner la médecine, l’agriculture ou l’industrie. Mais ils pourraient aussi être détournés pour créer des armes biologiques ou des pathogènes dangereux.

Les chercheurs appellent à une régulation urgente et à une réflexion éthique sur l’utilisation de ces technologies. L’objectif n’est pas de diaboliser l’IA ou la biologie synthétique, mais de s’assurer que leurs bénéfices l’emportent sur leurs risques. L’humanité doit apprendre à maîtriser ces outils avant qu’ils ne la maîtrisent.

Cette étude est un rappel : le progrès technologique ne doit jamais être une fin en soi. Il doit toujours servir l’intérêt général, et non les intérêts d’une minorité ou les desseins malveillants. L’avenir de l’IA et de la biologie synthétique est entre nos mains. À nous de décider comment les utiliser.