Les chercheurs en IA de l'université jouent-ils les seconds rôles ?

UNE RENCONTRE AU SOMMET DE L'IA

À moins de 50 kilomètres au sud de San Francisco, dans un hôtel de Mountain View en Californie, une centaine des chercheurs en intelligence artificielle les plus brillants au monde se sont retrouvés. L’événement, organisé par le programme AI2050 de Schmidt Sciences, soutenu par Eric et Wendy Schmidt, réunissait des académiciens dont les travaux intègrent l’IA. La liste des participants ressemblait à un annuaire des plus grands noms du domaine, et chaque couloir semblait mener vers un scientifique déjà connu ou dont les recherches avaient marqué le milieu.

L'UNIVERSITÉ FACE À LA DOMINATION PRIVÉE

Pour les chercheurs en IA des universités, ces dernières années marquent un tournant brutal. Les avancées majeures en IA se concentrent désormais sur les grands modèles de langage, et l’avant-garde de la Recherche a quitté les laboratoires universitaires pour les entreprises privées. Les universités n’ont tout simplement pas les moyens d’acheter les GPU nécessaires pour entraîner et faire fonctionner ces modèles de pointe. Même si elles en avaient les moyens, des entreprises comme Anthropic ou OpenAI ne partagent pas les détails internes de leurs outils comme Claude ou ChatGPT.

UNE ANALOGIE QUI PARLE

Lors d’un déjeuner, Nika Haghtalab, professeure en informatique à l’université de Californie à Berkeley, a comparé la situation des chercheurs en IA à celle des biologistes dans un monde où des entreprises privées contrôleraient exclusivement l’outil d’édition génétique CRISPR. Les experts extérieurs aux laboratoires d’avant-garde peuvent étudier le comportement de ChatGPT ou Claude, mais ils ne peuvent pas analyser en profondeur leur conception ou leur entraînement. Pire, ils ne peuvent pas orienter ces processus eux-mêmes.

LE PROGRAMME AI2050 : UNE BOUÉE DE SAUVETAGE

Le programme AI2050 offre aux chercheurs des financements pour acheter des GPU, ce qui a été salué par plusieurs participants comme un avantage majeur. Pourtant, l’argent reste une préoccupation constante, d’autant plus que les financements fédéraux pour la recherche scientifique aux États-Unis ont été réduits. Même pour les chercheurs qui n’entraînent pas eux-mêmes de modèles locaux, le coût des requêtes répétées auprès des modèles d’OpenAI, d’Anthropic ou de Google pour les étudier rigoureusement peut devenir prohibitif.

LES RECHERCHES QUE LES ENTREPRISES N'EFFECTUERONT JAMAIS

Plutôt que de se concentrer sur l’amélioration des capacités des modèles, de nombreux chercheurs du programme visent des questions que les entreprises comme Anthropic ou OpenAI ne traiteront probablement jamais. Anjalie Field, professeure en informatique à l’université Johns Hopkins, explique : « J’essaie d’éviter de travailler sur des problèmes que je pense qu’une entreprise technologique va résoudre. » Les entreprises doivent faire des profits, et les questions de recherche sans promesse de rentabilité ne valent souvent pas l’investissement. Field a récemment mené une étude révélant que les modèles de langage donnent des réponses moins sophistiquées aux requêtes formulées avec des tournures plus courantes chez les femmes que chez les hommes. Une telle recherche a peu de chances de voir le jour chez Anthropic ou OpenAI.

LES CHERCHEURS HORS DES GRANDS MODÈLES

Il existe aussi un grand nombre de chercheurs en IA qui ne travaillent pas avec les grands modèles de langage. Beaucoup développent des modèles spécialisés capables d’analyser des données, de faire des prédictions utiles ou même de simuler des systèmes physiques complets. Ces chercheurs ne sont pas en concurrence directe avec les laboratoires d’avant-garde, mais ils font face à leurs propres défis. Lors du rassemblement, plusieurs ont exprimé leur inquiétude quant à l’ignorance généralisée autour des modèles d’IA autres que les LLM. Par exemple, des chercheurs construisent des outils d’IA spécialisés pour aider à lutter contre le changement climatique, mais peinent à défendre leurs travaux quand le public associe « IA » uniquement à des LLM gourmands en énergie.

L'EXODE DES CERVEAUX VERS L'INDUSTRIE

Tous ces défis transforment le paysage académique. Plusieurs universitaires de renom ont récemment pris des congés pour rejoindre des laboratoires privés d’avant-garde. De plus, beaucoup de fellows du programme AI2050 occupent désormais des postes dans l’industrie en parallèle de leurs fonctions universitaires. Et depuis six mois, une nouvelle menace plane : les modèles d’OpenAI ont résolu des problèmes mathématiques concrets, ce qui inquiète certains experts quant à l’avenir des mathématiciens purs. Une chercheuse interrogée a confié s’inquiéter pour la santé mentale de ses pairs mathématiciens.

L'ESPOIR D'UNE SCIENCE PLUS DIFFICILE À AUTOMATISER

Pourtant, tout n’est pas sombre. La science empirique pourrait s’avérer bien plus difficile à automatiser que les mathématiques, car la collecte de données reste un processus intrinsèquement lent. Certains chercheurs voient même les scientifiques IA comme une opportunité plutôt qu’une menace. Tim Dettmers, informaticien à l’université Carnegie Mellon, travaille à rendre les modèles d’IA plus rapides et moins coûteux à exécuter. Selon lui, les scientifiques IA ne remplaceront pas les humains. Au contraire, ils pourraient rendre les chercheurs humains bien plus efficaces, leur permettant de se consacrer à des idées folles et inspirées qu’ils n’auraient peut-être jamais eu le temps d’explorer.

LA RÉSILIENCE DES LABORATOIRES UNIVERSITAIRES

Les contraintes de ressources qui empêchent les universités d’entraîner des modèles de pointe les poussent aussi à innover. Elles découvrent de nouvelles méthodes pour rendre les modèles plus petits et plus efficaces, ou explorent des architectures complètement inédites. Si la prochaine grande percée en IA venait non pas d’une entreprise majeure, mais d’un laboratoire universitaire modeste, personne ne serait surpris.

LE FUTUR DE LA RECHERCHE ACADÉMIQUE EN IA

La recherche académique en IA se réinvente face à l’hégémonie des géants privés. Les universités, malgré leurs moyens limités, restent des lieux de créativité et d’innovation. Leurs chercheurs explorent des pistes que les entreprises privées délaissent, par manque de rentabilité ou par manque d’intérêt. Le programme AI2050 joue un rôle clé en leur offrant des ressources pour continuer à avancer. L’avenir dira si cette stratégie portera ses fruits, mais une chose est sûre : la recherche académique en IA n’a pas dit son dernier mot.