L'or des IPO d'IA va-t-il ruiner ou sauver le monde ?

En 2016, Daniel Carrier a fondé ForHumanity, une petite ONG qui développe des Outils pour auditer les systèmes d’intelligence artificielle. Avec seulement quelques centaines de milliers de dollars récoltés en huit ans, elle reste un acteur mineur dans son domaine. Pourtant, tout pourrait basculer très vite. ForHumanity fait partie des nombreuses organisations à travers le monde qui rêvent de récupérer une partie de ce que beaucoup anticipent comme la plus grande vague de philanthropie des dernières décennies.

DEUX GÉANTS DE L'IA VONT DEVENIR PUBLICS : UNE BOMBE PHILANTHROPIQUE

Les deux entreprises les plus valorisées du secteur, OpenAI (créateur de ChatGPT) et Anthropic (développeur de Claude), préparent leur introduction en Bourse. Si tout se passe comme prévu, des centaines d’employés actuels et anciens deviendront ultra-riches du jour au lendemain. Certains d’entre eux adhèrent à une philosophie appelée effective altruism (altruisme efficace), qui pousse à donner des sommes importantes dès maintenant plutôt que d’attendre.

Les sept fondateurs d’Anthropic ont déjà promis de reverser 80 % de leur fortune. L’entreprise s’est aussi engagée à verser une ou trois actions pour chaque action promise par un employé, selon la date de son embauche et dans la limite d’un certain plafond.

Anthropic n’a pas souhaité communiquer sur le montant total que ses employés ont réservé pour des dons, ni sur les organisations qui pourraient en bénéficier.

UNE MANNE FINANCIÈRE QUI N'EST PAS ENCORE ACQUISE

Rien n’est garanti. Les IPO pourraient être retardées ou échouer, laissant les employés accrochés à leur fortune. Les observateurs du secteur craignent aussi qu’un nombre paralysant d’options caritatives et une instabilité naturelle poussent les travailleurs à garder plus d’argent pour eux que prévu.

La compétition pour attirer l’attention des futurs donateurs est déjà féroce. Jack Lewars, consultant qui a conseillé 13 travailleurs ultra-riches du secteur tech et finance sur leurs dons l’an dernier, révèle que les employés des laboratoires d’IA reçoivent jusqu’à 20 emails non sollicités par semaine de la part d’organisations cherchant des financements.

Pour comprendre comment les ONG se préparent à cet afflux potentiel de dons, WIRED a interrogé 18 organisations et approché des dizaines d’autres. Aucune n’a admis envoyer des sollicitations froides, une tactique que Lewars qualifie dans son nouveau blog, The Funding Anthropalypse, de « presque totalement inefficace ». À la place, elles augmentent leurs effectifs, forment leurs équipes, renforcent leur marketing et automatisent leurs processus pour se positionner afin d’attirer des sommes colossales et les utiliser rapidement. Une offre d’emploi d’une ONG spécialisée dans l’éducation mentionne même comme priorité de nouer des relations spécifiques avec Anthropic.

Comme beaucoup de dirigeants d’ONG interrogés par WIRED, Carrier de ForHumanity se concentre davantage sur son travail que sur la collecte de fonds. Pourtant, il reconnaît que ce moment pourrait marquer un tournant. Il commence même à se demander comment entrer dans les soirées organisées à San Francisco après les IPO. « Il faut absolument que j’y sois », avoue-t-il.

LES ONG SE MOBILISENT POUR CAPTER L'ARGENT DES IPO

Bo Young Lee, PDG de l’ONG AI4ALL, participe à davantage d’événements, publie plus de recherches et demande à des membres de son conseil d’administration, comme la scientifique et entrepreneure Fei-Fei Li, de la mettre en contact avec des employés des laboratoires d’IA. Son organisation forme des jeunes adultes à travers les États-Unis pour qu’ils développent leurs propres modèles d’IA, avec pour objectif de diversifier la main-d’œuvre technologique. Lee fixe des objectifs de collecte de fonds « ambitieux » parce qu’elle est convaincue que l’argent arrivera, même si les premières réunions n’ont pas encore eu lieu.

Buck Shlegeris, PDG de Redwood Research, une ONG basée à Berkeley spécialisée dans la sécurité de l’IA, estime que cibler des donateurs individuels n’est pas la meilleure stratégie. Son organisation a déjà reçu des millions de dollars de groupes comme Coefficient Giving et Survival and Flourishing Fund, qui regroupent des dons d’individus et adhèrent au mouvement de l’altruisme efficace. Shlegeris est convaincu que le nouvel argent ira d’abord à ces intermédiaires avant de redescendre vers Redwood et d’autres structures similaires.

Il souhaite accélérer la formation de ses équipes pour en faire des managers, avec l’espoir que les importantes sommes d’argent permettront de faire grandir ses équipes et de se lancer dans des « projets extrêmement coûteux », comme automatiser la recherche sur la sécurité ou entraîner ses propres modèles. L’objectif global de Redwood Research est de minimiser les risques que l’IA puisse mener à l’extinction de l’humanité, un scénario que Shlegeris craint « avec une probabilité vraiment élevée ».

LA SÉCURITÉ BIOLOGIQUE DE L'IA : UNE PRIORITÉ POUR LES DONATEURS

Une partie de la recherche en sécurité de l’IA se concentre sur la prévention de l’utilisation de cette technologie pour créer des armes biologiques. Le venture capitalist Geoff Ralston a récemment coécrit un plan d’action appelant à lever 2,5 milliards de dollars sur les cinq prochaines années pour renforcer la biosécurité liée à l’IA. Il prévoit de solliciter des dons auprès de ceux qui bénéficieront de la manne des IPO. « Les personnes travaillant dans les laboratoires de pointe comprennent mieux que quiconque les vecteurs de menace créés par l’IA », explique-t-il.

Plusieurs bailleurs de fonds influents dans les cercles de l’altruisme efficace se préparent à cette vague de dons en aidant les nouvelles ONG à améliorer leur administration et leur comptabilité. L’objectif est de s’assurer que davantage d’organisations soient prêtes à dépenser l’afflux attendu de dons. « Nous essayons de construire le port avant l’arrivée du navire », résume Stien van der Ploeg, directeur exécutif d’Animal Charity Evaluators, qui a aidé à diriger environ 15 millions de dollars vers des ONG luttant contre les pires formes de cruauté envers les animaux d’élevage au cours de l’année écoulée.

GiveDirectly, une autre organisation prisée des altruistes efficaces, indique avoir discrètement levé des fonds auprès de donateurs pour se préparer à la vague de dons. Cette ONG, qui transfère de l’argent sans condition à des personnes en situation de pauvreté ou de crise, utilise ces fonds pour embaucher plus d’ingénieurs afin d’automatiser ses systèmes financiers et RH. Elle noue aussi des partenariats pour déployer plus rapidement de l’argent en cas de catastrophes naturelles et commence à élaborer un plan pour un « dividende mondial de la richesse de l’IA » destiné à financer des personnes en situation d’extrême pauvreté. Nick Allardice, PDG de GiveDirectly, déclare que « malgré l’incertitude » entourant les IPO, ce moment mérite « une attention sérieuse ».

LE RISQUE D'UNE INÉGALITÉ DE DISTRIBUTION DES FONDS

Certaines organisations craignent d’être laissées de côté, soit parce qu’elles sont éloignées de la communauté de l’IA à San Francisco, soit parce qu’elles travaillent sur des sujets comme la sécurité des enfants ou la désinformation politique, qui ne correspondent pas forcément aux priorités supposées des futurs donateurs.

Une inquiétude largement partagée est que l’ampleur des fonds puisse laisser certaines causes avec des coffres débordants, tandis que d’autres urgences pourraient attirer peu de financements. Par exemple, les groupes qui s’attaquent aux risques existentiels que l’IA fait peser sur l’humanité — une priorité pour les altruistes efficaces — devraient recevoir bien plus de soutien que ceux qui tentent d’améliorer les droits humains en luttant, par exemple, contre la surveillance de masse ou les dommages en ligne.

Cette possibilité préoccupe profondément Marlena Wisniak. Elle supervise la stratégie numérique au European Center for Not-for-Profit Law (ECNL), une organisation qui travaille sur les politiques et la recherche liées à l’IA. Elle tente depuis des mois de mettre en avant des organisations qui pourraient être négligées, en particulier dans le Sud global. Ce mois-ci, elle a remporté une petite victoire lorsqu’une amie travaillant chez Anthropic a fait don de 100 000 dollars à une organisation correspondant à cette description. Wisniak essaie désormais de convaincre des contacts chez OpenAI et Anthropic de partager sa liste d’organisations œuvrant pour les droits humains et la justice sociale avec leurs collègues. Elle encourage aussi ces ONG à présenter leur travail en utilisant des termes comme « théorie du changement » et « fondé sur des preuves » pour mieux résonner avec les altruistes efficaces.

CERTAINES ONG REFUSENT DE JOUER LE JEU

Quelques organisations choisissent délibérément de ne pas participer à ce mouvement. Plus tôt cette année, Model Evaluation and Threat Research, qui évalue les modèles d’OpenAI et d’Anthropic, a décidé de ne pas solliciter de financements auprès des employés de ces entreprises, de peur de compromettre l’indépendance de l’ONG. D’autres groupes s’inquiètent de recevoir des fonds provenant de sources liées à l’altruisme efficace, ce qui pourrait effrayer des partenaires ou d’autres donateurs, car ce mouvement a été critiqué pour son caractère fermé et ses orientations jugées discutables, selon une personne familière avec la réflexion des ONG ayant requis l’anonymat pour aborder un sujet sensible. Un conseiller en communication pour plusieurs organisations alignées sur l’altruisme efficace, mais non autorisé à s’exprimer en leur nom, affirme que « le mouvement a continué à accroître ses financements, son talent et son impact, et la volonté croissante des grands bailleurs de fonds de travailler avec des groupes alignés sur l’EA reflète le fait que ces craintes de réputation sont exagérées ».

Certains vétérans du secteur des ONG appellent à la prudence. Ils ne veulent pas que les organisations délaissent leur mission centrale en adaptant leurs projets pour correspondre à ce que le nouvel argent pourrait financer. Les collecteurs de fonds savent aussi que cette richesse est le résultat de la création d’outils d’IA qui, dans certains cas, aggravent les problèmes que les ONG tentent de résoudre. « Le risque aujourd’hui est que cette richesse industrialisée issue des IPO ne serve pas le bien commun, rétrospectivement », déclare Lee d’AI4ALL. « Nous devons éviter l’attrait de l’argent facile pour simplement satisfaire les priorités des plus riches. »

LES SALAIRES DES ONG EXPLOSENT DÉJÀ

Un effet de la vague de dons anticipée est déjà visible : à mesure que les financements philanthropiques se concentrent dans quelques domaines où les talents sont rares, les salaires augmentent. Ce mois-ci, Resolution, une ONG spécialisée dans la sécurité de l’IA, a annoncé un don de 160 millions de dollars de la part de Coefficient, le plus important don de ce type jamais attribué par ce bailleur. Grâce à ce financement et à « l’afflux massif de capital philanthropique » suivant les IPO des entreprises d’IA, Resolution pourra payer « bien au-dessus des normes habituelles pour les ONG et le milieu académique », indique l’organisation dans un billet de blog.

L'ARGENT DES IPO PEUT-IL VRAIMENT SAUVER LE MONDE ?

L’idée que les milliardaires de l’IA puissent devenir les plus grands philanthropes de l’histoire fascine autant qu’elle inquiète. D’un côté, une manne financière sans précédent pourrait accélérer la recherche sur la sécurité de l’IA, financer des projets humanitaires ambitieux ou même résoudre des crises globales comme la pauvreté ou les pandémies. De l’autre, il existe un risque réel que cet argent soit mal utilisé, qu’il alimente des projets marginaux ou qu’il renforce des inégalités déjà criantes.

Les ONG qui se préparent à cette vague de dons savent qu’elles devront faire preuve d’une grande rigueur pour éviter de se laisser corrompre par l’attrait de l’argent facile. Leur défi ? Transformer une opportunité financière en véritable impact positif pour l’humanité, sans perdre de vue leur mission initiale.

Une chose est sûre : si les IPO d’Anthropic et d’OpenAI se déroulent comme prévu, le monde de la philanthropie ne sera plus jamais le même.