L'IA qui coûte une fortune : quand les entreprises craquent sous les tokens

L’IA QUI FAIT ÉCONOMISER DES MILLIONS… POUR L’INSTANT

Chez 8x8, une entreprise de logiciels, les employés utilisent Claude (un chatbot basé sur l’intelligence artificielle) pour rédiger des mails, analyser les retours clients ou même coder. Pourtant, la direction financière ne s’inquiète pas. Pendant que d’autres géants comme Meta, Uber ou Salesforce limitent l’accès à ces Outils à cause de leur coût, 8x8 réalise des économies. Joel Neeb, son directeur de la transformation, estime avoir sauvé environ 5 millions de dollars par an en annulant des abonnements à des dizaines d’outils inutiles, remplacés par Claude. Pour l’instant, la facture annuelle de l’IA reste « bien en dessous » de ce montant, et Neeb précise que le directeur financier est ravi. Il refuse cependant de donner le chiffre exact des dépenses.

LE NOUVEAU CAUCHEMAR DES DSI : LES TOKENS

Les tokens (en gros, les « morceaux » de texte que l’IA analyse ou génère) coûtent de plus en plus cher. Et cette facture devient un casse-tête pour les entreprises. Le PDG de la Banque Royale du Canada a révélé que l’utilisation de tokens avait bondi de 500 % en six mois. Chez Cisco, un tiers des employés utilisent quotidiennement un chatbot interne, et le PDG Chuck Robbins a avoué que « l’utilisation des tokens devient folle ». Chez Amplitude, un développeur de logiciels d’analyse, certains ingénieurs dépensent « des milliers de dollars par mois » en tokens. Aaron Levine, PDG de Box, confirme : « La gestion du budget des tokens est devenue l’un des sujets les plus importants — et les plus tendus — dans les entreprises. »

300 ENTREPRISES S’INQUIÈTENT PUBLIQUEMENT

Entre avril et mai, environ 300 entreprises ont évoqué les tokens lors de leurs appels aux investisseurs ou dans des discussions publiques. En 2023, seulement 93 entreprises avaient mentionné ce mot pendant la même période. Les dirigeants cherchent des solutions : certains développent des outils pour surveiller leur consommation, d’autres comparent les prix des différents modèles d’IA pour un même usage. Certains hésitent encore entre embaucher plus de monde ou augmenter leur budget tokens pour atteindre leurs objectifs.

L’IA PAIE (LITTÉRALEMENT) POUR UNE MARQUE DE VÊTEMENT

À Baseball Lifestyle 101, une marque de vêtements basée à New York, on pousse les managers à dépenser l’équivalent de 20 % de leur salaire chaque mois en tokens pour l’IA. Bill Rom, cofondateur de l’entreprise, prévoit une facture dépassant 100 000 dollars par mois d’ici la fin de l’année. Pourtant, l’investissement est déjà rentable. Claude a permis de décrocher une commande de 1 million de dollars en repérant qu’un détaillant manquait de tailles pour un modèle de shorts très demandé. « C’est un travail qui prenait un jour et demi et qui peut maintenant se faire en une ou deux heures, ce qui pourrait générer des dizaines de millions de dollars de revenus supplémentaires en un an », explique Rom. L’IA aide aussi à rédiger des rapports financiers et à organiser des séances photo, réduisant le besoin d’embaucher des juniors et libérant des fonds pour d’autres projets.

LA TRANSPARENCE, CLÉ POUR ÉVITER LES DÉPENSES FOLLES

Chez 8x8, les 1 800 employés ont accès à un tableau de bord qui affiche leur consommation de tokens. L’objectif ? Éviter que certains ne prennent trop d’avance dans l’utilisation de l’IA. « Ce n’est pas punitif, c’est juste pour que tout le monde avance ensemble », précise Neeb. En mai, les équipes produit et succès client étaient les plus gourmandes, tandis que les services ventes et finance utilisaient bien moins de tokens.

Neeb n’exclut pas d’instaurer des plafonds d’utilisation. Une discussion a même eu lieu récemment avec le directeur financier à cause de l’adoption du modèle Claude Opus 4.8, sorti le mois dernier et coûtant 1,7 fois plus cher que la version de février. Aucune décision n’a encore été prise, mais l’accès à ce modèle pourrait être conditionné à la preuve que les anciens modèles ne suffisent pas. « Peut-on utiliser un modèle un peu moins puissant et obtenir le même résultat ? » s’interroge Neeb.

L’IA FAIT GRANDIR LES CHIFFRES… MAIS PAS SEULEMENT

Chez 8x8, la satisfaction client et la fidélité augmentent, et les revenus ont progressé pendant quatre trimestres consécutifs. L’IA accélère le travail des équipes commerciales, même si Neeb reconnaît qu’il est difficile d’attribuer ces résultats uniquement à l’IA. « Quand on fait les choses bien, c’est comme une marée montante qui soulève tous les bateaux », résume-t-il. Il précise que l’entreprise a commencé à utiliser l’IA générative il y a deux ans, d’abord avec ChatGPT et Gemini, puis avec Claude, devenu la norme en interne depuis un an.

« UTILISEZ L’IA OU PERDEZ VOTRE PLACE »

La direction de 8x8 surveille l’utilisation de l’IA et a prévenu les employés : refuser de se former à ces outils pourrait avoir des conséquences. « Si vous n’utilisez pas l’IA d’une manière ou d’une autre dans votre travail, vous ratez l’opportunité d’aller plus vite et d’obtenir de meilleures réponses que vos collègues », déclare Neeb. D’autres entreprises, comme Amazon ou Meta, ont donné des consignes similaires, mais avec des résultats mitigés. Certains employés se mettent à l’IA par obligation, d’autres en profitent pour travailler moins, ce qui crée du gaspillage selon les critiques.

LES « RETARDS » DE L’IA : UNE OPPORTUNITÉ À SAISIR

Neeb pointe du doigt les équipes ventes et finance, qui représentent 28 % des employés mais seulement 15 % de la consommation de tokens. Il espère qu’un récent hackathon dédié à la finance incitera l’équipe à automatiser ses processus manuels, comme la collecte des paiements clients ou la génération des comptes rendus trimestriels.

L’IA QUI S’AUTO-OPTIMISE : UNE ÉCONOMIE DE TOKENS À 80 %

Neeb a lui-même vu comment Claude pouvait rendre son entreprise plus efficace. Il utilise l’outil pour automatiser l’envoi d’un mail quotidien résumant les astuces d’utilisation de l’IA partagées par des influenceurs sur YouTube. En remarquant que cette tâche consommait « beaucoup de tokens », il a demandé à Claude de trouver une solution plus économique. Résultat : l’automatisation a été repensée, réduisant la consommation de tokens de 80 %.

LE DILEMME : INVESTIR DANS LES PERSONNES OU DANS LES TOKENS ?

Les entreprises sont divisées. Certaines, comme Baseball Lifestyle 101, misent tout sur l’IA en acceptant des factures salées. D’autres, comme 8x8, profitent encore des économies réalisées grâce à l’IA, mais savent que cette période pourrait être temporaire. Les coûts des tokens fluctuent, les nouveaux modèles plus performants sortent chaque mois, et convaincre toute une organisation d’adopter ces outils reste un défi. Pourtant, pour ceux qui réussissent, les gains de productivité sont réels.

L’IA, UNE ARME À DOUBLE TRANCHANT POUR LES SALARIÉS

Chez Amazon ou Meta, certains employés utilisent l’IA parce qu’ils s’y sentent obligés, d’autres en profitent pour ralentir leur rythme de travail. Résultat : des outils censés booster la productivité deviennent parfois une source de gaspillage. Neeb, lui, refuse cette logique. « On ne veut pas que les employés prennent des pauses plus longues ou s’assoient sur la plage pendant que l’IA accélère leur travail », explique-t-il. Pour lui, la patience et des mesures de responsabilisation sont essentielles pour orienter les équipes vers une utilisation efficace.

L’IA DÉBARQUE DANS TOUS LES MÉTIERS… MÊME LES PLUS RÉSISTANTS

L’adoption de l’IA ne se limite plus aux équipes techniques. Les services financiers, les ressources humaines ou même les équipes créatives sont désormais concernés. Les entreprises qui tardent à se former risquent de se retrouver distancées. Neeb insiste : « Si vous n’utilisez pas l’IA, vous ratez une opportunité de travailler plus vite et mieux que vos collègues. »

LES MODÈLES D’IA : UNE COURSE AUX PERFORMANCES (ET AUX COÛTS)

Les nouveaux modèles d’IA sortent tous les mois, toujours plus puissants… et toujours plus chers. Les entreprises doivent sans cesse comparer les performances et les prix pour choisir le bon outil. Certaines, comme 8x8, testent des versions moins coûteuses pour voir si elles suffisent. D’autres, comme Baseball Lifestyle 101, préfèrent investir massivement pour maximiser les gains. Le défi ? Trouver l’équilibre entre performance et budget.

L’AVENIR DES TOKENS : UNE GESTION DE PLUS EN PLUS FINE

Les entreprises développent des outils pour surveiller leur consommation de tokens et choisir le modèle le moins cher pour chaque tâche. Certaines envisagent même de conditionner l’accès aux nouveaux modèles à une justification d’utilité. La gestion des tokens devient une compétence à part entière, au même titre que la maîtrise des logiciels traditionnels. Les entreprises qui sauront optimiser cette dépense auront un avantage concurrentiel certain.

L’IA, UNE RÉVOLUTION… MAIS À QUEL PRIX ?

L’IA générative transforme les entreprises, mais son coût explose. Certaines y trouvent leur compte, d’autres paniquent. Une chose est sûre : les tokens sont devenus le nouveau nerf de la guerre. Les entreprises qui sauront les maîtriser seront celles qui tireront le meilleur parti de cette révolution technologique. Pour les autres, le risque est de se retrouver avec une facture ingérable… et des résultats décevants.