L'IA coûte plus cher qu'elle ne rapporte : le piège des entreprises

LE FOSSE DE L'IA : DÉPENSER SANS COMPRENDRE

Dans 107 entreprises, les budgets consacrés aux infrastructures d'intelligence artificielle explosent. Pourtant, la majorité ne parvient pas à évaluer le coût réel de ce qu'elles achètent. Pire : elles prévoient d'investir encore plus, sans savoir où va leur argent. Ce décalage entre dépenses et visibilité crée un fossé de calcul : des millions injectés dans des serveurs qui tournent à vide.

Pour l'instant, ces organisations s'appuient sur les géants du cloud (Google, Microsoft, AWS) et les API des modèles d'IA (Gemini, OpenAI, Anthropic). Mais leur prochain euro sera dédié à des infrastructures spécialisées que presque aucune n'utilise aujourd'hui. Un virage radical, pris sans filet de sécurité.

UNE MAJORITÉ VEUT CHANGER DE FOURNISSEUR D'ICI UN AN

Ce n'est pas tout : 64% des entreprises prévoient de changer ou ajouter un fournisseur d'infrastructure dans les douze prochains mois. Parmi elles, 38% veulent le faire d'ici trois mois. Un taux de rotation exceptionnel pour un secteur aussi stratégique. Leur critère principal ? L'intégration avec leurs Outils existants (41%) et le coût total de possession (35%). Le prix affiché au million de tokens ? Un détail pour 8% d'entre elles seulement.

Pourtant, ce qui les freine n'est pas l'offre, mais leur incapacité à mesurer leurs dépenses réelles. Sans cette visibilité, impossible de négocier ou d'optimiser. Le piège se referme : elles achètent sans savoir.

LES SERVEURS TOURNENT À MOITIÉ VIDE

Le constat est accablant : 83% des entreprises déclarent que leurs GPU (les puces spécialisées pour l'IA) fonctionnent à 50% de leur capacité ou moins. Près de la moitié (49%) les utilisent même à 25% ou moins. Seuls 12% dépassent les 50%. Pire : 8% ne mesurent même pas leur taux d'utilisation. Autrement dit, des millions dépensés pour des machines qui restent éteintes la plupart du temps.

Ce gaspillage s'explique en partie par le fait que les entreprises n'ont pas encore déployé l'IA à grande échelle. 76% sont encore en phase de test ou n'utilisent l'IA que pour quelques tâches en production. Mais le problème est là : elles achètent des infrastructures pour un usage futur, sans savoir si elles en auront besoin. Un pari risqué.

LA MOITIÉ NE SAIT PAS CE QUE COÛTE VRAIMENT SON IA

Seulement 44% des entreprises parviennent à calculer le coût et le retour sur investissement de leur infrastructure IA. Le reste se contente de suivre partiellement (39%), ne peut pas quantifier (20%) ou n'a même pas commencé (6%). Un aveuglement qui contraste avec leur critère d'achat principal : le coût total de possession arrive en deuxième position.

Leur satisfaction envers leurs outils actuels est moyenne. Sur une échelle de 1 à 5, elle atteint 4,0 en moyenne. Les points faibles ? La facilité de mise en œuvre (3,8) et le rapport qualité-prix (3,9). Le coût, justement, est le critère le plus flou. Les entreprises dépensent à tout va, mais tiennent mal leurs comptes.

LES CLOUDS SPÉCIALISÉS, L'ORIENTATION SECRÈTE DES BUDGETS

Le plus surprenant ? Les entreprises prévoient d'évaluer massivement les infrastructures IA spécialisées dans les douze prochains mois. 45% citent cette option en tête de liste, alors que seulement 6% utilisent actuellement des clusters GPU sur site et 4% une pile open source personnalisée. Des chiffres qui montrent à quel point elles veulent tout changer, sans avoir encore testé.

Parmi les autres pistes explorées : 32% envisagent des accélérateurs non-Nvidia, 28% des puces Nvidia de nouvelle génération, 16% des réseaux de calcul décentralisés et 11% du calcul souverain. Une véritable refonte en perspective.

GOOGLE CLOUD DOMINE, MAIS LES FOURNISSEURS SPÉCIALISÉS FONT REVER

Aujourd'hui, l'écosystème est verrouillé par les géants du cloud. Google Cloud truste la première place avec 48% des entreprises l'utilisant. Microsoft, AWS et Oracle, combinés aux API des modèles (Gemini, OpenAI, Anthropic), représentent l'intégralité des déploiements actuels. Les fournisseurs spécialisés comme CoreWeave, Lambda ou Crusoe ? Presque invisibles, avec 0% d'utilisation.

Cette dépendance aux acteurs historiques explique pourquoi les entreprises envisagent surtout de réorganiser leurs dépenses entre ces mêmes fournisseurs. Microsoft Azure (33%) et Google Cloud (33%) arrivent en tête des fournisseurs vers lesquels elles pourraient migrer, suivis par OpenAI (30%) et Gemini (22%). Un jeu de chaises musicales entre les poids lourds.

LE PROBLÈME DE MÉMOIRE QUI ARRIVE À GRANDE VITESSE

Un autre défi se profile : le passage du calcul GPU à la bande passante mémoire pour l'inférence à grande échelle. Un changement qui va bouleverser les coûts et l'architecture des systèmes. Pourtant, les entreprises sont loin d'être prêtes.

Interrogées sur leur stratégie face à cette contrainte, leurs réponses sont dispersées. Dell arrive en tête avec 31%, suivi par Nvidia (16%). Le reste se répartit entre les fournisseurs de stockage, les outils open source et les techniques d'efficacité au niveau des modèles. Pire : 18% des entreprises ne voient même pas le problème ou n'ont pas commencé à y réfléchir. Un aveuglement collectif qui rappelle leur incapacité à mesurer leurs coûts actuels.

UNE ENQUÊTE QUI RÉVÈLE UNE RÉALITÉ DÉRANGEANTE

Cette étude, menée par VentureBeat Pulse Research, s'appuie sur les réponses de 107 entreprises de plus de 100 salariés. Les répondants sont répartis entre managers (38%), contributeurs individuels (28%), VPs et directeurs (19%) et membres de la direction (13%). Leur pouvoir d'achat est crédible : 45% prennent les décisions finales et 30% influencent fortement les choix.

Les secteurs représentés ? La technologie (26%), la santé (15%), la finance (13%) et le commerce en ligne (12%). Un échantillon qui penche vers les entreprises de taille moyenne et les adopteurs précoces, loin des géants du cloud. Leurs réponses donnent donc un aperçu des défis rencontrés par ceux qui construisent activement leur infrastructure IA, pas ceux qui l'ont déjà optimisée.

UNE PHOTO À UN INSTANT T, PAS UNE TENDANCE

Cette enquête a été réalisée en juin 2026, sur une seule période (Q2). Impossible donc d'en tirer des tendances mensuelles. Les résultats sont une photographie instantanée, pas une analyse sur la durée. Avec 107 répondants, l'étude donne une direction, mais pas une précision absolue. L'échantillon est auto-sélectionné et penche vers les entreprises de taille moyenne, pas les hyperscalers.

Les questions à choix multiples permettent de cumuler les réponses, ce qui explique que certains pourcentages dépassent 100%. Une nuance importante pour interpréter les chiffres.

LA TAILLE DES ENTREPRISES : UNE MOYENNE BIASÉE VERS LE MID-MARKET

La répartition par taille d'entreprise est la suivante : 36% ont entre 101 et 250 salariés, 27% entre 251 et 1 000, 22% entre 1 001 et 5 000, 8% entre 5 001 et 10 000, et 7% plus de 10 000. Une majorité de PME et ETI, donc, loin des géants capables d'investir des milliards dans l'IA.

Cette concentration explique pourquoi Google Cloud domine : les petites et moyennes entreprises sont ses clients historiques. Les fournisseurs spécialisés, eux, ciblent plutôt les grands comptes capables de déployer des infrastructures sur mesure.

LES CRITÈRES D'ACHAT : L'INTÉGRATION D'ABORD, LE PRIX EN DERNIER

Les entreprises ne choisissent pas leurs fournisseurs d'IA sur le prix affiché. Leur priorité ? L'intégration avec leurs outils existants (41%) et le coût total de possession (35%). Le prix par million de tokens, pourtant le critère le plus médiatisé, n'arrive qu'en dernier (8%).

Cette préférence s'explique par la complexité des projets IA. Une mauvaise intégration peut coûter cher en temps et en ressources. Le coût total de possession, lui, inclut les frais cachés : maintenance, formation, adaptation des équipes. Un calcul que la plupart des entreprises ne maîtrisent pas encore.

LE TAUX D'UTILISATION DES GPU : UNE MESURE RÉVÉLATRICE

Pour évaluer l'efficacité de leurs infrastructures, nous avons demandé aux entreprises quel pourcentage de leurs capacité GPU elles utilisaient réellement. Les résultats sont sans appel : 83% des entreprises qui possèdent des GPU les utilisent à 50% ou moins. Près de la moitié (49%) à 25% ou moins. Seuls 12% dépassent les 50%.

Ces chiffres montrent un gaspillage massif. Les serveurs coûtent cher à l'achat et à l'entretien. Les laisser inutilisés revient à jeter de l'argent par les fenêtres. Pourtant, les entreprises continuent d'investir dans de nouvelles machines, sans résoudre ce problème.

LA SATISFACTION : BONNE MAIS PAS ENTHOUSIASTE

Sur une échelle de 1 à 5, la satisfaction globale envers les infrastructures IA atteint 4,0 en moyenne. Les critères les mieux notés ? La facilité de mise en œuvre (3,8) et la valeur perçue (3,9). Le point faible ? Le coût, justement. Un paradoxe : les entreprises dépensent sans compter, mais ne sont pas satisfaites du rapport qualité-prix.

Cette insatisfaction relative s'explique par l'absence de visibilité sur les coûts réels. Sans données précises, impossible de juger si l'investissement est rentable. Le fossé entre dépenses et mesure est aussi un fossé entre attentes et réalité.

LES FOURNISSEURS SPÉCIALISÉS : UNE PISTE POUR PLUS TARD

Les entreprises spécialisées dans l'IA (CoreWeave, Lambda, Crusoe, Nebius) sont quasi absentes des déploiements actuels. En avril-mai 2026, leur utilisation était marginale : CoreWeave (3%), Lambda (4%), Crusoe (2%). Pourtant, 33% des entreprises prévoyaient de déplacer leurs charges de travail vers ces clouds spécialisés dans les douze mois. Une intention qui confirme leur désir de changement, même sans expérience préalable.

Cette tendance s'inscrit dans la continuité d'une étude précédente. Les entreprises sont prêtes à évaluer de nouvelles infrastructures, mais hésitent encore à sauter le pas. Un équilibre précaire entre audace et prudence.

LE COÛT PAR TOKEN : UN DÉTAIL POUR LES ENTREPRISES

Le prix par million de tokens est le critère le moins important pour les entreprises. Seuls 8% le considèrent comme décisif. Pourtant, c'est ce chiffre que les fournisseurs mettent en avant dans leurs communications. Un décalage entre la communication marketing et les besoins réels des clients.

Ce désintérêt s'explique par la complexité des projets IA. Le coût réel ne se limite pas au prix des tokens. Il inclut l'intégration, la maintenance, la formation des équipes, et l'optimisation des modèles. Des éléments que le prix affiché ne reflète pas.

LE PROBLÈME DE LA MÉMOIRE : UNE ZONE D'OMBRE

Le passage du calcul GPU à la bande passante mémoire est un défi technique majeur pour l'inférence à grande échelle. Pourtant, 18% des entreprises ne voient même pas ce problème ou n'ont pas commencé à y réfléchir. Un manque de préparation inquiétant pour un changement qui va bouleverser les coûts et l'architecture des systèmes.

Les réponses des entreprises sont dispersées : Dell (31%), Nvidia (16%), puis les fournisseurs de stockage, les outils open source et les techniques d'efficacité des modèles. Aucune stratégie dominante n'émerge. Preuve que ce sujet est encore trop récent pour être maîtrisé.

LES INTENTIONS DE CHANGEMENT : UNE VOLONTÉ DE BOUGER RAPIDEMENT

64% des entreprises prévoient de changer ou d'ajouter un fournisseur d'infrastructure dans les douze prochains mois. Parmi elles, 38% veulent le faire d'ici trois mois. Un taux de rotation élevé pour un secteur aussi stratégique. Les fournisseurs les plus cités pour ces changements ? Microsoft Azure (33%), Google Cloud (33%), OpenAI (30%) et Gemini (22%).

Cette volonté de changement s'explique par le désir d'optimiser les coûts et d'améliorer l'intégration. Les entreprises cherchent à consolider leurs dépenses et à éviter les silos technologiques. Mais sans visibilité sur leurs coûts actuels, ce changement ressemble à un pari.

L'INCAPACITÉ À MESURER : LE VRAI FREIN À L'IA

Le problème n'est pas l'offre, mais la demande. Les entreprises veulent investir dans l'IA, mais elles ne savent pas combien ça coûte. Sans cette visibilité, impossible de négocier, d'optimiser ou de justifier les dépenses. Le fossé de calcul n'est pas un problème de capacité, mais de mesure.

Les serveurs tournent à moitié vides, les factures sont floues, et les budgets explosent. Pourtant, les entreprises continuent d'acheter sans savoir. Un cercle vicieux qui menace leur rentabilité à long terme.

LES ENTREPRISES DE TAILLE MOYENNE : LES PLUS TOUCHÉES

L'échantillon de l'étude est biaisé vers les entreprises de taille moyenne (101 à 250 salariés pour 36% d'entre elles). Ces structures ont les moyens d'investir dans l'IA, mais pas toujours l'expertise pour optimiser leurs infrastructures. Leur dépendance aux géants du cloud est donc logique : ils offrent des solutions clés en main, même si elles sont coûteuses.

Les fournisseurs spécialisés, eux, ciblent plutôt les grands comptes capables de déployer des infrastructures complexes. Résultat : les PME et ETI se retrouvent prises au piège entre des solutions inadaptées et des coûts mal maîtrisés.

LE FUTUR DE L'IA : UNE COURSE SANS VISIBILITÉ

Les entreprises investissent dans l'IA à un rythme effréné, mais sans filet de sécurité. Elles achètent des infrastructures spécialisées, changent de fournisseurs, et prévoient de dépenser encore plus. Pourtant, la majorité ne mesure pas le coût réel de ce qu'elles achètent.

Le prochain défi ? La bande passante mémoire. Un changement technique qui va bouleverser les coûts et l'architecture des systèmes. Mais les entreprises ne sont pas prêtes. Leur manque de visibilité sur leurs dépenses actuelles les empêche de se préparer à ce virage.

La question reste ouverte : parviendront-elles à mesurer leurs coûts avant de basculer vers de nouvelles infrastructures ? Ou achèteront-elles la prochaine couche de matériel sans rien y comprendre ? Le fossé de calcul n'est pas une fatalité, mais une urgence.

LA MÉTHODOLOGIE : UNE PHOTO À UN INSTANT T

Cette étude s'appuie sur les réponses de 107 entreprises de plus de 100 salariés, interrogées en juin 2026. L'échantillon est auto-sélectionné et penche vers les entreprises de taille moyenne et les adopteurs précoces. Impossible donc d'en tirer des tendances générales ou des chiffres absolus.

Les questions à choix multiples permettent de cumuler les réponses, ce qui explique que certains pourcentages dépassent 100%. Une nuance importante pour interpréter les données. Les résultats doivent être lus comme une direction, pas une vérité absolue.

LES RÉPONDANTS : UN PANEL REPRÉSENTATIF DES DÉFIS ACTUELS

Les répondants incluent des managers (38%), des contributeurs individuels (28%), des VPs et directeurs (19%) et des membres de la direction (13%). Leur pouvoir d'achat est crédible : 45% prennent les décisions finales et 30% influencent fortement les choix. Un panel représentatif des personnes impliquées dans les décisions d'infrastructure IA.

Les secteurs représentés ? La technologie (26%), la santé (15%), la finance (13%) et le commerce en ligne (12%). Une répartition qui reflète les secteurs les plus actifs dans l'adoption de l'IA, mais aussi les plus exposés à ses défis.

LES LIMITES DE L'ÉTUDE : UNE PHOTO, PAS UN FILM

Avec 107 répondants et une seule période de collecte, cette étude ne permet pas de tirer des tendances sur la durée. Les résultats sont une photo instantanée, pas un film. Ils donnent une direction, mais pas une précision absolue.

L'échantillon est auto-sélectionné et penche vers les entreprises de taille moyenne. Les géants du cloud, eux, ne sont pas représentés. Leurs réponses ne reflètent donc pas les défis des plus grands acteurs, mais ceux des entreprises qui construisent activement leur infrastructure IA.

LE VERDICT : UNE COURSE FOLLE SANS CARTE

Les entreprises investissent massivement dans l'IA, mais sans savoir où va leur argent. Leurs serveurs tournent à moitié vides, leurs factures sont floues, et elles prévoient de dépenser encore plus. Un fossé de calcul se creuse entre leurs ambitions et leur capacité à les maîtriser.

Le prochain défi ? La bande passante mémoire. Un changement technique qui va bouleverser les coûts et l'architecture des systèmes. Mais les entreprises ne sont pas prêtes. Leur manque de visibilité les empêche de se préparer à ce virage.

La question est simple : parviendront-elles à mesurer leurs coûts avant de basculer vers de nouvelles infrastructures ? Ou achèteront-elles la prochaine couche de matériel sans rien y comprendre ? Une chose est sûre : sans visibilité, l'IA reste un pari risqué.