Kog : comment une startup française veut booster l'IA sur les GPU classiques

La course à l’inférence la plus rapide possible en intelligence artificielle vient de prendre un nouveau tournant. En mai 2026, Cerebras a marqué les esprits avec son introduction en Bourse et ses puces spécialement conçues pour l’IA. Pourtant, la startup française Kog mise sur une approche radicalement différente : exploiter au maximum la puissance des GPU (Graphics Processing Unit, ces cartes graphiques que les entreprises utilisent déjà dans leurs centres de données) avec des optimisations logicielles.

UNE DÉMO QUI A FAIT DU BRUIT

En mai 2026, Kog a attiré l’attention sur Hacker News avec une démonstration technique. L’objectif ? Montrer qu’il est possible d’obtenir un décodage ultra-rapide pour une seule requête, même sur des GPU standards comme les AMD MI300X ou les Nvidia H200, déjà présents dans les serveurs d’entreprise. Certains internautes ont regretté que cette avancée ne s’applique pas encore aux GPU des ordinateurs portables. D’autres, en revanche, ont immédiatement perçu le potentiel.

DES CLIENTS EN ATTENTE DE RÉPONSES PLUS RAPIDES

Gaël Delalleau, le PDG de Kog et fondateur unique de la startup, explique que le premier cas d’usage visé est celui des ingénieurs logiciels. Les utilisateurs de Claude Code, un outil d’IA pour développeurs, savent bien que parfois, il faut attendre des heures pour obtenir un résultat. Anthropic, l’entreprise derrière cet outil, a d’ailleurs compris que la rapidité a un prix : elle facture un supplément pour son mode Fast dans Claude.

Kog veut cibler les clients qui refusent ces délais, notamment ceux qui dépendent des flux de travail automatisés pour des tâches professionnelles. Mais la startup travaille aussi avec des partenaires pour permettre à des utilisateurs de générer des jeux ou des applications à partir d’une simple instruction. Pour ces derniers, une inférence plus rapide grâce au Kog Inference Engine (KIE) pourrait signifier plus de revenus.

LE MARCHÉ N’EST PAS ENCORE PRÊT POUR TOUT LE MONDE

En étudiant la demande, Kog a réalisé que ses futurs clients ne sont pas encore prêts à affiner des petits modèles d’IA. Delalleau précise : « C’est pourquoi, depuis le lancement, nous nous concentrons entièrement sur l’accélération des plus grands modèles pour répondre à la demande que nous avons identifiée. »

Cette stratégie laisse à Kog un défi de taille : tenir sa promesse d’une inférence 30 fois plus rapide pour les grands modèles de langage (LLM). Sa démonstration a déjà montré des performances impressionnantes : 3 000 tokens par seconde par requête. Mais cela a été réalisé avec un petit modèle open source, Laneformer 2B, qui ne compte que 2 milliards de paramètres.

Face aux sceptiques, Delalleau est catégorique : la même approche peut fonctionner avec des LLM bien plus imposants, dont la taille pose souvent problème aux puces dédiées à l’inférence. « Les GPU ont un avenir radieux », assure-t-il. Selon lui, l’idée selon laquelle ces cartes ne sont pas adaptées au décodage est une idée reçue. Les nouveaux GPU disposent de toujours plus de bande passante mémoire, et il suffit de savoir la débloquer.

KOG N’EST PAS SEULE, MAIS ELLE JOUE DANS UNE AUTRE LIGUE

Kog n’est pas la seule à croire que l’optimisation logicielle peut permettre aux GPU de dépasser leurs limites annoncées. ZML, une autre startup française, a récemment lancé un logiciel indépendant du matériel qui contourne CUDA (la plateforme de Nvidia) pour offrir des inférences rapides sur des puces concurrentes. Pourtant, Delalleau estime que Kog se rapproche davantage des travaux du laboratoire Hazy Research de l’université de Stanford, avec une approche encore plus poussée pour accélérer les GPU.

Delalleau lui-même n’est pas un chercheur. Son premier projet entrepreneurial, Stribe, présenté lors de l’édition 2009 de TechCrunch50, n’avait rien à voir avec sa nouvelle entreprise. Pourtant, son parcours atypique explique en partie sa vision. Ancien étudiant en physique des solides à l’École Polytechnique, il a ensuite travaillé dans la cybersécurité offensive — aussi appelée « hacking éthique ». Cette expérience a forgé sa méthode de travail actuelle.

LA PHYSIQUE ET LE HACKING : DEUX PILIERS POUR DÉBLOQUER LA PUISSANCE DES GPU

Sur le plan scientifique, Delalleau explique que « cette mentalité consiste à comprendre les lois de la physique, et celles du GPU, pour en tirer le maximum ». Pour lui, il s’agit de pousser l’analyse jusqu’aux lois fondamentales qui régissent le fonctionnement des GPU, afin de les exploiter de la manière la plus efficace possible.

Côté hacking, son expérience en reverse engineering (l’art de comprendre le fonctionnement d’un système en analysant son code) lui a appris à « décomposer des choses au niveau le plus bas — jusqu’au langage assembleur et au code binaire — pour comprendre comment elles fonctionnent, et essayer de les utiliser à des fins pour lesquelles elles n’ont pas été conçues ».

Cette méthode a un inconvénient majeur : elle est extrêmement manuelle et chronophage. « Pour chaque nouveau GPU, nous consacrons plusieurs semaines, voire plusieurs mois, à nous plonger dans les détails et à mener des recherches d’ingénierie GPU sur ce matériel. » Avec une équipe de seulement 11 personnes, cela limite le nombre de puces que Kog peut optimiser, du moins pour l’instant.

UNE MÉTHODE QUI POURRAIT DEVENIR UN STANDARD

À plus long terme, Kog espère intégrer sa méthodologie dans des pipelines basés sur des agents (des systèmes autonomes capables d’exécuter des tâches complexes). Cela lui permettrait de supporter davantage de puces et de modèles. Alors que l’Europe cherche à renforcer ses capacités dans ces deux domaines, cette approche pourrait donner un élan supplémentaire à la souveraineté technologique de Kog. La startup est déjà soutenue par Scaleway, et bénéficie du soutien de Bpifrance ainsi que du programme France 2030.

UNE PREUVE À APPORTER : LES LLM EN LIGNE DE MIRE

Pour l’instant, Kog doit encore convaincre le monde que son approche fonctionne avec des grands modèles de langage. C’est aussi une étape clé pour sécuriser de nouveaux financements. « Une fois que nous aurons implémenté notre premier grand modèle à une vitesse 10 fois supérieure, ce qui, je pense, aura lieu en septembre, nous pourrons commencer à démontrer l’adoption par les clients et, à partir de là, lever notre série A », confie Delalleau.

UNE STARTUP FRANÇAISE SOUS LES PROJECTEURS

Avec 200 leads commerciaux tangibles dès ses premiers mois, Kog a déjà marqué les esprits. Son pari ? Transformer les GPU classiques en machines d’inférence ultra-rapides, sans avoir à investir dans du matériel coûteux. Si elle réussit, cette innovation pourrait bien redéfinir les règles du jeu dans l’industrie de l’IA.

UNE APPROCHE QUI S’APPUIE SUR UN PARCOURS UNIQUE

Delalleau n’est pas un chercheur de formation, mais son parcours en physique et en cybersécurité offensive a façonné sa vision. Après des études à l’École Polytechnique, il a exploré le monde de la sécurité informatique, où il a appris à analyser les systèmes en profondeur. Cette expertise lui permet aujourd’hui d’aborder l’optimisation des GPU avec une approche radicalement différente.

Son premier projet, Stribe, bien que sans lien avec l’IA, lui a offert une première expérience entrepreneuriale. Aujourd’hui, avec Kog, il mise sur une technologie qui pourrait bien changer la donne pour des milliers d’entreprises dépendantes de l’IA.

LE DÉFI DE L’ADOPTION : CONVAINCRE LES GRANDS MODÈLES

Le plus grand défi pour Kog reste de prouver que ses optimisations fonctionnent avec des LLM de grande taille. Les modèles comme ceux utilisés par Anthropic ou d’autres acteurs majeurs de l’IA sont souvent limités par la puissance de calcul disponible. Si Kog parvient à démontrer que ses méthodes permettent d’accélérer significativement ces modèles, elle pourrait bien devenir un acteur incontournable du secteur.

UNE TECHNOLOGIE POUR L’EUROPE

Alors que l’Europe cherche à réduire sa dépendance technologique, des initiatives comme celle de Kog prennent une importance particulière. En développant des solutions logicielles capables d’exploiter le matériel existant, la startup contribue à renforcer l’autonomie de l’industrie européenne en matière d’IA. Avec le soutien de Bpifrance et du programme France 2030, Kog pourrait bien jouer un rôle clé dans cette transition.

L’AVENIR DES GPU : PLUS RAPIDE, PLUS EFFICACE

Pour Delalleau, les GPU ont encore un énorme potentiel inexploité. Grâce à des optimisations logicielles poussées, il est possible de débloquer des performances bien supérieures à ce que promettent les constructeurs. Si Kog réussit à généraliser sa méthode, les entreprises pourraient bientôt profiter d’inférences d’IA bien plus rapides, sans avoir à investir dans du matériel coûteux ou spécialisé.

UNE RÉVOLUTION EN MARCHE ?

Avec une promesse aussi ambitieuse qu’une inférence 30 fois plus rapide, Kog se positionne comme un acteur à surveiller de près. Si elle parvient à tenir ses engagements, cette technologie pourrait bien devenir la norme pour les entreprises cherchant à optimiser leurs coûts et leurs performances en IA. Le compte à rebours est lancé : septembre 2026 pourrait bien être un tournant.