Pangram frappe fort : 9 millions pour traquer l'IA qui inonde le web

UNE INVASION DE CONTENU IA QUI DÉRANGE

Internet est submergé par des textes et images générés par l’intelligence artificielle, et une startup new-yorkaise a décidé d’agir. Pangram, spécialisée dans la détection de contenu artificiel, vient de lever 9 millions de dollars. Son objectif ? Développer des outils capables de distinguer clairement ce qui est écrit ou créé par un humain de ce qui est produit par une machine. Une mission qui prend de plus en plus d’importance à mesure que l’IA se généralise dans tous les domaines.

Cette levée de fonds, menée par Menlo Ventures, a vu la participation de plusieurs investisseurs comme Haystack, ScOp, Script Capital et Cadenza. Une preuve que le marché croit en l’utilité de ces outils, surtout à l’heure où les erreurs liées à l’IA commencent à coûter cher. Imaginez un politicien canadien lisant à voix haute un texte généré par IA devant des députés, ou un avocat utilisant des citations inventées par ChatGPT dans un tribunal. Les conséquences peuvent être graves, voire juridiques.

PANGRAM 4 : LE DÉTECTIVE DE TEXTES QUI NE SE TROMPE (PRESQUE) JAMAIS

Pangram ne se contente pas de lancer un nouveau produit : elle présente Pangram 4, un modèle de détection de texte ultra-performant. Comment fonctionne-t-il ? Le système s’appuie sur un modèle d’apprentissage automatique entraîné sur des dizaines de millions de documents écrits par des humains. Pour chaque texte, Pangram crée une version artificielle en copiant le thème, la longueur et le ton, mais en utilisant un grand modèle de langage (LLM).

Le résultat ? Un outil capable de repérer les différences de style et les choix typiques que font les IA. Contrairement à d’autres méthodes qui s’appuient sur des métadonnées ou des filigranes cachés, Pangram 4 analyse directement le contenu pour détecter avec une grande confiance si un texte est généré par une machine. Et ça marche : dans les tests, il a facilement identifié des articles d’actualité écrits par ChatGPT ou Claude, même après que l’auteur ait tenté de les modifier pour les rendre plus humains.

Mais Pangram ne cherche pas seulement à détecter les textes entièrement générés par IA. L’outil peut aussi distinguer les niveaux d’assistance : par exemple, un humain qui écrit un texte et utilise ensuite l’IA pour le corriger ou l’améliorer. Pour Pangram, l’important est la transparence : tant que l’utilisateur indique clairement qu’il a utilisé l’IA, l’outil ne pénalise pas.

DES RÈGLES DE PLUS EN PLUS STRICTES POUR LES AUTEURS

Les institutions commencent à réagir face à l’invasion de contenu IA. Par exemple, l’archive arXiv, qui permet de partager des prépublications scientifiques, a durci ses règles. Désormais, tout document contenant des preuves que l’auteur n’a pas relu le texte généré par IA (comme des références hallucinées ou des commentaires du type « Souhaitez-vous que je fasse des modifications ? ») peut entraîner une interdiction de publier pendant un an. Une mesure qui montre à quel point le problème est pris au sérieux.

Pangram n’est pas la seule à miser sur la détection de contenu IA. Des concurrents comme Winston AI, Originality.ai, Copyleaks et GPTZero développent aussi leurs propres outils. Tous visent le même objectif : donner aux utilisateurs les moyens de savoir si un texte est fiable ou non.

PANGRAM IMAGE : CHASSEUR D’IMAGES ARTIFICIELLES, MÊME DANS LES PHOTOS RÉELLES

Pangram ne s’arrête pas aux textes. La startup a aussi développé Pangram Image, un outil capable de détecter des images générées par IA. Contrairement à des solutions comme celles d’OpenAI ou de Google DeepMind, qui se basent sur des filigranes invisibles, Pangram Image analyse les distributions au niveau des pixels. Il apprend à repérer les différences statistiques subtiles entre une photo réelle et une image artificielle.

Dans les tests, l’outil a facilement identifié des images générées par IA, qu’elles soient réalistes ou dessinées. Mieux encore : il peut détecter une image artificielle intégrée dans une photo réelle. Par exemple, si une personne insère une image générée par IA dans un paysage réel, Pangram Image saura la repérer. Lors des essais, le système a même généré une carte thermique montrant clairement la zone concernée. Presque parfait, sauf dans un cas où il a confondu une photo d’une image IA avec du contenu humain.

LES TESTS RÉALISÉS : UN OUTIL IMPRESSIONNANT, MAIS PAS INFALLIBLE

Pour vérifier l’efficacité de Pangram 4, un test a été mené sur différents types de textes. Résultat : l’outil a correctement identifié des articles entièrement écrits par ChatGPT ou Claude. Même après avoir tenté de modifier légèrement le texte pour le rendre plus humain, Pangram 4 a su détecter les traces d’IA. Cependant, il a aussi marqué comme artificiels des phrases entièrement réécrites par un humain, ce qui montre qu’il n’est pas infaillible.

Autre test : donner à ChatGPT et Claude un article écrit par un humain, en leur demandant de l’améliorer. Pangram 4 a attribué un score de 13 % d’assistance IA, ce qui était probablement proche de la réalité. Mais l’outil a aussi détecté des changements subtils dans le choix des mots, tout en en ignorant d’autres. Pire : il a parfois marqué des phrases humaines comme assistées par IA. Un détail important, car quand le même article a été soumis en version originale (sans modification), Pangram 4 a attribué un score de 100 % humain.

L’IMAGE ARTIFICIELLE DANS LA PHOTO RÉELLE : UN DÉFI POUR LES DÉTECTEURS

Pangram Image a aussi été testé sur des images composites, où une image générée par IA est insérée dans une photo réelle. Le système a réussi à repérer l’image artificielle dans la plupart des cas, en générant une carte thermique qui met en évidence la zone concernée. Cependant, comme pour le texte, il n’est pas infaillible : dans un cas, il a confondu une photo d’une image IA avec du contenu humain.

Cette technologie pourrait devenir cruciale à l’avenir, car les images générées par IA deviennent de plus en plus réalistes et difficiles à distinguer des vraies. Imaginez une photo de presse où une image artificielle est insérée pour tromper le lecteur : Pangram Image pourrait être l’outil qui sauve la mise.

L’IA DÉTECTIVE N’EST PAS UNE CHASSE AUX SORCIÈRES

Malgré l’efficacité de ses outils, Pangram ne veut pas créer une chasse aux sorcières contre ceux qui utilisent l’IA. L’entreprise croit que l’IA peut être un outil utile, à condition que son utilisation soit transparente. Par exemple, un écrivain qui utilise l’IA pour corriger un texte devrait simplement indiquer qu’il a eu recours à cette assistance.

Pour le fondateur de Pangram, la vraie menace n’est pas l’utilisation de l’IA, mais son utilisation abusive. « Le futur que je vois, c’est que le contenu IA va continuer à proliférer, explique-t-il. Nous obtenons de nouveaux GPU plus vite que de nouvelles personnes naissent. Si nous ne faisons pas la différence entre le contenu humain et le contenu IA, ce dernier va noyer toute trace humaine. »

UN MARCHÉ EN PLEINE EXPANSION

Pangram n’est pas la seule à croire en ce marché. Plusieurs startups comme Winston AI, Originality.ai, Copyleaks et GPTZero développent des outils similaires. Chacune a sa propre approche, mais toutes visent le même objectif : donner aux utilisateurs les moyens de vérifier l’authenticité d’un texte ou d’une image. Un besoin qui ne fera que grandir à mesure que l’IA se démocratise.

Avec cette levée de 9 millions de dollars, Pangram dispose des ressources nécessaires pour accélérer le développement de ses outils. Son objectif ? Devenir un acteur incontournable dans la lutte contre le slop (ce contenu IA de mauvaise qualité qui inonde le web). Une mission qui pourrait bien changer la façon dont nous consommons l’information à l’ère de l’IA.

CE QUE ÇA CHANGE POUR TOI

Si tu es un lecteur, un journaliste, un étudiant ou même un simple internaute, ces outils pourraient bientôt devenir indispensables. Imagine que tu lises un article et que tu te demandes : « Est-ce que ce texte est vraiment écrit par un humain ? ». Avec Pangram 4, tu pourrais avoir une réponse en quelques secondes. Même chose pour les images : une photo qui semble trop parfaite cache peut-être une création artificielle.

Mais attention : aucun détecteur n’est parfait. Pangram 4 et Pangram Image font des erreurs, même si elles sont rares. Alors, la prochaine fois que tu verras un contenu en ligne, garde en tête que l’IA est peut-être passée par là. Et si tu es un créateur, pense à bien indiquer quand tu utilises l’IA pour éviter les malentendus.

L’AVENIR : UNE COURSE CONTRE LA MONTRE

Le défi est de taille. D’un côté, les outils de détection comme ceux de Pangram tentent de suivre le rythme effréné des avancées en IA. De l’autre, les créateurs de contenu artificiel améliorent sans cesse leurs méthodes pour échapper aux détecteurs. Une course qui ne fait que commencer.

Pour Pangram, l’enjeu est clair : « Si nous ne faisons pas la différence entre le contenu humain et le contenu IA, ce dernier va dominer, et les traces humaines risquent de disparaître. » Une perspective qui donne à réfléchir sur l’équilibre à trouver entre innovation technologique et préservation de l’authenticité.

PANGRAM, UNE STARTUP À SUIVRE

Avec ses outils innovants et sa levée de fonds réussie, Pangram se positionne comme un acteur clé dans la lutte contre le contenu IA de mauvaise qualité. Son approche, basée sur l’analyse directe du contenu plutôt que sur des filigranes, pourrait bien devenir la norme. Reste à voir si d’autres startups suivront le même chemin ou si elles opteront pour des méthodes différentes.

Une chose est sûre : à l’ère de l’IA, la transparence et la fiabilité du contenu seront des enjeux majeurs. Et Pangram compte bien en être un des garants.

EN BREF : CE QU’IL FAUT RETENIR

Pangram a levé 9 millions de dollars pour développer des outils capables de détecter le contenu généré par IA, aussi bien pour les textes que pour les images. Son modèle Pangram 4 analyse les différences de style pour repérer les textes artificiels, tandis que Pangram Image détecte les images IA en étudiant les pixels. Aucun outil n’est parfait, mais ces innovations pourraient bien changer la façon dont nous consommons l’information en ligne. L’enjeu ? Éviter que le contenu IA ne noie les traces humaines.

ET DEMAIN ?

Avec l’essor de l’IA, la demande pour des outils de détection ne fera que croître. Les institutions, comme l’archive arXiv, commencent déjà à durcir leurs règles pour lutter contre le contenu non vérifié. Pangram et ses concurrents ont donc un rôle crucial à jouer. Leur succès dépendra de leur capacité à rester à la pointe de la technologie, tout en garantissant une détection fiable et transparente. Une chose est sûre : l’avenir de l’information passera peut-être par ces détectives numériques.

POUR ALLER PLUS LOIN

Si tu veux en savoir plus sur les outils de détection de contenu IA, voici quelques pistes :

Winston AI, Originality.ai, Copyleaks et GPTZero sont des alternatives à Pangram. Chacun a ses propres forces et faiblesses, mais tous visent le même objectif : te donner les moyens de vérifier l’authenticité d’un contenu. Et si tu veux tester Pangram 4 ou Pangram Image, la startup propose probablement des versions d’essai ou des démos sur son site.