Le livre qui promet de tout savoir sur l'IA. mais qui triche avec l'IA ?

UN LIVRE SUR LA VÉRITÉ QUI MENT DÈS SA PRÉFACE

Steve Rosenbaum, auteur du livre Le Futur de la vérité, promet d'expliquer comment l'intelligence artificielle déforme notre perception de la réalité. Pourtant, The New York Times révèle que son ouvrage contient plus d'une demi-douzaine de citations inventées ou mal attribuées. Pire : l'auteur admet avoir utilisé des Outils d'IA pour rédiger certaines parties, sans toujours le signaler clairement. L'ironie est flagrante : un livre sur la vérité qui repose sur des outils dont on ne peut vérifier l'exactitude.

LE SCANDALE DES CITATIONS FAUSSES OU INVENTÉES

Dès sa sortie, Le Futur de la vérité est accusé de contenir des propos attribués à tort ou entièrement fabriqués. Rosenbaum, diplômé d'une maîtrise en "vérité" de l'Université de New York, reconnaît avoir inclus "une poignée" de citations improprement attribuées ou synthétiques. Dans un communiqué, il explique s'être trompé en utilisant des sources non vérifiées ou générées par des modèles de langage. Le problème ? Ces erreurs remettent en cause la crédibilité même de son travail.

L'EXEMPLE QUI A TOUT DÉCLENCHÉ

Quelques jours après la publication d'un extrait de 1 450 mots dans WIRED, le magazine décide de vérifier son contenu. Malgré une relecture approfondie avant publication, l'équipe de fact-checking confirme que les citations et les faits sont exacts. Pourtant, un lecteur signale que l'extrait ressemble étrangement à un texte écrit par une IA générative. WIRED applique une politique stricte : aucun texte publié ne peut être écrit ou modifié par une IA. Cette alerte relance les doutes sur l'utilisation réelle de l'IA par Rosenbaum.

LES OUTILS D'IA CITÉS DANS LES REMERCIEMENTS

Dans la section des remerciements de son livre, Rosenbaum mentionne avoir utilisé ChatGPT, Claude, NaturalReaders, ProWritingAid et Grammarly pour "affiner et polir la présentation de ses idées". Mais que signifie exactement cette phrase ? A-t-il laissé l'IA rédiger des passages entiers, ou simplement corriger des tournures de phrase ? La réponse reste floue.

LES DÉTECTEURS D'IA POINTENT UN DOIGT ACCUSATEUR

WIRED soumet l'extrait à plusieurs outils de détection d'IA : Pangram, GPTZero et ZeroGPT. Tous suggèrent que le texte est probablement généré par une IA, voire avec une forte certitude. Pourtant, ces outils ne sont pas infaillibles : ils peuvent produire des faux positifs. Le rédacteur en chef de la recherche de WIRED contacte donc Rosenbaum pour lui demander s'il a utilisé l'IA pour écrire l'extrait.

Rosenbaum répond : "Comme beaucoup d'auteurs aujourd'hui, j'ai utilisé des outils d'IA pendant certaines phases de recherche et de développement éditorial pour le livre, notamment pour découvrir des sources, brainstormer, obtenir des retours sur la structure et affiner le langage." Il insiste : "Les idées, les reportages, les arguments et la paternité finale me reviennent. L'extrait de WIRED n'a pas été généré par une IA puis publié tel quel." Il met en garde contre la fiabilité des outils de détection, évoquant les faux positifs possibles.

53 % DU LIVRE DÉTECTÉ COMME GÉNÉRÉ PAR IA ?

Les éditeurs seniors de WIRED demandent alors une analyse plus poussée. Le rédacteur, qui couvre depuis 2024 les dérives de l'IA, soumet l'intégralité du livre au détecteur Pangram — considéré comme la référence actuelle. Le résultat est accablant : le livre semble être à 53 % généré par une IA, avec 9 % supplémentaires probablement assistés par l'IA. Rosenbaum refuse de commenter ces chiffres, allant jusqu'à comparer la question à une accusation absurde : "C'est comme si on me demandait : 'Battez-vous votre femme ?' Il n'y a pas de réponse possible."

LA DÉFENSE DE ROSENBAUM : L'IA, UN OUTIL COMME UN AUTRE

Plutôt que de répondre directement à l'accusation, Rosenbaum explique son processus de travail. Au début de l'écriture, il utilise l'IA comme un moteur de recherche pour trouver des informations dans les parties les plus documentées de son livre. Pour illustrer son propos, il demande à ChatGPT de le décrire, puis lit le résultat à voix haute. L'IA décrit correctement certains de ses précédents articles, comme ses travaux sur les sites médiatiques générés par IA, surnommés "zombie media sites".

Interrogé sur l'utilisation directe de l'IA pour rédiger ou éditer des passages, Rosenbaum donne une réponse évasive : "Non, ce n'est pas comme ça qu'on écrit. On prend du matériel, par exemple la réponse de Kate que je viens d'obtenir. Si j'écrivais à votre sujet, que ferais-je ? Est-ce que je copierais-coller cette réponse dans Google Docs et écrirais autour ? Est-ce que j'utiliserais les mots 'zombie media sites' entre guillemets ? Peut-être. Mais je ne dirais pas : 'Super, c'est répondu à ma question sur Kate, je vais coller ça dans mon document et l'envoyer à mon éditeur.'"

Il ajoute : "Mais est-ce que vous l'avez copié-collé et modifié ?" — "Je ne m'en souviens pas. Vous cherchez une preuve irréfutable, et il n'y en a pas."

LA PEUR DE L'IA DANS LES MÉDIAS : UNE RÉALITÉ QUI DÉRANGE

Rosenbaum dénonce la peur grandissante des auteurs face à l'IA. Selon lui, les écrivains qui "se réveillent le matin en voulant avoir des idées" vivent dans la terreur, ce qui n'est "pas sain pour la démocratie". Il évoque une autrice terrorisée à l'idée d'envoyer son livre à l'éditeur dans un mois, car elle a utilisé l'IA dans son processus d'écriture. Rosenbaum compare cela à de la triche : "Vous dites ça sur un ton accusateur, comme si elle avait utilisé un outil de triche."

Il cite une étude affirmant que 82 % des journalistes utilisent l'IA au quotidien. Pourtant, cette enquête, réalisée par MuckRack, inclut des usages comme la transcription automatique ou la recherche d'informations avec ChatGPT. Ces pratiques diffèrent radicalement de l'intégration secrète de phrases générées par IA dans un manuscrit.

L'IA, UNE PARTIE INDISPENSABLE DE SON PROCESSUS D'ÉCRITURE

Rosenbaum défend son utilisation quotidienne de l'IA, allant jusqu'à dire : "Si la seule façon pour moi de ne plus jamais faire d'erreur est d'arrêter d'utiliser l'IA, ce n'est tout simplement pas réaliste. Si la réponse est d'arrêter d'écrire, ce n'est pas exclu." Interrogé sur son choix entre arrêter d'écrire ou arrêter d'utiliser l'IA, il répond sans hésiter : "Oui."

Il oscille entre la reconnaissance des problèmes causés par l'IA — "Je ne comprends pas pourquoi c'est à moi, en tant qu'auteur, de jouer au whack-a-mole avec une entreprise multinationale qui injecte des hallucinations dans ses flux comme modèle économique" — et l'affirmation que l'IA est indispensable, la qualifiant de "meilleur partenaire d'écriture qu'il ait jamais eu".

UN LIVRE QUI S'APPAUVRIT LUI-MÊME

En utilisant l'IA pour écrire un livre sur la vérité et l'authenticité, Rosenbaum prouve malgré lui la thèse centrale de son ouvrage : l'IA crée des fractures entre ce qui est réel et ce qui ne l'est pas. Pourtant, cette utilisation discrédite aussi la crédibilité de son propre travail. Quand on lui fait remarquer que son usage de l'IA remet en cause la qualité et l'exactitude de son livre, il répond en citant à nouveau l'étude sur l'adoption de l'IA par les journalistes. "Si 82 % des journalistes utilisent l'IA tous les jours, alors ce que vous dites, c'est que vous êtes maintenant inquiet quant à l'exactitude et la fiabilité de tout ce qui compose l'écosystème médiatique actuel."

Une logique contestable : l'étude de MuckRack ne mesure pas l'utilisation de l'IA pour rédiger des phrases entières, mais des outils comme la transcription ou la recherche d'informations. Une nuance majeure que Rosenbaum semble ignorer.

LES FRONTIÈRES FLUIDES DE L'UTILISATION DE L'IA DANS L'ÉCRITURE

Les lignes rouges autour de l'utilisation de l'IA dans l'écriture sont constamment redessinées. Certains écrivains, comme Rosenbaum, utilisent l'IA pour la transcription ou la création de demandes d'accès à l'information. D'autres y voient une pratique inacceptable. Rosenbaum, entrepreneur médiatique chevronné, avait prédit l'importance du contenu vidéo et de l'utilisateur généré sur internet. Son approche pourrait un jour devenir la norme.

Les opinions sur l'IA dans les médias évoluent rapidement. Certains reporters l'adoptent ouvertement : un journaliste indépendant donne ses notes et documents à un agent IA, qui génère une première ébauche. Des médias comme Fortune encouragent leurs journalistes à coécrire des articles avec des chatbots, tandis que Business Insider autorise l'utilisation de ChatGPT sur les brouillons. Dans dix ans, les rédactions qui refusent catégoriquement l'IA pourraient paraître aussi dépassées que l'envoi d'un magazine par courrier postal.

LES RÉSISTANCES PERSISTENT, MAIS S'AFFAIBLISSENT

Pour l'instant, des résistances subsistent. En 2024, l'éditeur Hachette annule la publication d'un roman aux États-Unis après que Pangram ait détecté qu'il était largement généré par IA, même après la dénégation de l'auteur. The New York Times rompt son partenariat avec un pigiste pour utilisation de l'IA. Récemment, une revue littéraire publie des nouvelles jugées par les critiques comme probablement générées par IA, déclenchant une polémique.

WIRED révise actuellement ses directives éditoriales autour de l'IA. Une règle reste inchangée : les textes publiés ne peuvent pas être écrits avec l'aide de l'IA. Face aux doutes persistants sur le processus de Rosenbaum, l'extrait incriminé est retiré dès le vendredi après-midi.

L'UTILISATION DE L'IA PAR ROSENBAUM : ENTRE JUSTIFICATION ET CONTRADICTION

Rosenbaum insiste sur le fait que ses idées, ses reportages et ses arguments lui appartiennent en propre. Pourtant, son refus de clarifier l'étendue exacte de l'utilisation de l'IA dans son livre laisse planer le doute. S'agit-il d'une simple assistance à la rédaction, ou d'une collaboration plus poussée avec les modèles de langage ? La frontière entre les deux reste floue, et c'est précisément ce flou qui alimente la polémique.

Son cas illustre les défis posés par l'IA dans le domaine de la création de contenu. Alors que les outils deviennent de plus en plus performants, les auteurs doivent naviguer entre innovation et éthique. L'ironie de la situation — un livre sur la vérité écrit avec l'aide de l'IA — rappelle que la technologie, aussi puissante soit-elle, ne remplace pas le jugement humain. Elle le complexifie.

CE QUE CE SCANDALE RÉVÈLE DE L'ÉCOSYSTÈME MÉDIATIQUE

Ce scandale met en lumière plusieurs enjeux cruciaux. D'abord, la difficulté croissante à distinguer un texte écrit par un humain d'un texte généré par une IA. Ensuite, la question de la responsabilité des auteurs et des éditeurs face à ces outils. Enfin, l'évolution des normes éthiques dans un paysage médiatique en mutation.

Alors que l'IA s'immisce dans tous les aspects de la création, les règles du jeu doivent être redéfinies. Les détecteurs d'IA, bien que utiles, ne sont pas parfaits. Les faux positifs peuvent nuire à des auteurs honnêtes, tandis que les faux négatifs permettent à des textes générés par IA de passer entre les mailles du filet. La transparence devient un impératif : les lecteurs ont le droit de savoir comment un texte a été produit.

L'IRONIE ULTIME : UN LIVRE SUR LA VÉRITÉ QUI MENT SUR SA PROPRE CRÉATION

Le cas de Rosenbaum est emblématique des paradoxes de l'ère de l'IA. Un livre censé éclairer sur les dangers de la désinformation est lui-même construit sur des fondations fragiles. L'utilisation de l'IA pour écrire un ouvrage sur la vérité soulève une question fondamentale : comment croire un message quand son propre auteur utilise les outils qu'il critique ?

Ce scandale rappelle que l'IA, aussi révolutionnaire soit-elle, ne peut se substituer à l'intégrité et à la rigueur. Elle peut assister, accélérer, suggérer, mais elle ne peut garantir la vérité. Et c'est peut-être là son plus grand paradoxe : plus elle devient puissante, plus elle exige de nous une vigilance accrue.

L'AVENIR DE L'ÉCRITURE : ENTRE HUMAIN ET MACHINE

Rosenbaum, entrepreneur médiatique expérimenté, suggère que son approche pourrait devenir la norme. Pourtant, l'adoption massive de l'IA dans l'écriture pose des questions éthiques et professionnelles. Faut-il encadrer strictement son utilisation ? Faut-il exiger une transparence totale sur les outils employés ? Les rédactions doivent-elles revoir leurs politiques éditoriales pour intégrer ces nouveaux outils ?

Une chose est sûre : l'IA est là pour rester. Son impact sur l'écriture et la création de contenu est déjà profond, et il ne fera que s'accentuer. Les auteurs, les éditeurs et les lecteurs devront apprendre à coexister avec elle, tout en préservant l'essence même de la création : l'authenticité.

LE RETRAIT DE L'EXTRAIT : UNE DÉCISION QUI FAIT DATE

Face aux doutes persistants sur le processus de Rosenbaum, WIRED prend une décision radicale : l'extrait incriminé est retiré de sa plateforme dès le vendredi après-midi. Cette mesure reflète l'importance accordée à la transparence et à l'intégrité éditoriale. Elle envoie aussi un signal fort aux auteurs et aux médias : l'utilisation de l'IA dans la création de contenu doit être clairement signalée et encadrée.

Ce retrait marque un tournant dans la couverture médiatique de l'IA. Il rappelle que les outils technologiques, aussi puissants soient-ils, ne doivent pas primer sur la rigueur journalistique et l'honnêteté intellectuelle. Dans un monde où l'IA peut générer du contenu à une vitesse vertigineuse, la qualité et la vérifiabilité restent des valeurs inestimables.

QUELLE LEÇON POUR LES AUTEURS ET LES MÉDIAS ?

Le cas Rosenbaum offre plusieurs enseignements. D'abord, la nécessité d'une transparence totale sur l'utilisation des outils d'IA. Ensuite, l'importance de maintenir des standards éditoriaux stricts, même face à la pression de l'innovation. Enfin, la vigilance constante face aux dérives possibles de ces technologies.

Les auteurs et les médias doivent trouver un équilibre entre l'exploitation des nouvelles technologies et le respect des principes fondamentaux de la création de contenu. L'IA peut être un allié puissant, mais elle ne doit pas devenir un substitut à la réflexion, à la recherche et à l'intégrité. Le scandale Rosenbaum rappelle que la technologie, aussi avancée soit-elle, ne peut remplacer la responsabilité humaine.

UNE AFFAIRE QUI INTERPELLE TOUS LES CRÉATEURS

Ce cas dépasse le simple scandale médiatique. Il interroge tous les créateurs de contenu, qu'ils soient auteurs, journalistes ou artistes. Comment utiliser l'IA sans trahir l'essence même de son travail ? Comment concilier innovation et éthique ? Comment garantir la crédibilité de son œuvre dans un monde où l'IA peut générer du contenu à la chaîne ?

Rosenbaum a prouvé malgré lui que l'IA, utilisée sans discernement, peut miner la crédibilité de son propre travail. Son cas est un avertissement pour tous ceux qui, dans leur domaine, pourraient être tentés de franchir la ligne rouge. L'IA est un outil, pas une solution miracle. Son utilisation doit être réfléchie, encadrée et transparente.

CONCLUSION : L'IA, UN MIROIR DE NOS PROPRES LIMITES

Le scandale autour de Le Futur de la vérité est bien plus qu'une simple affaire de citations inventées. C'est le reflet des tensions et des contradictions de notre époque. L'IA, outil à la fois fascinant et inquiétant, nous force à nous interroger sur ce que signifie créer, écrire, et surtout, dire la vérité.

Rosenbaum a voulu écrire un livre sur l'authenticité à l'ère de l'IA. Pourtant, en utilisant lui-même ces outils sans toujours les signaler, il a involontairement prouvé que l'IA est aussi un miroir de nos propres limites. Elle révèle nos peurs, nos tentations, et nos contradictions. Dans ce miroir, nous devons apprendre à voir non seulement les opportunités, mais aussi les responsabilités qui accompagnent l'innovation.