Le voleur d'art qui a tout scrapé pour l'IA… et qui aide désormais les artistes à se défendre

UNE PLATEFORME CRÉÉE POUR PROTÉGER LES ARTISTES

Depuis le début de l’année 2023, Jingna Zhang, photographe, et une petite équipe de bénévoles développent Cara, une application de partage d’images et de portfolio spécialement conçue pour les créateurs. Leur objectif ? Permettre aux artistes de publier leur travail tout en évitant son exploitation par les géants de la tech, notamment pour entraîner des modèles d’intelligence artificielle sans leur consentement. Avec environ 1,5 million d’utilisateurs, la plateforme attire des artistes déterminés à reprendre le contrôle de leur propriété intellectuelle.

LE VOL QUI A TOUT DÉCLENCHÉ

Le premier incident majeur survient lorsqu’un utilisateur anonyme, se faisant appeler MandarinDawnPoppy994 sur Reddit, annonce avoir récupéré une archive de 12 téraoctets contenant 12 millions d’œuvres publiées sur Cara. Dans un post depuis supprimé, il décrit ce projet comme « amusant » et précise que le coût de l’opération s’élève à moins de 10 dollars. Cette annonce provoque un tollé parmi les artistes, certains découvrant avec horreur que leur travail a été massivement récupéré sans leur accord.

LE SCANNER QUI DEVIENT ALLIE

Contre toute attente, l’auteur du scraping regrette rapidement son geste. Après avoir été confronté par un utilisateur de Cara, il accepte de supprimer son jeu de données et contacte Jingna Zhang pour comprendre les conséquences de son acte. « Il a réalisé à quel point les artistes étaient blessés », explique Zhang. « Il s’est senti très mal en voyant les réactions, notamment des artistes en crise de panique ou ayant supprimé leur portfolio entier. » Face à cette prise de conscience, l’étudiant décide de collaborer avec Zhang pour développer une solution.

UNE ERREUR DE JUGEMENT AUX CONSÉQUENCES LOURDES

L’étudiant, étudiant en Amérique du Nord et passionné de préservation numérique, révèle avoir agi par curiosité technique. Bien qu’il ait d’abord pensé que ces données pourraient servir à entraîner des modèles d’IA, il admet aujourd’hui avoir fait une erreur de jugement. « 12 millions d’images, ce n’est pas assez pour entraîner un modèle d’image », explique-t-il. Il précise que la plupart des laboratoires d’IA s’appuient sur des jeux de données à grande échelle, souvent issus d’organisations comme LAION, plutôt que sur des archives comme celle de Cara. « Les utilisateurs lambda peuvent déverser des montagnes de données sur Hugging Face, mais il est très peu probable qu’OpenAI ou Anthropic scannent chaque nouveau jeu de données pour l’utiliser », ajoute-t-il.

UNE COLLABORATION POUR RENFORCER LES PROTECTIONS

Après avoir rejoint le serveur Discord de Cara en tant que technicien, l’étudiant aide désormais l’équipe à identifier les failles structurelles qui permettent le scraping. « Il nous aide à expliquer pourquoi certaines solutions proposées ne fonctionnent pas », confie Zhang. Il montre comment certains Outils ou designs peuvent être contournés « en quelques minutes, littéralement ». Ensemble, ils travaillent sur une contre-mesure pour limiter les dégâts après le vol des données.

LANTERN : L'OUTIL QUI CHANGE LA DONNE

Leur projet s’appelle Lantern. Cet outil permet aux artistes de créer une « empreinte numérique à sens unique » pour leurs images, sans avoir à les stocker sur la plateforme. Lantern scanne régulièrement les nouveaux jeux de données d’images publiques utilisés pour l’entraînement de l’IA. Si une œuvre d’un artiste est repérée, celui-ci reçoit une notification ainsi qu’un lien vers le jeu de données concerné. Il peut alors demander le retrait de son image ou soumettre un avis de retrait.

Bien que Lantern en soit encore à ses débuts, il représente une solution imparfaite née d’un vide réglementaire. Zhang et l’étudiant espèrent offrir aux artistes un peu plus de contrôle et de visibilité sur la manière dont leur contenu est récupéré en ligne, même si les conditions d’utilisation de Cara interdisent déjà ce type de pratique.

UNE SOLUTION OUVERTE À TOUS

Puisque Lantern est un projet open source, n’importe qui peut contribuer à son code. Cette approche collaborative vise à améliorer la protection des artistes face à un problème qui ne fera que s’aggraver. « Les grandes plateformes sont scrapées plus souvent, ce qui rend les artistes encore plus vulnérables », explique Zhang. « Nous ne pouvons pas garantir une sécurité absolue, mais nous faisons de notre mieux pour limiter les risques. »

LES ATTAQUES SE MULTIPLIENT, LES ARTISTES DÉCOURAGÉS

Malgré les efforts de Cara, d’autres pirates continuent d’exploiter les failles de la plateforme. Certains partisans de l’IA, inspirés par l’acte de l’étudiant, mènent ce que Zhang qualifie d’attaques « copiées ». La frustration est palpable : certains utilisateurs ont déjà supprimé leur portfolio et quitté le site, estimant que Cara ne peut pas les protéger suffisamment. « Nous avons mis en place des mesures de sécurité temporaires, comme des portes d’entrée, mais ce n’est pas une solution miracle », explique Zhang. « Les gens pensent que quitter Cara les rendra plus en sécurité, mais c’est faux. Les plateformes plus grandes sont scrapées encore plus souvent. »

LES MESURES DE PROTECTION ACTUELLES : UNE SOLUTION PARTIELLE

Cara a mis en place plusieurs dispositifs pour limiter le scraping, comme des restrictions temporaires d’accès ou des vérifications supplémentaires lors de la connexion. Cependant, ces mesures ne suffisent pas à stopper totalement les attaques. Zhang souligne que le problème dépasse largement Cara : « Aucun site ne peut être rendu totalement invulnérable au scraping. C’est un problème qui touche tout internet. »

UNE PRISE DE CONSCIENCE COLLECTIVE

L’histoire de l’étudiant et de Cara illustre un tournant dans la lutte des artistes contre l’exploitation de leur travail par l’IA. Alors que les attaques se multiplient, des initiatives comme Lantern offrent une lueur d’espoir. Elles rappellent que la protection des créateurs passe aussi par des outils concrets et une solidarité accrue au sein de la communauté artistique. « Nous voulons donner aux artistes les moyens de reprendre le contrôle, même si la solution n’est pas parfaite », conclut Zhang.

UN PROBLÈME QUI DÉPASSE CARA

Les attaques contre Cara ne sont qu’un exemple parmi d’autres de la vulnérabilité des artistes face au scraping. Les grandes plateformes, malgré leurs ressources, sont régulièrement ciblées. Zhang rappelle que « les artistes doivent comprendre que le scraping est un phénomène généralisé. Quitter Cara ne les protégera pas, car le problème est systémique. » La collaboration entre l’étudiant et Cara montre qu’une réponse collective est possible, même si elle reste imparfaite.

L’AVENIR DE LA PROTECTION DES ARTISTES

Avec Lantern et d’autres initiatives en développement, les artistes disposent désormais d’outils pour surveiller l’utilisation de leur travail en ligne. Cependant, la bataille est loin d’être gagnée. Zhang et l’étudiant appellent à une régulation plus stricte pour protéger les créateurs, tout en continuant à développer des solutions techniques. « L’objectif n’est pas de rendre Cara invulnérable, mais de donner aux artistes les moyens de réagir quand leur travail est volé », explique Zhang. « Et ça, c’est déjà un grand pas en avant. »

UNE SOLUTION POUR TOUS LES CRÉATEURS ?

Bien que Lantern soit conçu pour Cara, son approche pourrait inspirer d’autres plateformes. L’open source permet à quiconque de l’adapter et de l’améliorer. « Nous voulons que cette solution soit accessible à tous les artistes, où qu’ils publient leur travail », précise Zhang. « Car le scraping n’est pas un problème réservé à Cara. C’est un enjeu qui concerne toute la communauté artistique. »

CONCLUSION : LA LUTTE CONTRE LE SCRAPING EST UNE COURSE SANS FIN

L’histoire de Cara et de Lantern montre que la protection des artistes face au scraping est un combat permanent. Entre les attaques massives, les solutions techniques imparfaites et l’absence de régulation claire, les créateurs restent en première ligne. Pourtant, des initiatives comme Lantern prouvent qu’il est possible de riposter, même modestement. « Nous ne pouvons pas tout contrôler, mais nous pouvons donner aux artistes les outils pour se défendre », conclut Zhang. « Et c’est déjà énorme. »