Les hackers crient leur haine du 'slop' IA : 'Arrêtez de poster cette merde'

La plainte paraît familière. « Je suis déçu que vous cherchiez à intégrer des ordures d’IA dans le site », déplorait un utilisateur anonyme. « Personne ne demande ça, on veut que vous amélioriez le site, arrêtez de facturer les nouvelles fonctionnalités. » Mais ici, il ne s’agit pas d’un internaute lambda mécontent de voir l’IA s’immiscer dans son application préférée. Non, cette personne se plaint du projet d’un forum de cybercriminalité d’introduire plus d’IA générative. Comme des millions d’autres, les escrocs, les fraudeurs et les petits hackers en ont assez de l’IA qui envahit leur quotidien et de la prolifération de contenus IA de piètre qualité dans leurs communautés en ligne.

UNE ÉTUDE CONFIRME LE RAS-LE-BOL

« Les gens n’aiment pas ça », résume Ben Collier, chercheur en sécurité et maître de conférences à l’Université d’Édimbourg. Dans le cadre d’une récente étude sur l’utilisation de l’IA par les cybercriminels de bas niveau, Collier et ses collègues ont repéré un rejet croissant de l’IA générative sur les forums clandestins et dans les groupes de hacking. L’étude, menée avec des chercheurs des Universités de Cambridge et de Strathclyde, montre un basculement : pendant les deux dernières années de frénésie autour de l’IA, de nombreux habitués sont passés d’un enthousiasme initial à un scepticisme marqué.

97 895 CONVERSATIONS PASSÉES AU CRIBLE

Les chercheurs ont analysé 97 895 conversations liées à l’IA sur les forums de cybercriminalité, depuis le lancement de ChatGPT en 2022 jusqu’à la fin de l’année dernière. Ils y ont constaté des plaintes contre des « résumés à puces » de concepts basiques en cybersécurité, des récriminations sur la multiplication des posts de mauvaise qualité, et des inquiétudes quant aux résumés de Recherche de Google générés par IA, qui feraient chuter le trafic vers ces forums.

DES FORUMS AU CŒUR DE LA CYBERCRIMINALITÉ

Depuis des décennies, des forums et des places de marché de cybercriminalité, souvent d’origine russe, permettent aux escrocs de faire affaire. On y échange des données volées, on y propose des jobs de hacking, et les fraudeurs y règlent leurs comptes. Même si les escrocs essaient souvent de s’arnaquer entre eux, ces espaces ont un véritable sens communautaire : les utilisateurs bâtissent une réputation de fiabilité et les propriétaires organisent des concours d’écriture.

L’IA, MENACE POUR LA RÉPUTATION

Ben Collier explique que la dynamique sociale des groupes est perturbée quand des apprentis cybercriminels tentent de se faire bien voir en postant des tutoriels de hacking générés par IA. « Je pense que beaucoup sont ambivalents vis-à-vis de l’IA parce qu’elle sape leur prétention à être des personnes compétentes », ajoute-t-il.

« ARRÊTEZ DE POSTER CETTE MERDE D’IA »

Sur Hack Forums, un espace autoproclamé pour les passionnés de hacking et d’échange de techniques, les posts examinés par WIRED montrent une franche irritation. « Je vois plein de membres utiliser l’IA pour leurs threads et leurs posts, et ça me gonfle parce qu’ils ne prennent même pas le temps d’écrire une phrase ou deux », écrit un contributeur. Un autre est plus direct : « Arrêtez de poster cette merde d’IA. »

« JE VIENS ICI POUR L’INTERACTION HUMAINE »

Collier note que sur plusieurs forums, les utilisateurs sont agacés par les posts IA parce qu’ils cherchent avant tout à se faire des amis. « Si je voulais parler à un chatbot IA, il y a plein de sites pour ça… Je viens ici pour l’interaction humaine », peut-on lire dans un message cité par l’étude.

L’IA AU SERVICE DU HACKING ?

Depuis l’arrivée de ChatGPT fin 2022, on spécule beaucoup sur les capacités de hacking de l’IA et sur la transformation de la cybercriminalité. Hackers aguerris comme débutants tentent déjà d’en tirer parti. Si certains fraudeurs organisés dopent leurs opérations avec des technologies de deepfake toujours plus réalistes et des messages d’ingénierie sociale traduits par IA, l’attention s’est beaucoup portée sur la capacité de l’IA générative à écrire du code malveillant et à dénicher des vulnérabilités.

LES HACKERS CHEVRONNÉS RESTENT PRUDENTS

« Les acteurs plus sophistiqués connaissent les limites des modèles commerciaux bridés et savent comment contourner ces protections », explique Ian Gray, vice-président du renseignement chez Flashpoint. Il évoque les garde-fous mis en place par OpenAI, Anthropic et Google. « Ils se méfient aussi des projets générés par IA sur les forums ou les marketplaces, car ils présentent des faiblesses et des vulnérabilités, exposant parfois l’infrastructure sous-jacente. »

LE MODÈLE CLAUDE MYTHOS PREVIEW SÈME L’INQUIÉTUDE

Flashpoint a observé que des hackers discutent récemment des capacités potentielles de Claude Mythos Preview, le dernier modèle d’Anthropic, ce qui a semé la panique dans le secteur de la cybersécurité. Certains cybercriminels ont même dénigré d’autres groupes qu’ils accusent de ne plus rien savoir faire sans IA : « Tout ce qu’ils savent faire, c’est utiliser l’IA », raille l’un d’eux selon l’analyse de Flashpoint.

PAS DE RÉVOLUTION… POUR L’INSTANT

Collier précise que parmi les cybercriminels de bas niveau suivis par l’étude, aucun signe évident de disruption majeure causée par l’IA n’a été relevé. « L’IA n’a pas significativement abaissé la barrière des compétences, ni entraîné de bouleversements sérieux des pratiques ou des modèles économiques établis », indique l’étude. Son principal impact concerne des domaines déjà très automatisés comme la fraude au référencement, les bots sur les réseaux sociaux et certaines formes d’arnaques sentimentales.

CERTAINS VOIENT DU POTENTIEL

Malgré cet accueil glacial, des voix s’élèvent pour envisager une IA utile. Sur Hack Forums, quelques intervenants disent qu’ils accueilleraient favorablement un assistant IA qui les aiderait à structurer leurs posts et à améliorer la grammaire, à condition qu’il ne poste pas à leur place. « Un générateur de posts IA transformerait ce forum en un concert de casseroles où les IA se parleraient entre elles », écrit un membre.

UN PROJET DE MARCHÉ NOIR « AMÉLIORÉ PAR L’IA »

Les chercheurs de Flashpoint ont aussi repéré des discussions autour de la création d’un marché cybercriminel « amélioré par l’IA », présenté comme un moyen d’aider à acheter des données volées et des comptes en ligne plus rapidement. Tout le monde n’est pas convaincu. Comme l’écrit un internaute : « C’EST UNE IDÉE À LA CON D’INTÉGRER L’IA DANS VOTRE MARCHÉ. »