L'arnaque qui utilise ChatGPT pour piéger des milliers de victimes en Asie

Au début de cette année, OpenAI a démantelé un réseau d’arnaques basé au Cambodge qui utilisait ChatGPT pour organiser des escroqueries aux investissements, aux rencontres amoureuses, aux jeux d’argent et même à l’usurpation d’identité des forces de l’ordre. Cette découverte fait suite à une alerte transmise par des partenaires comme WhatsApp. Les signaux de menace identifiés ont ensuite été partagés avec d’autres acteurs du secteur et les autorités compétentes.

LES RÉSEAUX D’ARNAQUES MODERNES : UNE MULTITUDE DE TECHNIQUES

Les enquêtes menées par OpenAI révèlent une réalité glaçante : les groupes criminels organisés ne se contentent pas d’un seul type d’arnaque. Ils testent sans cesse de nouvelles méthodes, combinent plusieurs techniques et changent de stratégie en fonction des résultats. Dans leurs opérations, les criminels passent d’une arnaque à l’autre ou mélangent plusieurs approches au sein d’un même réseau.

Certains utilisateurs de ce réseau ont même produit du contenu laissant supposer des liens avec des réseaux de trafic d’êtres humains et de travail forcé. Ces observations correspondent à de nombreux rapports publics qui décrivent des groupes criminels en Asie du Sud-Est recrutant des travailleurs avec des promesses d’emploi légitime avant de les piéger dans des systèmes de dette forcée et de coercition. Bien qu’OpenAI ne puisse pas déterminer les circonstances exactes de chaque individu impliqué, cette activité rappelle que les personnes qui commettent ces arnaques peuvent elles-mêmes être victimes d’exploitation.

UN RÉSEAU D’ARNAQUES LIÉ À POIPET, AU CAMBODGE

OpenAI a banni un réseau coordonné de comptes ChatGPT probablement originaires du Cambodge, et qui opéraient vraisemblablement dans ou autour de Poipet, une ville de la province de Banteay Meanchey. Plusieurs rapports publics ont déjà établi des liens entre cette ville et des compounds d’arnaques en ligne ainsi que des opérations de trafic humain.

Ce réseau utilisait les modèles d’OpenAI pour créer et gérer des personnages en ligne fictifs, générer et traduire des messages destinés aux victimes, produire du contenu promotionnel pour leurs arnaques, et même assister dans la gestion quotidienne de leurs opérations.

DES Outils POUR ADMINISTRER LE RÉSEAU

Comme pour d’autres réseaux d’arnaques démantelés par le passé, une partie des utilisateurs employait ChatGPT pour des tâches administratives. Cela incluait la rédaction d’annonces internes, la traduction de messages entre employés, ou encore la documentation de sujets liés au recrutement, au statut d’immigration, aux conditions de travail et à la discipline des employés.

DES ARNAQUES QUI SE MÉLANGENT POUR PIÉGER LES VICTIMES

Les criminels de ce réseau organisaient plusieurs types d’arnaques en parallèle, souvent en combinant des éléments de différentes méthodes. Par exemple, certains utilisaient des profils fictifs de rencontres pour gagner la confiance de leurs cibles avant de leur proposer des opportunités d’investissement frauduleuses dans des cryptomonnaies ou de l’or spot. D’autres engageaient des conversations romantiques interminables avec leurs victimes sous de fausses identités, se faisaient passer pour des représentants de plateformes de jeux en ligne promettant de faux bonus et gains, ou encore usurpaient l’identité de forces de l’ordre pour informer leurs cibles qu’elles devaient payer des amendes pour des infractions graves.

Malgré la diversité des scénarios, les utilisateurs de ce réseau suivaient tous le même schéma de tromperie. Ils créaient et géraient des profils fictifs de rencontres, des experts en investissement bidon et des personnages de forces de l’ordre frauduleux. Ils généraient également des images de documents falsifiés, comme des passeports, des avis juridiques, des confirmations d’achat d’actions ou encore des interfaces de plateformes de jeux.

LA MÉTHODE DU « PING », « ZING » ET « STING »

Dans des rapports précédents, OpenAI avait déjà mis en lumière un schéma récurrent dans les interactions des escrocs avec leurs victimes. Ce schéma, surnommé le ping, le zing et le sting, se décompose ainsi :

• Le ping : une première prise de contact pour attirer l’attention de la victime.
• Le zing : une tentative de générer une émotion forte (amour, peur, espoir) pour créer un lien.
• Le sting : l’extraction d’argent une fois la confiance établie.

D’AUTRES ACTIVITÉS ILLÉGALES DÉTECTÉES

En plus des arnaques, certains utilisateurs de ce réseau ont produit du contenu suggérant leur implication dans d’autres activités illégales que OpenAI détecte et combat, comme le trafic d’êtres humains ou le travail forcé. Cela incluait notamment la création d’annonces sur les réseaux sociaux pour des emplois à Poipet, promettant des billets d’avion, un logement, des repas, des visas et des permis de travail.

D’autres activités semblaient liées à la gestion des travailleurs au sein de l’opération. Les utilisateurs maintenaient des registres de dettes des employés, des retenues sur salaire, des amendes disciplinaires et des remboursements de prêts. Ils traduisaient également des discussions sur les statuts d’immigration, les permis de travail, les dépassements de visa et les incitations au recrutement.

Certaines conversations faisaient même référence à des détentions apparentes, des tentatives d’évasion et des risques de poursuites pénales pour des personnes qui avaient été victimes de trafic et forcées de travailler dans ces opérations d’arnaque. Bien que ces échanges ne permettent pas de déterminer les circonstances exactes de chaque individu, ils correspondent à de nombreux rapports publics décrivant les activités de groupes criminels organisés en Asie du Sud-Est.

UNE ACTION POUR EMPÊCHER LE RETOUR DES ESCROCS

OpenAI a banni les comptes ChatGPT associés à cette opération, partagé les indicateurs pertinents avec les partenaires du secteur et les autorités compétentes, et pris des mesures pour rendre plus difficile le retour de ces acteurs sur ses produits et services.

DES VICTIMES PERDUANT DES MILLIERS DE DOLLARS

Les conversations des utilisateurs faisaient référence à des victimes perdant individuellement des milliers de dollars, bien qu’OpenAI ne puisse pas vérifier de manière indépendante ces affirmations.

DEUX TENDANCES QUI SE REINFORCENT

Ce cas illustre deux tendances majeures dans le domaine des arnaques en ligne. D’abord, les réseaux criminels organisés peuvent être extrêmement diversifiés : ils mènent plusieurs types d’arnaques simultanément plutôt que de se limiter à une seule méthode. Ensuite, les frontières entre les fraudes en ligne, la criminalité organisée et le trafic d’êtres humains sont souvent floues.

Pour être efficace, la lutte contre ces réseaux doit donc cibler non seulement les activités d’arnaque visibles par les victimes, mais aussi les organisations criminelles qui les orchestrent et en tirent profit.

POURQUOI CETTE AFFAIRE EST IMPORTANTE

Cette opération démontre comment des outils comme ChatGPT peuvent être détournés à des fins malveillantes par des criminels. Elle rappelle aussi que les arnaques en ligne ne sont pas de simples escroqueries isolées : elles s’inscrivent souvent dans des réseaux criminels bien organisés, liés à des activités encore plus graves comme le trafic d’êtres humains.

En démantelant ce réseau, OpenAI montre qu’il est possible de lutter contre ces menaces, mais aussi que la vigilance doit rester constante pour protéger à la fois les utilisateurs et les potentielles victimes.