Meta a exposé les données de ses employés : le scandale qui inquiète l'IA

UNE FUITE DE DONNÉES MASSIVE DANS L'ENTREPRISE

Une faille de sécurité d'envergure a été découverte chez Meta. Selon un avis interne consulté par WIRED et trois employés actuels, l'entreprise a laissé des informations potentiellement sensibles accessibles à n'importe quel salarié. Ces données, collectées dans le cadre d'un programme controversé d'entraînement de modèles d'intelligence artificielle, incluraient notamment les frappes au clavier, les clics de souris et le contenu affiché à l'écran des ordinateurs portables des employés américains de Meta.

META AVoue ET SUSPEND SON PROGRAMME DE SURVEILLANCE

Un porte-parole de Meta, Tracy Clayton, a d'abord confirmé à WIRED que l'entreprise enquêtait sur cette faille. Peu après, il a annoncé la suspension indéfinie du programme de collecte de données. « Nous avons conçu ce programme avec des mesures de protection de la vie privée, et bien que nous n'ayons aucune indication pour l'instant que des données aient été consultées de manière inappropriée par des employés de Meta, nous le suspendons le temps de l'enquête », a-t-il déclaré.

45 000 TABLES DE DONNÉES EXPOSÉES : CE QUE CONTIENT LA FUITE

L'avis de sécurité envoyé lundi indique que les données de « 45 000 tables de données » d'employés ont été exposées. Parmi ces tables figuraient des informations comme des « prompts complets et transcriptions, conversations privées, données sur les personnes et les performances », selon des documents consultés par WIRED.

LES EMPLOYÉS RÉAGISSENT : LE PROGRAMME DE SURVEILLANCE DÉJÀ CRITIQUÉ

Dès l'annonce de la faille, certains employés ont réagi vivement. Dans des forums internes, ils ont estimé que cette fuite validait les craintes qu'ils avaient exprimées lorsque Meta avait commencé à surveiller les ordinateurs portables de ses salariés en avril, dans le cadre d'un programme baptisé Model Capability Initiative (MCI).

Des messages postés sur les forums internes lundi posaient des questions sur l'échec des revues de confidentialité à prévenir la fuite. D'autres demandaient si tous les employés dont les données avaient potentiellement été exposées seraient invités à une réunion pour comprendre ce qui s'était passé.

L'ENQUÊTE EST CLOSÉE, MAIS LES QUESTIONS RESTENT

Des sources internes, non autorisées à s'exprimer publiquement, ont indiqué à WIRED que l'incident avait été marqué comme clos, ce qui suggère qu'il avait probablement été résolu.

Andrew Bosworth, directeur technique de Meta, a répondu aux questions des employés dans un message interne consulté par WIRED. Il a admis que la mise en œuvre du programme de surveillance n'avait pas atteint les standards définis dans sa revue de confidentialité. « Nous avions des listes de contrôle d'accès mal configurées, et nous devons comprendre comment cela s'est produit, retrouver chaque accès aux données et le comprendre », a-t-il écrit.

UN PROGRAMME PRÉSENTÉ COMME « SOUS CONTRÔLE »

Il y a quelques mois, Bosworth avait rassuré les employés inquiets de fuites potentielles de données en affirmant que le programme de surveillance était « strictement contrôlé ». Il avait alors précisé qu'il utilisait les mêmes normes de protection, systèmes de stockage et contrôles d'accès que les autres jeux de données sensibles de l'entreprise, selon des messages internes consultés par WIRED.

1 600 EMPLOYÉS SIGNENT UNE PÉTITION CONTRE LA SURVEILLANCE

Le mois dernier, plus de 1 600 employés de Meta ont signé une pétition interne pour protester contre ce programme de surveillance des ordinateurs portables. Dans ce texte, ils mettaient en garde contre les « risques de sécurité et réglementaires » pour Meta, incluant la possibilité de fuites et de divulgations non autorisées. Les signataires exprimaient également des inquiétudes quant aux mesures de protection jugées insuffisantes par l'entreprise.

Un ingénieur a même rédigé une note interne largement partagée, décrivant le fait que son écran d'ordinateur était scruté pour entraîner des modèles d'IA sans son consentement comme une « intrusion dans sa vie privée » et une forme d'exploitation.

META DÉFEND SON PROGRAMME : L'IA A BESOIN DE DONNÉES HUMAINES

Les dirigeants de Meta ont jusqu'à présent défendu ce projet de collecte de données, affirmant qu'il était nécessaire pour entraîner les systèmes d'IA à utiliser les logiciels comme le font les humains. Lors d'une réunion interne enregistrée et fuite le mois dernier, Mark Zuckerberg, PDG de Meta, avait expliqué aux employés que « les modèles d'IA apprennent en observant des personnes très compétentes faire des choses », ajoutant que « l'intelligence moyenne des personnes travaillant chez Meta est significativement plus élevée » que celle des prestataires externes qui pourraient être embauchés spécifiquement pour produire ce type de données.

META ACCORDE DES EXEMPTIONS, MAIS LA COLÈRE PERSISTE

Face à la grogne des employés, Meta a commencé ce mois-ci à offrir davantage d'exemptions au programme de surveillance. Selon deux personnes familières avec la situation, les salariés peuvent désormais désactiver brièvement la surveillance pour accomplir des tâches sensibles, comme prendre un rendez-vous personnel. Malgré cela, certains employés réclament l'arrêt total du programme.

META SOUS SURVEILLANCE RÉGLEMENTAIRE : UNE AMENDE DE 2040 EN JEU

Meta fait face à une surveillance réglementaire plus stricte que la plupart des entreprises en matière de sécurité des données. L'entreprise est soumise à un décret de consentement de la Federal Trade Commission (FTC) américain, expirant en 2040, qui l'oblige à maintenir des processus pour éviter les fuites. Pourtant, des employés actuels et anciens ont confié à WIRED que ces exigences étaient inadéquates et dépassées. Meta a également commencé à externaliser certaines revues de programmes et fonctionnalités pour détecter d'éventuels risques de confidentialité et de sécurité vers des Outils d'intelligence artificielle. Il n'est pas encore clair si l'IA a joué un rôle dans la faille de contrôle d'accès liée aux données du MCI.

UNE FUITE QUI AGGRAVE LA CRISE MORALE CHEZ META

Cet incident risque d'aggraver la crise morale qui secoue Meta depuis plusieurs années. Les employés sont frustrés par les licenciements massifs, une réorganisation chaotique et une course effrénée au développement de modèles et fonctionnalités d'IA. En mars, Meta a créé une nouvelle équipe d'IA appliquée et a redirigé environ 6 500 employés vers de nouveaux rôles axés sur l'amélioration des modèles d'IA. Certains membres du personnel décrivent les projets qui leur sont attribués comme fastidieux et « déprimants ».

Bosworth a envoyé un mémo aux employés la semaine dernière pour s'excuser de la communication « atroce » de Meta concernant la réorganisation liée à l'IA. Il a promis des améliorations, notamment une communication plus claire et le retour de certains avantages en présentiel.