Meta suspend son programme de surveillance des employés… Une fuite de données sensibles déclenche une crise interne
La société Meta a suspendu un programme interne controversé qui visait à suivre l’activité de ses employés sur leurs ordinateurs, afin d’utiliser ces données pour entraîner des modèles d’intelligence artificielle, et ce, à la suite d’un incident ayant entraîné la divulgation à grande échelle d’informations sensibles au sein de l’entreprise.
Ce programme, connu sous le nom de « Model Capability Initiative », avait été lancé en avril dernier et reposait sur l’enregistrement des frappes au clavier, des clics de souris et des contenus consultés par les employés lorsqu’ils utilisaient leurs ordinateurs.
Selon les informations qui ont circulé, l’objectif de ce programme était de collecter des données permettant de développer les modèles d’intelligence artificielle de l’entreprise ; toutefois, il a suscité de vives critiques dès son lancement, avant que Meta ne décide de le suspendre temporairement à la suite d’une fuite de données.
Au cours des dernières semaines, plus de 1 600 employés de Meta, parmi lesquels des ingénieurs en informatique, des chercheurs et des concepteurs, ont signé une pétition demandant l’arrêt de la collecte des données provenant des appareils des employés et de leur réutilisation pour l’entraînement de l’intelligence artificielle.
La pétition stipule : « Nous sommes convaincus que l’autonomisation des individus et des communautés par le développement d’une intelligence artificielle responsable passe par le respect de leur vie privée et de leurs limites personnelles. Toute approche reposant sur la collecte de données de manière intrusive, coercitive ou sans consentement est contraire à ce principe. »
Selon un article publié par le site Business Insider, le logiciel surveillait l’utilisation de plusieurs applications, notamment Gmail et Google Chat, ainsi que MetaMate, l’assistant d’intelligence artificielle interne de l’entreprise. Il réalisait également des captures d’écran sur les appareils des employés.
On ne sait pas encore si Meta prévoit de relancer le programme à une date ultérieure, ou si la suspension actuelle pourrait déboucher sur une interruption définitive.
Dans le même ordre d’idées, le site Wired a indiqué, en s’appuyant sur une alerte de sécurité interne et sur les déclarations de trois employés de Meta, que des conversations privées, des commandes adressées aux systèmes d’intelligence artificielle, des transcriptions et des évaluations de performance des employés sont désormais accessibles « à toute personne au sein de l’entreprise ».
Un porte-parole de Meta a confirmé, dans un communiqué obtenu par Wired, que l’entreprise avait ouvert une enquête sur cet incident et décidé de suspendre le programme de suivi des données pour une durée indéterminée.
Le porte-parole a déclaré : « Nous avons conçu ce programme dans le respect des règles de confidentialité, et nous ne disposons à ce jour d’aucun élément indiquant que des employés de Meta auraient accédé aux données de manière inappropriée, mais nous allons le suspendre temporairement jusqu’à la fin de l’enquête. »
Ces évolutions interviennent alors que les grandes entreprises technologiques continuent d’investir massivement dans le domaine de l’intelligence artificielle : Meta prévoit ainsi de consacrer au moins 135 milliards de dollars cette année à ses infrastructures d’intelligence artificielle.
Ces chiffres restent toutefois inférieurs aux investissements réalisés par d’autres entreprises du même secteur : les prévisions de dépenses d’Amazon s’élèvent en effet à environ 200 milliards de dollars, contre 190 milliards de dollars pour Microsoft et 185 milliards de dollars pour Alphabet.
Meta AI, le principal chatbot de l’entreprise, constitue un élément central de la gamme de produits de Meta, puisqu’il a été intégré à des plateformes très utilisées telles que WhatsApp, Instagram et Facebook.
Selon un enregistrement audio divulgué d’une réunion interne qui s’est tenue le 30 avril, le PDG Mark Zuckerberg a déclaré que l’utilisation des données des employés pour entraîner des modèles d’intelligence artificielle semblait logique.
Il a ajouté : « Les modèles d’intelligence artificielle apprennent en observant des personnes très intelligentes dans l’exercice de leurs fonctions… Et le niveau d’intelligence moyen des employés de cette entreprise est bien supérieur à celui des personnes auxquelles on pourrait faire appel pour accomplir ces tâches. »
Pour sa part, Rory Meir, directeur du programme « Accès libre et engagement communautaire technique » au sein de l’Electronic Frontier Foundation, une organisation de défense des droits numériques, a estimé que l’opposition des employés de Meta à ce programme était justifiée, en raison des préoccupations qu’il soulève en matière de vie privée, de consentement et de confiance.
M. Mir a déclaré : « La recherche de nouvelles données pour l’entraînement de l’intelligence artificielle ne justifie pas ces pratiques. La surveillance excessive des employés constitue un abus de pouvoir et souligne la nécessité d’une législation protégeant la vie privée des travailleurs et obligeant les entreprises à obtenir leur consentement et à respecter les procédures légales. »
Cette affaire intervient à un moment où les entreprises renforcent la surveillance de l’utilisation des outils d’intelligence artificielle par leurs employés sur leur lieu de travail. Selon un reportage de CNBC publié en mai dernier, la plupart des entreprises du classement Fortune 500 surveillent désormais le degré de recours de leurs employés aux technologies d’intelligence artificielle, dans le but d’évaluer leur utilité et d’optimiser le rendement de ces outils.
La crise de Meta met en lumière une question qui prend de plus en plus d’importance dans le secteur des technologies : dans quelle mesure les entreprises peuvent-elles utiliser les données de leurs employés pour développer l’intelligence artificielle sans porter atteinte à la vie privée et à la confiance au sein de l’environnement de travail ?
