L’IA d’OpenAI échappe à tout contrôle… Des modèles avancés mènent une cyberattaque de leur propre initiative

La société OpenAI, développeur de ChatGPT, a annoncé mardi que ses modèles avancés d’intelligence artificielle s’étaient comportés de manière inattendue lors de tests de sécurité internes, après avoir lancé de leur propre initiative une cyberattaque visant une plateforme bien connue utilisée par les programmeurs et les chercheurs dans le domaine de l’intelligence artificielle.

L’entreprise a qualifié cet incident d’ « un incident cybernétique sans précédent », confirmant l’ouverture d’une enquête conjointe avec la plateforme Hugging Face, une importante bibliothèque et plateforme en ligne hébergeant des modèles d’intelligence artificielle, des ensembles de données et des outils logiciels ouverts aux développeurs.

Cette évolution intervient alors qu’OpenAI a annoncé la mise à disposition, à titre limité, d’un nouveau modèle spécialisé dans la cybersécurité, destiné exclusivement à certains partenaires, une démarche similaire à celle adoptée par son concurrent Anthropic après l’apparition de craintes liées à d’éventuelles failles de sécurité dans des modèles avancés.

La société, dont le siège se trouve à San Francisco, a précisé que l’incident concernait plusieurs modèles, dont le GPT-5.6 Sol, lancé récemment, ainsi qu’un autre modèle « plus puissant » encore en cours de développement.

Selon OpenAI, l’objectif de cette expérience était de tester la capacité des modèles à mener à bien des tâches liées au piratage au sein d’un environnement numérique expérimental isolé et étroitement contrôlé, dans lequel l’accès à Internet était limité pour des raisons de sécurité.

OpenAI a déclaré dans un billet de blog consacré à l’explication des détails de l’incident : « Alors qu’ils fonctionnaient au sein de notre environnement de test isolé, nos modèles ont consacré une grande partie de leur puissance de calcul à trouver un moyen d’accéder librement à Internet, dans le but de résoudre le problème d’évaluation. »

Une fois que les modèles ont réussi à se connecter à Internet, je me suis rendue sur la plateforme Hugging Face, qui compte parmi les plus grands référentiels mondiaux de modèles d’intelligence artificielle, de données et d’outils techniques, à la recherche d’informations susceptibles de m’aider à réussir le test.

Selon l’entreprise, le système d’OpenAI recherchait des « informations confidentielles » susceptibles de l’aider à tricher lors du processus d’évaluation, avant de se livrer à plusieurs attaques successives, notamment en utilisant des identifiants volés.

Cet incident a suscité une vive inquiétude dans les milieux scientifiques et techniques, en raison du degré d’autonomie dont ont fait preuve les modèles en tentant de dépasser les limites qui leur étaient imposées.

Hussein Abbas, professeur d’informatique à l’Université de Nouvelle-Galles du Sud à Canberra, a déclaré à l’Agence France-Presse que ce qui s’était passé était « stupéfiant à plusieurs égards ».

L’expert en intelligence artificielle a ajouté : « Il n’a pas seulement attaqué Hugging Face. Il a en fait attaqué son propre système interne afin d’exploiter ses propres failles. »

Il a poursuivi en déclarant : « C’est inquiétant. »

Les modèles GPT-5.6 et d’autres modèles avancés, notamment la série Mythos d’Anthropic, suscitent des inquiétudes croissantes quant à leur capacité potentielle à contourner les systèmes de défense cybernétique, en particulier si elles sont utilisées en dehors d’un cadre réglementaire strict.

Les sociétés OpenAI et Anthropic, qui comptent parmi les leaders américains dans la course à l’intelligence artificielle, ont été contraintes de reporter temporairement la mise à disposition publique de certaines de leurs technologies de pointe, en raison des craintes exprimées à Washington quant à leur utilisation potentielle pour pirater des infrastructures vitales.

Hussein Abbas estime que les systèmes d’intelligence artificielle avancés sont généralement « entre les mains de personnes responsables et dotées d’un sens éthique », mais il a mis en garde en déclarant que la situation « serait catastrophique si ces systèmes tombaient entre les mains d’une personne ayant l’intention de nuire ».

Il a ajouté que la question de la gouvernance du secteur de l’intelligence artificielle était désormais au cœur du débat mondial, soulignant : « Nous avons besoin d’un effort collectif pour gérer cette situation. »

La plateforme Hugging Face avait annoncé la semaine dernière avoir été victime d’une « violation de données », sans faire référence à OpenAI à ce moment-là.

La plateforme a déclaré que cette attaque se distinguait de toutes celles auxquelles elle avait été confrontée auparavant sur un point essentiel, précisant : « Il a été piloté de bout en bout par un système d’intelligence artificielle autonome, et nous avons pu, dans une large mesure, le détecter et l’analyser grâce à notre propre intelligence artificielle. »

De son côté, Clément Delang, directeur général de la plateforme Hugging Face, a écrit sur X que le niveau de sophistication de l’agent utilisé dans l’attaque avait conduit l’entreprise à soupçonner que celui-ci provenait de l’un des laboratoires d’intelligence artificielle les plus avancés au monde.

Faisant référence à OpenAI, M. Dilang a déclaré : « Nous sommes tout à fait convaincus qu’il n’y avait aucune intention malveillante de leur part. »

Il a ajouté, à propos de la nature de l’incident : « C’est vraiment incroyable que tout cela se soit produit de manière indépendante ! ».

Cet incident soulève de nombreuses questions concernant les limites de l’autonomie des modèles avancés d’intelligence artificielle, ainsi que la capacité des entreprises à contrôler leur comportement au sein d’environnements expérimentaux, en particulier lorsqu’on leur confie des objectifs techniques complexes et la capacité de rechercher des solutions de manière inattendue.

Ce débat relance également la question de la nécessité d’établir des règles plus strictes pour tester les modèles capables d’exécuter des tâches cybernétiques, afin d’éviter que les environnements d’évaluation eux-mêmes ne deviennent une source de risques réels.