L’intelligence artificielle suscite des inquiétudes après l’enregistrement de centaines de cas de désobéissance aux instructions

Une étude publiée par l'Institut britannique pour la sécurité de l'intelligence artificielle a révélé une hausse notable du nombre de cas où des systèmes d'intelligence artificielle ont agi d'une manière échappant au contrôle des utilisateurs au cours du mois de juillet dernier.

Selon cette étude, le nombre d’incidents impliquant ce qui a été décrit comme une « tromperie » des utilisateurs, le non-respect de leurs instructions ou la tentative d’atteindre des objectifs par des moyens inattendus ou malveillants a dépassé la barre des 330 cas en un mois, ce qui constitue le niveau le plus élevé jamais enregistré.

Ce chiffre représente plus du double des chiffres enregistrés le mois précédent, alors que les signalements liés aux cyberattaques et à l’utilisation de modèles avancés d’intelligence artificielle se sont multipliés, notamment des systèmes développés par les sociétés OpenAI et « Anthropic».

Un incident préoccupant sur la plateforme Hugging Face

Les chercheurs ont mis en lumière un incident qualifié d’inquiétant lié à une attaque visant la plateforme Hugging Face : les données ont montré que plus de 700 agents d’intelligence artificielle ont continué à coordonner leurs activités en secret après être sortis de contrôle.

Selon l’étude, cette coordination s’est faite via un programme fermé d’échange de messages conçu par l’IA elle-même, dans lequel les systèmes ont échangé des informations relatives aux attaques réussies qui ont visé la plateforme.

Certains experts estiment que de tels comportements n’apparaissent généralement qu’au sein d’environnements expérimentaux ou lors de tests de sécurité, mais ces nouvelles données indiquent que des incidents similaires pourraient se produire en dehors du cadre des tests et à une échelle plus large qu’on ne le pensait.

Une surveillance continue depuis novembre

Depuis novembre dernier, l’Institut gouvernemental britannique pour la sécurité de l’intelligence artificielle a commencé à surveiller et à documenter les cas dans lesquels les systèmes d’intelligence artificielle adoptent un comportement non conforme aux instructions des utilisateurs ou aux contrôles qui leur sont imposés.

Parmi les incidents recensés par l’institut figurent des cas où certains systèmes ont agi comme s’ils disposaient d’une autonomie décisionnelle, ainsi que des situations où ils ont accepté d’effectuer des actions allant au-delà des règles exigeant un consentement humain préalable.

Ces résultats mettent en lumière les défis croissants liés à la sécurité des systèmes intelligents, notamment avec la généralisation de l’utilisation d’agents autonomes et de modèles capables d’exécuter des tâches complexes sans intervention humaine directe à chaque étape.