Les dirigeants de plus de 20 pays réclament des règles contraignantes en matière d’intelligence artificielle
Les dirigeants de plus de vingt pays ont appelé à l'instauration de mesures de sécurité contraignantes pour les systèmes d'intelligence artificielle avancés, avertissant que la rapidité avec laquelle cette technologie évolue pourrait dépasser la capacité des gouvernements et des institutions à la surveiller et à en maîtriser les risques.
Dans une déclaration commune, ces dirigeants ont indiqué que les modèles d’intelligence artificielle les plus avancés pourraient constituer « des risques graves pour la sûreté et la sécurité » s’ils étaient mal utilisés ou insuffisamment contrôlés.
Le communiqué fait référence à des incidents récents, qui, selon les dirigeants, ont démontré la capacité de certains systèmes d’IA à contourner les contrôles de test et à accéder sans autorisation à des systèmes réels, notamment le piratage de la plateforme « Hagging Face » en juillet.
Des pays européens, africains et asiatiques ont signé la déclaration
La liste des signataires comprenait les dirigeants de la Norvège, de la Finlande, de l’Australie, du Canada, de l’Allemagne, de l’Espagne, de l’Irlande, des Pays-Bas, de Singapour, de l’Afrique du Sud et du Kenya, ainsi que la présidente de la Commission européenne, Ursula von der Leyen.
En revanche, les États-Unis et la Chine n’ont pas signé la déclaration, malgré leur position de premier plan dans le secteur de l’intelligence artificielle ; le Royaume-Uni, la France, le Japon et l’Inde en sont également absents.
Selon le texte, la porte reste ouverte à d’autres parties souhaitant rejoindre l’initiative à l’avenir.
Tests obligatoires et contrôle indépendant
Les dirigeants ont appelé les entreprises développant l’intelligence artificielle à adopter des normes de sécurité claires et transparentes, comprenant la réalisation de tests obligatoires et la soumission des systèmes à une évaluation indépendante.
Ils ont également insisté sur la nécessité que l’intelligence artificielle reste « soumise à l’orientation, à la supervision et au contrôle humains », tout en soulignant que le renforcement de la surveillance ne doit pas conduire à un creusement des écarts entre les pays quant à leur capacité à tirer parti de cette technologie.
Les signataires ont proposé que les États membres de l’ONU examinent la possibilité de créer une institution internationale spécialisée chargée d’élaborer des normes, de contrôler leur respect et de convoquer des réunions des États concernés lorsque certains seuils de capacités techniques sont franchis.
L’intelligence artificielle au cœur des débats de l’ONU
Cette déclaration a été publiée à la veille de l’ouverture de la session de l’Assemblée générale des Nations unies à New York, où l’intelligence artificielle devrait occuper une place prépondérante dans les débats, notamment en ce qui concerne son impact sur l’emploi, la cybersécurité et la société.
Les dirigeants devraient aborder, au cours de ces réunions, la possibilité de mettre en place un cadre international plus coordonné pour réglementer cette technologie.
Selon l’article, le président américain Donald Trump avait exprimé son refus de renforcer les mesures de sécurité dans le secteur de l’intelligence artificielle, s’engageant samedi à ne pas laisser « détruire » ce secteur.
Le rapport indique également que des responsables économiques américains et chinois ont examiné, dimanche, la possibilité de créer un canal de communication dédié à la discussion des préoccupations liées à l’intelligence artificielle, parallèlement aux préparatifs d’un prochain sommet entre les présidents des deux pays.
