Anthropic : de petits modèles d’intelligence artificielle pourraient se reproduire de manière autonome d’ici quelques mois

Une estimation inquiétante d’Anthropic

Les petits modèles d’intelligence artificielle pourraient être à quelques mois seulement de pouvoir se reproduire de manière autonome sur des appareils de l’Internet des objets disponibles dans le commerce, selon les conclusions d’expériences menées par des chercheurs de la société Anthropic.

Ces expériences ont montré que les modèles sont capables de reconnaître des appareils inconnus, de les relier au sein d’un même réseau et de se préparer à y exécuter des modèles d’IA, comme le rapporte le site BleepingComputer. L’objectif est de créer des réseaux de bots distribués qui exécutent des tâches d’intelligence artificielle sans avoir besoin de centres de données.

Cependant, les chercheurs n’ont pas présenté de « ver » d’intelligence artificielle autonome capable de se reproduire de lui-même sur du matériel réel, se contentant de déployer le modèle Gemma4-26B-A4B de Google DeepMind sur 15 décodeurs TV fonctionnant sous Android.

Anthropic a déclaré : « Nos expériences indiquent que les petits modèles pourraient être à quelques mois de pouvoir se reproduire de manière autonome sur des appareils commerciaux de l’Internet des objets, tels que les fours intelligents et les téléviseurs de marques inconnues. »

Cinq modèles et des rôles distincts

L’entreprise a précisé qu’il serait difficile de mettre fin à un tel programme, car il n’existe aucun point central à désactiver ; bien que la propagation puisse être lente, le nombre d’appareils infectés pourrait doubler en l’espace de quelques jours.

Anthropic a utilisé des décodeurs TV bon marché fonctionnant sous Android et provenant de marques inconnues, ainsi que cinq modèles : Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 et GLM-5.2, et a attribué à chacun d’entre eux un rôle spécifique.

Les modèles Qwen3.5-9B et GLM-5.2 devaient initialiser le modèle Llama3.1-8B et le répartir pour effectuer l’inférence, c’est-à-dire exécuter les requêtes, tandis que Gemma4-26B-A4B a démontré la capacité du modèle à fonctionner sur 15 appareils simultanément, et qu’Opus 4.8 a été testé séparément en tant que conseiller du modèle Qwen.

Les tests ont été menés dans des conditions simplifiées, les appareils ciblés offrant un accès libre à l’outil ADB sans authentification, un outil de gestion Android utilisé pour administrer l’appareil.

Résultats mitigés et avertissement de sécurité

Le modèle Qwen3.5-9B a réussi à installer les logiciels nécessaires et à exécuter Llama3.1-8B sur huit des neuf types de matériel testés. Quant à GLM-5.2, il a atteint les huit nœuds du réseau simulé sous contrôle lors de quatre tentatives sur cinq, tandis que les autres modèles n’ont pas réussi à mener à bien l’opération de manière fiable.

Les résultats se sont améliorés lorsque Anthropic a conservé les données des tentatives précédentes ; le taux de réussite du Qwen3.5-9B est ainsi passé de 45 % au départ à 84 % dans les générations suivantes, tandis que l’aide apportée par le modèle le plus puissant, l’Opus 4.8, n’a pas permis d’obtenir d’amélioration notable.

Sur la base de ces résultats et des données historiques, Anthropic prévoit que les modèles dont la taille ne dépasse pas 30 milliards de paramètres atteindront le niveau requis d’ici la fin de l’année 2026.

Sur le matériel étudié, la préparation de l’inférence a pris entre 28 et 51 heures pour le Qwen3.5-9B, et entre 71 et 150 heures pour Gemma4-26B-A4B, ce qui laisse aux défenseurs le temps de détecter la menace et d’y réagir ; toutefois, ce délai pourrait se réduire avec les nouveaux modèles.

Cela a conduit les chercheurs à proposer une série de mesures, notamment la surveillance des transferts de modèles volumineux et des mouvements inhabituels entre les appareils, l’utilisation de « honeypots » pour analyser les charges, l’isolement des utilisateurs infectés et l’amélioration des paramètres de sécurité par défaut.

Il n’y a toutefois pas de danger immédiat, car l’expérience n’a pas montré un cycle complet de création d’un ver, même avec des paramètres de sécurité allégés et une cible de propagation clairement définie ; mais l’appel à renforcer la protection des appareils intelligents reste d’actualité.