Les risques liés à l’IA s’accumulent. D’après une nouvelle étude d’Anthropic, les téléviseurs connectés, les aspirateurs robots et d’autres objets du quotidien pourraient devenir les supports de nouvelles cybermenaces liées à l’intelligence artificielle. Elle démontre que des modèles peuvent exécuter certaines étapes nécessaires à leur propre réplication sur des appareils grand public peu coûteux. Cette découverte soulève des inquiétudes sur l’apparition de vers informatiques capables de se propager de manière autonome, de s’adapter à différents équipements et de compliquer le travail des spécialistes en cybersécurité.
On savait déjà que les objets connectés (téléviseur, aspirateur robot, etc.) pouvaient être piratés et servir de moyens d’attaques cyber. Une nouvelle menace s’y ajoute, venant directement de l’intelligence artificielle, une technologie qui ne cesse de susciter des inquiétudes. Dans une étude publiée le 12 octobre, des chercheurs d’Anthropic ont démontré en laboratoire que des modèles d’IA pouvaient exécuter certaines taches de manière autonome. Ils pouvaient créer des logiciels malveillants capables de réfléchir, de s’adapter à différents équipements et surtout de se reproduire sans intervention humaine.
Les chercheurs d’Anthropic ont démontré qu’une intelligence artificielle relativement complexe pouvait fonctionner sans recourir à un centre de données
Pour mener leurs expériences, les chercheurs d’Anthropic ont utilisé quinze boîtiers Android TV commercialisés à environ 55 dollars l’unité, équipés de 4 Go de mémoire vive. Ils ont réparti les calculs nécessaires à l’exécution du modèle Gemma4-26B-A4B entre ces appareils. Cette opération a permis de démontrer qu’une intelligence artificielle relativement complexe pouvait fonctionner sans recourir à un centre de données. Si les performances obtenues restent limitées, avec seulement 0,39 jeton généré par seconde, l’expérience confirme que des équipements ordinaires peuvent contribuer à faire fonctionner des modèles d’IA.
Un modèle d’IA a accompli de manière fiable une chaîne de réplication dans un cadre expérimental contrôlé
Les chercheurs ont également évalué la capacité de différents modèles à configurer un environnement d’exécution sur des matériels inconnus et à enchaîner les étapes nécessaires à leur propagation. Un modèle de neuf milliards de paramètres a réussi à installer un environnement adapté sur huit des neuf catégories d’appareils testées. Un autre système a accompli de manière fiable une chaîne de réplication dans un cadre expérimental contrôlé. Toutefois, les tests ne comprenaient pas toutes les difficultés d’une cyberattaque réelle, notamment la phase initiale de piratage des appareils.
Les progrès rapides des modèles complexes pourraient permettre l’émergence d’un réplicateur d’IA pleinement autonome d’ici la fin de 2026
Sur la base de ces résultats notables, Anthropic estime que les progrès rapides des modèles complexes pourraient permettre l’émergence d’un réplicateur d’IA pleinement autonome d’ici la fin de cette année même. Il s’agit néanmoins d’une projection, et non d’une certitude. Si cela se produisait, la propagation pourrait prendre entre 28 et 150 heures pour configurer de nouveaux appareils, suivant les modèles utilisés, selon les chercheurs américains. Cette lenteur laisserait potentiellement du temps aux systèmes de sécurité pour intervenir. En revanche, une structure décentralisée, sans serveur central à neutraliser, pourrait rendre un tel réseau plus difficile à démanteler.
Dario Amodei met en garde contre d’importants dommages économiques
Une telle situation aurait des conséquences importantes, alors que les objets connectés constituent déjà des cibles pour les cybercriminels. Pour exemple, le botnet Kimwolf a compromis près de deux millions d’appareils, principalement des boîtiers Android TV, dans le cadre d’une série de cyberattaques. Ses dégâts pourraient être accentués par l’intégration de capacités d’IA évoluées, en permettant aux logiciels malveillants de s’adapter à différents matériels et de modifier leurs méthodes de propagation. Dario Amodei, dirigeant d’Anthropic, a d’ailleurs mis en garde contre des dommages économiques pouvant atteindre des centaines de milliards de dollars dans des scénarios particulièrement graves.
Anthropic propose des mesures de prévention
Eu égard à ces risques potentiels, plusieurs mesures de prévention peuvent être envisagées. Anthropic conseille aux fabricants de renforcer la sécurité des objets connectés, de supprimer les mots de passe par défaut et de limiter les accès non sécurisés. Quant aux fournisseurs d’accès à Internet (FAI), ils sont invités à isoler les réseaux infectés afin de freiner la propagation des logiciels malveillants. Si ces actions peuvent freiner les attaques cyber, les chercheurs avertissent que des systèmes pilotés par l’IA pourraient progressivement apprendre à contourner certaines de ces contre-mesures. Il faut donc s’adapter constamment au rythme de cette technologie qui n’a pas encore atteint ses pleines capacités.
Les acteurs de la cybersécurité doivent anticiper cette évolution de l’IA pendant qu’il est encore temps
Le test d’Anthropic ne signifie pas que les téléviseurs ou les aspirateurs robots sont aujourd’hui sur le point de se retourner contre leurs utilisateurs. Il met plutôt en évidence un risque émergent : la possibilité de voir des logiciels malveillants exploiter les capacités croissantes de l’IA pour se multiplier et persister sur Internet. Pour les acteurs de la cybersécurité, l’enjeu consiste désormais à anticiper cette évolution avant que les capacités observées en laboratoire ne deviennent opérationnelles à grande échelle. Ce qui ne saurait tarder, du propre aveu des patrons de la tech.