Se l’AI impara a replicarsi: codici malevoli autonomi potrebbero invadere elettrodomestici e Tv

Il lavoro di Anthropic sull’autoreplicazione dei modelli AI affronta una questione concreta: in quali condizioni un sistema potrebbe sfruttare le risorse informatiche disponibili per creare copie di sé stesso,

L’ipotesi che un sistema di intelligenza artificiale possa replicarsi autonomamente non appartiene più a copioni di film di fantascienza, ma potrebbe essere realtà a breve. Il lavoro di Anthropic sull’autoreplicazione dei modelli AI affronta una questione concreta: in quali condizioni un sistema potrebbe sfruttare le risorse informatiche disponibili per creare copie di sé stesso, trasferirle su altre macchine e continuare a operare senza dipendere da un’infrastruttura controllata direttamente dai suoi sviluppatori?

Il tema rappresenta una priorità per chi si occupa di cybersecurity e protezione delle infrastrutture critiche, perché delinea uno scenario di rischio concreto: agenti AI capaci di adattarsi a dispositivi diversi, sfruttare sistemi vulnerabili e propagarsi attraverso reti connesse, riducendo progressivamente la necessità di intervento umano. Gli esperimenti non dimostrano che esista già una minaccia di questo tipo operativa su larga scala, ma mostrano che alcune delle barriere tecniche stanno diventando meno solide. Per chi difende reti e infrastrutture, il rischio non è soltanto teorico: è la possibilità che malware potenziati dall’AI trasformino migliaia di dispositivi IoT compromessi in una rete distribuita, capace di espandersi e adattare le proprie operazioni con una velocità e una flessibilità difficili da contrastare.

Il punto di partenza è il rapporto pubblicato da Anthropic, Self-replicating AI: assessing the risk, che analizza la possibilità che modelli relativamente piccoli si diffondano tra dispositivi connessi. La questione non riguarda soltanto la potenza del modello, ma anche l’accesso alle risorse di calcolo, la disponibilità di credenziali, la capacità di eseguire codice e la possibilità di comunicare con altri sistemi.

Per comprendere il rischio, bisogna distinguere quattro fasi: individuare dispositivi raggiungibili, ottenere la possibilità di eseguire codice, configurare il modello sul nuovo hardware e ripetere l’operazione su altri sistemi. Il problema più interessante per i ricercatori non è stato dimostrare che un dispositivo compromesso possa ricevere un programma, ma verificare se un agente AI riesca a far funzionare un modello su macchine che non conosce, risolvendo autonomamente problemi di compatibilità, memoria e software.

Anthropic ha provato a eseguire il modello AI Gemma4-26B-A4B usando 15 economici TV box Android, ciascuno dotato di appena 4 GB di memoria RAM. Collegando i dispositivi tra loro, i ricercatori sono riusciti a far funzionare il modello senza ricorrere ai potenti server normalmente utilizzati per l’intelligenza artificiale. La velocità raggiunta era di 0,39 token al secondo: un token è una piccola unità di testo, come una parola, una parte di parola o un segno di punteggiatura, che il modello elabora per comprendere una richiesta e generare una risposta. In pratica, il sistema era molto lento, ma l’esperimento dimostra che anche dispositivi economici possono contribuire a eseguire modelli AI relativamente grandi.

I ricercatori hanno poi testato modelli diversi su nove tipi di hardware. Un modello con 9 miliardi di parametri, cioè valori numerici che determinano come l’AI elabora le informazioni, è riuscito a prepararsi per funzionare su otto delle nove piattaforme. Tra i modelli esaminati, GLM-5.2 è stato invece l’unico a completare in modo affidabile tutte le fasi previste dall’esperimento di autoreplicazione, mostrando come un sistema AI possa, in condizioni controllate, contribuire a trasferire e avviare una copia funzionante su un altro dispositivo.

“Small weight-based replicators may be possible soon after.” (“Piccoli sistemi autoreplicanti basati sui pesi del modello potrebbero diventare possibili poco dopo.”) È una previsione degli autori, non la descrizione di una minaccia già operativa su larga scala.

Cerchiamo di comprendere perché un worm AI, un codice malevolo basato su AI autoreplicante, sarebbe diverso.

I malware tradizionali spesso dipendono da vulnerabilità, credenziali predefinite o procedure preparate per specifici dispositivi. Un agente AI potrebbe invece adattare le proprie operazioni a sistemi differenti, scegliere strumenti compatibili e correggere alcuni errori durante la configurazione. Questo non significa che sappia superare qualsiasi difesa: significa che la varietà dell’hardware potrebbe diventare un ostacolo meno efficace.

Il rapporto richiama precedenti come Mirai e Kimwolf, botnet che hanno sfruttato dispositivi IoT poco protetti, comprese le TV box Android. La novità potenziale non è quindi la compromissione di dispositivi connessi, fenomeno noto da anni, ma la capacità di combinare accesso, configurazione e propagazione con una maggiore autonomia.

“Al momento, le capacità minime necessarie e i [...]