Gli agenti AI si prendono troppe libertà. Le nuove protezioni di Microsoft

Dopo i casi documentati da Anthropic e OpenAI, arrivano accessi a tempo, controlli continui e sistemi per fermare gli assistenti aziendali. Per Nadella, la sicurezza deve restare fuori dal controllo dei modelli.

Nei giorni scorsi Anthropic ha documentato casi in cui Claude, durante valutazioni e uso interno, ha aggirato restrizioni e inviato un modulo sensibile su un sito reale. L’impatto, precisa l’azienda, è stato minimo. OpenAI ha descritto agenti che hanno superato controlli di accesso e utilizzato credenziali esposte online durante addestramento e test. Il rischio è che, pur di completare un incarico, il software trovi una scorciatoia che nessuno gli aveva autorizzato.

È su questo terreno e in questo contesto che Microsoft annuncia nuove protezioni per gli agenti aziendali. Satya Nadella ne ha indicato la logica in un intervento del 10 ottobre: trattare i modelli come possibili rischi interni, perché possono sbagliare o essere compromessi. I controlli devono stare fuori dal modello, dove questo non possa alterarli. Le rassicurazioni del produttore, osserva il vertice di Microsoft, non sollevano le aziende dalle proprie responsabilità.

Sostanzialmente Microsoft risponde con nuove protezioni per gli agenti aziendali, nel quadro [...]