Ricercatore di Anthropic si dimette per paura che l’AI sfugga al controllo umano

Secondo Jacob Coxon, che si occupava di addestrare i modelli della compagnia, le aziende tech non stanno agendo responsabilmente

Anthropic, attualmente la più grande società di intelligenza artificiale con una valutazione che sfiora i mille miliardi di dollari, è nata nel 2021 da un gruppo di ricercatori che abbandonarono OpenAI, criticandone la scarsa attenzione per la sicurezza, con l’obiettivo di sviluppare software AI in modo controllato e per il bene dell’umanità. Oggi, come rivela il Wall Street Journal, uno dei ricercatori di Anthropic ha annunciato le sue dimissioni per lo stesso motivo. «Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite», ha scritto su X il ricercatore, Jacob Coxon. Nelle riflessioni che accompagnano la sua decisione, Coxon ha spiegato che secondo lui, nonostante all’interno della stessa Anthropic ci siano persone consapevoli dei rischi, le aziende AI sono impegnate in una competizione che costringe a sacrificare la cautela.

A fargli eco anche la risposta di Evan Hubinger, altro ricercatore di Anthropic a capo dell’Alignment team, [...]