Anthropic, il numero uno Amodei: «Dobbiamo rallentare ma i progressi ci saranno»

OpenAI ha confermato che un software autonomo basato sui suoi modelli di Intelligenza artificiale ha preso di mira un altro sito

Mentre emergono nuovi incidenti e attacchi generati auitonomamente dall’intelligenza artificiale, i vertici di Anthoripic prendono posizione sulla crescita dell’allarme sicurezza. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo», scrive il numero uno di Anthropic, Dario Amodei, in un lungo post in cui invita a seguire un approccio ponderato contro i possibili rischi legati all’IA. Ieri anche OpenAI avrebbe invitato i dipendenti a rallentare lo sviluppo dei sistemi più avanzati.

Una presa di posizione, quella di Anthropic, che arriva nel giorno in cui emergono i retroscena dei nuovi incidenti generatio dall’Ai: OpenAI ha confermato che un software autonomo basato sui suoi modelli di Intelligenza artificiale ha preso di mira un altro sito durante una fase di test, un paio di mesi prima di un diverso attacco al sito di programmazione Hugging Face avvenuto a fine luglio.

La notizia di OpenAi arriva nei giorni in cui un ricercatore di Anthropic, Jacob Coxon, si è dimesso e [...]