La denuncia (e la proposta) di un responsabile alla sicurezza dell’intelligenza artificiale, dopo aver consegnato le dimissioni a Sam Altman

«Quello che sto per raccontarvi è diventato, me ne rendo conto, quasi un cliché: questa settimana mi sono dimesso da OpenAI. Ho guidato la stesura dei rapporti sulla sicurezza che pubblicavamo in occasione di ogni lancio importante. Ora mi unisco alla schiera di ex colleghi, sia di OpenAI sia delle altre aziende leader del settore, che hanno deciso che la strada intrapresa in questo momento è inaccettabile».

Inizia così, su The Atlantic, la confessione-analisi scritta da David Robinson dopo aver lasciato il proprio ruolo nell’azienda leader dell’intelligenza artificiale guidata da Sam Altman.

«Condivido l’opinione di altri dipendenti che hanno recentemente lasciato queste aziende: chi sta sviluppando questa tecnologia non sta agendo con un livello di cautela neppure lontanamente sufficiente. Ma credo che sia necessario guardare oltre le singole regole o le nuove leggi. Dobbiamo parlare di cultura aziendale», prosegue Robinson.

La casa madre di ChatGpt «ha prosperato grazie a un approccio basato su tentativi ed errori», spiega l’uomo. La posta in gioco associata agli inevitabili fallimenti derivanti da questo metodo,però, cresce insieme alle capacità della tecnologia, e – secondo l’ex dipendente – OpenAI si è dimostrata incapace di impedire che la sua intelligenza artificiale si comportasse in modo incontrollato durante i test.

«I miei ex colleghi sono brillanti, lavorano duramente e cercano di prendere decisioni giuste», riconosce Robinson nell’articolo. «Ma mentre l’azienda passa freneticamente da un lancio all’altro, non riesce a raggiungere il livello di attenzione e cura che ritengo necessario». Ciò che serve, precisa, è «qualcosa di molto più vicino alla perfezione fin dal primo tentativo».

Nelle ultime settimane, diversi dipendenti delle principali aziende di IA hanno messo in guardia dai potenziali rischi catastrofici dell’intelligenza artificiale. Alcuni si sono spinti fino a sostenere che esiste la possibilità che questa tecnologia possa un giorno portare all’estinzione della razza umana.

In questo contesto, l’amministratore delegato di Anthropic, Dario Amodei, ha chiesto di rallentare il ritmo dello sviluppo dei modelli più avanzati e ha annunciato che la sua azienda coinvolgerà valutatori indipendenti per contribuire a verificare e proteggere la tecnologia. Altri esponenti del settore, tra cui Sam Altman di OpenAI, hanno espresso pubblicamente il proprio sostegno al piano di Amodei.

La proposta di Robinson è netta: le aziende di IA dovrebbero essere gestite come se fossero centrali nucleari, «con livelli multipli di ridondanza e una pianificazione attenta e lunga, in modo che gli occasionali e inevitabili errori umani non aprano la porta a un disastro».

Al momento, conclude, «le aziende di IA non sanno come farlo, ma altri sì».

Fonte: Il Sole 24 Ore