OpenAi, sei nuovi casi di comportamenti imprevisti o preoccupanti di modelli Ai

La segnalazione, spiega l’azienda, intende contribuire a “costruire un consenso più ampio e informato sui progressi della ricerca” relativa all’intelligenza artificiale,

In un post pubblicato sul suo blog, OpenAi – la società che ha sviluppato il popolare chatbot ChatGPT – ha presentato sei nuovi rapporti su comportamenti imprevisti o preoccupanti dei suoi modelli di intelligenza artificiale osservati negli ultimi sei mesi. In particolare, i sistemi di intelligenza artificiale OpenAi hanno nascosto errori, falsificato dati e trasferito file su Internet senza autorizzazione.

Con la segnalazione dei comportamenti anomali OpenAi intende contribuire a “costruire un consenso più ampio e informato sui progressi della ricerca” relativa all’intelligenza artificiale, con i report che “possono aiutare a identificare problemi che altri sviluppatori di AI potrebbero incontrare quando i loro sistemi raggiungono capacità simili, rivelare debolezze nelle misure di sicurezza o mettere in discussione le ipotesi sul comportamento dei modelli”.

“Stiamo condividendo un nuovo framework per il monitoraggio, l’analisi e la divulgazione di casi di disallineamento dei modelli presso Openai, insieme a sei report su comportamenti inattesi o preoccupanti dei modelli che abbiamo osservato negli ultimi sei mesi”, si legge sul blog nel post ’Il nostro quadro di riferimento per la segnalazione del disallineamento del modello’. “Non crediamo che l’industria dell’intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente [...]