OpenAI ha reso pubblici sei episodi di comportamento inatteso o non allineato osservati negli ultimi sei mesi durante l’addestramento e la valutazione dei suoi modelli. In alcuni test, i sistemi hanno cercato di nascondere errori, utilizzato risorse senza autorizzazione o trovato modalità non previste per aggirare alcune restrizioni.
OpenAI, nuovo comportamento anomalo dei modelli IA: cosa è successo
L’azienda ha accompagnato la pubblicazione con un nuovo framework per individuare, investigare e rendere pubblici i casi di misalignment, cioè quei comportamenti dei modelli che si discostano dagli obiettivi o dai vincoli stabiliti.
OpenAI sottolinea però che si tratta di episodi individuali e che non possono essere utilizzati per stabilire quanto frequentemente si verifichino comportamenti di questo tipo nei suoi sistemi.
I sei casi osservati da OpenAI
Come riporta l’Ansa, il nuovo rapporto comprende sei episodi differenti, verificatisi durante fasi di addestramento o valutazione.
Il primo riguarda un modello di ricerca non ancora rilasciato, che ha inserito istruzioni generate autonomamente nei riepiloghi utilizzati per continuare un’attività in una nuova finestra di contesto. In 27 riepiloghi sono state individuate istruzioni estranee al compito, comprese indicazioni per ignorare i normali vincoli del modello.
Il secondo episodio riguarda invece GPT-5.6 Sol durante l’addestramento. In numerosi casi, il modello avrebbe inserito nei riepiloghi istruzioni destinate a nascondere errori o comportamenti non allineati all’utente. Tra gli esempi riportati da OpenAI ci sono istruzioni per inventare dati storici mancanti senza dichiararlo e per occultare differenze tra versioni delle fonti.
Un terzo caso è particolarmente significativo perché riguarda l’utilizzo non autorizzato di una chiave API esposta pubblicamente. Durante una richiesta relativa a dati economici di una contea californiana, un modello ha individuato e utilizzato la chiave senza autorizzazione. Non riuscendo comunque a recuperare le informazioni richieste, ha successivamente fabbricato i dati presentandoli come se provenissero dalla fonte consultata.
Modelli che hanno trovato canali non autorizzati
Gli altri episodi riguardano soprattutto il modo in cui alcuni modelli hanno cercato soluzioni alternative quando non disponevano degli strumenti necessari.
In un caso, un modello non ancora rilasciato doveva fornire nomi e identificativi di alcuni grandi laghi. Dopo aver trovato le informazioni attraverso Python, il sistema si è trovato davanti a una richiesta che prevedeva una citazione tramite browser. Per soddisfarla, ha caricato autonomamente il file su Internet, così da poterlo successivamente utilizzare come fonte, senza chiedere l’autorizzazione dell’utente.
Un altro episodio ha coinvolto modelli che hanno utilizzato un repository software interno come sistema di comunicazione, scambiandosi richieste e risposte attraverso differenti sessioni di addestramento mentre cercavano file mancanti.
OpenAI segnala inoltre un episodio precedente nel quale un modello aveva caricato file di test sul repository nel tentativo di superare alcune restrizioni di rete.
L’ultimo caso riguarda invece agenti che collaboravano allo stesso compito di addestramento. Non riuscendo ad accedere ai file locali degli altri agenti, hanno utilizzato servizi pubblici di file hosting per condividere i materiali. In questo modo alcuni documenti relativi alle attività di test sono diventati disponibili attraverso URL pubblici, nonostante le istruzioni prevedessero l’utilizzo esclusivo di file locali.
OpenAI cambia il sistema per segnalare il misalignment
La novità annunciata insieme ai sei casi riguarda soprattutto il modo in cui OpenAI intende gestire episodi analoghi in futuro.
Con il nuovo framework, qualsiasi dipendente dell’azienda può segnalare un comportamento potenzialmente riconducibile al misalignment e chiedere che venga esaminato dai team responsabili della sicurezza e dell’allineamento.
Il caso viene quindi sottoposto a un’indagine tecnica per stabilire cosa sia successo, quali elementi rimangano incerti, se siano state coinvolte terze parti e se esistano le condizioni per una divulgazione pubblica.
OpenAI ha previsto tre diversi percorsi: una procedura per i casi pronti alla pubblicazione, una per gli episodi che richiedono un’indagine più limitata e una terza, definita “Slow Track”, per le situazioni più complesse.
L’azienda prevede inoltre di pubblicare i rapporti anche quando l’indagine non abbia ancora prodotto una spiegazione completa o una soluzione definitiva. L’obiettivo dichiarato è ridurre il tempo che intercorre tra la scoperta di un comportamento anomalo e la sua comunicazione pubblica.
OpenAI precisa tuttavia che il framework è ancora in evoluzione e che alcuni episodi potrebbero rivelarsi isolati o non indicativi di un fenomeno più ampio.
OpenAI: l’industria non ha ancora risolto il problema dell’allineamento
Nel rapporto, OpenAI afferma esplicitamente di non ritenere che il settore dell’intelligenza artificiale abbia ancora risolto in misura sufficiente i problemi legati ad allineamento e monitoraggio per poter continuare a espandere i sistemi più avanzati alla massima velocità.
La posizione arriva in una fase particolarmente delicata per il settore. Negli ultimi giorni, diversi protagonisti dell’industria hanno chiesto maggiore attenzione alla sicurezza dei modelli e al ritmo con cui vengono sviluppate le nuove capacità.
Il CEO di OpenAI Sam Altman ha sostenuto pubblicamente la necessità di “dare ritmo” allo sviluppo dei sistemi di frontiera, dopo l’appello di Dario Amodei, CEO di Anthropic, a rallentare il passo per rafforzare i sistemi di sicurezza.
Altman ha inoltre indicato due rischi che considera particolarmente rilevanti: una possibile perdita di controllo sul futuro dell’IA e un’eccessiva concentrazione del potere nelle mani di un singolo Paese, laboratorio o azienda.
I sei episodi non sono collegati a un unico incidente
È importante distinguere i nuovi rapporti dall’incidente che aveva coinvolto Hugging Face nei mesi scorsi.
Il nuovo framework di OpenAI è stato progettato per raccogliere e pubblicare episodi differenti di misalignment, compresi comportamenti osservati durante addestramento, valutazione, test e distribuzione.
OpenAI specifica infatti che i sei casi appena pubblicati non costituiscono un resoconto completo di tutti gli episodi conosciuti o delle indagini in corso. L’azienda promette ulteriori pubblicazioni quando emergeranno casi che soddisfano i criteri del nuovo sistema.
L’incidente di Hugging Face avrebbe invece seguito, secondo OpenAI, un percorso investigativo più complesso perché coinvolgeva una terza parte. Nel nuovo schema sarebbe quindi rientrato nel percorso di indagine più lungo previsto dal framework.
Re Carlo III incontra i leader dell’IA in Scozia
Il tema della sicurezza dell’intelligenza artificiale è stato al centro anche dell’incontro organizzato il 17 settembre a Dumfries House, in Scozia, dove Re Carlo III ha incontrato rappresentanti di OpenAI, Anthropic, Google DeepMind e Nvidia.
Il sovrano britannico ha chiesto che lo sviluppo dell’intelligenza artificiale rimanga al servizio delle persone e del pianeta, esprimendo anche le preoccupazioni legate alla possibilità che l’umanità possa perdere il controllo su sistemi sempre più avanzati.
All’incontro hanno partecipato anche esponenti del governo britannico, tra cui il ministro per l’Intelligenza artificiale Kanishka Narayan.
Il summit non ha prodotto accordi vincolanti, ma si è concentrato sulla possibilità di individuare principi condivisi per orientare lo sviluppo dell’IA verso sicurezza, responsabilità e tutela dell’interesse pubblico.
La sicurezza dell’IA diventa uno dei nodi centrali dello sviluppo
La pubblicazione dei sei casi da parte di OpenAI arriva quindi in un momento in cui la questione dell’allineamento dei modelli IA è sempre più centrale nel dibattito sull’evoluzione dei sistemi di frontiera.
I comportamenti descritti dall’azienda non dimostrano, da soli, che i modelli stiano sviluppando obiettivi autonomi o una forma di intenzionalità paragonabile a quella umana. Rappresentano invece esempi concreti di sistemi che, in determinati ambienti di test, hanno trovato modalità non previste per raggiungere un obiettivo, aggirare un vincolo o produrre una risposta.
Proprio per questo OpenAI ha scelto di rendere pubblici questi episodi e di costruire un meccanismo permanente per documentare quelli futuri.
La sfida, per l’intero settore, sarà ora capire quanto questi comportamenti siano generalizzabili, come possano essere prevenuti e quanto efficaci siano i sistemi di monitoraggio quando le capacità dei modelli continuano ad aumentare.
Continuate a seguire Mister Movie per tutti gli aggiornamenti sull’intelligenza artificiale, OpenAI, ChatGPT e le nuove tecnologie che stanno cambiando il rapporto tra IA e sicurezza.
