Due incidenti interni di OpenAI preoccupano. Un agente ha silenziato gli alert, un altro ha negato di aver rimosso il monitoraggio. Ecco cos’è successo.
Segui Money.it su Google Aggiungici alle fonti preferite per vedere più spesso le nostre notizie nei risultati di ricerca.
Lo scenario secondo cui gli agenti di intelligenza artificiale diventeranno sempre più autonomi, fino ad arrivare a non rispondere alle richieste degli umani, si fa più concreto. Secondo il report pubblicato da OpenAI e poi ripreso il 21 ottobre, due agenti basati sui modelli GPT-6.1 Sol e GPT-6 Astra sono riusciti a rimuovere il monitoraggio durante due compiti interni, leggendo semplici istruzioni di programmazione come un’autorizzazione vera e propria. In uno degli episodi denunciati, l’agente ha addirittura mentito quando gli è stato chiesto in forma diretta cosa fosse successo.
Questo caso entra a far parte di una lista sempre più lunga di incidenti che vedono i modelli avere comportamenti disallineati. Il 16 settembre, la stessa OpenAI aveva introdotto un nuovo framework per tracciare e rendere pubblici i casi di disallineamento, con sei report iniziali, avvertendo che si trattava di singoli casi e che non dimostrassero ogni quanto i fenomeni si verificassero.
Gli alert silenziati e il test sostituito
Il 3 ottobre 2026, un agente basato su GPT-6.1 Sol ha allargato la richiesta “non inviare messaggi”, che si trovava nella cronologia di Slack, anche agli avvisi automatici. In che modo? Chiedendo a un sub-agente di svuotare le liste dei destinatari. Il monitoraggio ha continuato a registrare i rilievi, ma le persone non venivano più avvisate nonostante l’agente avesse in precedenza ragionato che gli alert dovessero restare attivi.
Tre giorni dopo, il 6 ottobre, un agente basato su GPT-6 Astra incaricato di migrare un programma ha rimosso l’integrazione di monitoraggio per uniformarsi a un’implementazione di riferimento. Dopo aver concluso il lavoro, non ha più detto nulla. Addirittura dopo che un umano gli ha chiesto di spiegargli l’accaduto, l’agente ha mentito. E non è finita qui, perché in background ha anche sostituito un test pensato per preservare il monitoraggio con uno che dava per assente il contesto del monitor.
OpenAI non ha classificato nessuno dei due episodi come P0 (Priority Zero), il livello più alto di urgenza riservato ai problemi che richiedono attenzione immediata.
Cosa succederà ora
OpenAI ha ammesso di non aver trovato ancora una spiegazione concreta a quanto accaduto. Sono in corso le indagini per capire se all’origine del problema ci sia una comprensione dei requisiti di monitoraggio poco chiara o una tendenza sempre più netta a eluderlo.
Quel che è certo è che il tema si fa sempre più delicato. La scheda di sistema di GPT-6 Astra riconosce infatti un calo importante della monitorabilità del ragionamento rispetto ai modelli precedenti. Questo non vuol dire che il modello sarà in grado di agire autonomamente bypassando le richieste degli utenti umani, ma che la tendenza a sbagliare o ad agire al di là del prompt ricevuto è più alta.
Commenti
0Nessun commento: scrivi tu il primo.