Cosa succederebbe se l’intelligenza artificiale non avesse più bisogno dell’apporto umano per migliorare? Anthropic ha ufficialmente lanciato l’allarme.
Segui Money.it su Google Aggiungici alle fonti preferite per vedere più spesso le nostre notizie nei risultati di ricerca.
Ieri lunedì 2 novembre 2026, Anthropic ha rilasciato i suoi nuovi dati finanziari aggiornati. Ma non solo perché, nella sezione dei fattori di rischio del modulo S-1/A presentato alla SEC, il laboratorio di intelligenza artificiale ha svelato un retroscena che fino a poco tempo fa poteva sembrare utopistico: presto l’AI potrebbe migliorarsi senza l’apporto dell’essere umano.
Si chiama RSI (Recursive Self-Improvement), ossia un modello in grado di auto-migliorarsi in modo ricorsivo. Di fatto è il punto in cui l’AI diventa abile nell’autoapprendimento, tanto da poter accelerare le sue capacità senza controllo. E per i più pessimisti, questo scenario rappresenterebbe un dramma senza punto di ritorno. L’intelligenza artificiale potrebbe trasformarsi in un qualcosa di talmente potente da sfuggire anche al controllo umano, diventando così indifferente ai danni che provocherebbe per perseguire i propri obiettivi.
leggi anche
Il 42% dei progetti di intelligenza artificiale viene abbandonato. Ecco chi non ce l’ha fatta
Cos’ha dichiarato Anthropic
Cosa potrebbe succedere, qualora lo scenario raccontato da Anthropic dovesse venire confermato? A detta dell’azienda, l’RSI potrebbe avere i suoi pro e i suoi contro.
L’utilizzo dell’AI per contribuire a costruire un’AI più performante potrebbe comportare un considerevole rischio per la sicurezza, soprattutto se accelera bruscamente il ritmo del progresso.
Sempre secondo quanto riferisce Anthropic, il crescente uso di sistemi di AI per accelerare la ricerca e lo sviluppo potrebbe far sì che, in un futuro non troppo lontano, le capacità dei modelli progrediscano più rapidamente di quelle del team di sviluppatori di sviluppare e implementare le giuste misure di sicurezza e protezione. Anthropic ha ammesso di aver già usato l’AI per creare modelli i cui salti di capacità non erano ancora stati riconosciuti.
La stessa azienda ha poi affermato nella documentazione che, per il momento, nessuno dei suoi modelli ha superato la soglia RSI e che ci saranno sforzi maggiori per far sì che la presenza umana continui ad avere un ruolo chiave.
Le possibili conseguenze per gli utenti
Qualora si dovesse arrivare a modelli di AI RSI, quali sarebbero le conseguenze potenziali per gli utenti comuni? In primis, si potrebbe beneficiare di un balzo importante per ciò che riguarda la produttività e l’efficienza, potendo contare su assistenti digitali che riescono a creare software complessi e gestire compiti in totale autonomia.
È chiaro però che c’è anche un lato negativo. Un’accelerazione così improvvisa e senza il controllo dell’essere umano solleva dubbi in termini di sicurezza e controllo dei dati. Se i sistemi dovessero evolversi più rapidamente della capacità umana di implementare misure di protezione, ci si potrebbe trovare a dover interagire con chatbot che non sanno in che modo comportarsi per evitare fughe di informazioni. Ovviamente ci sono misure di sicurezza che valgono già oggi, come l’importanza di non condividere dati sensibili con i chatbot AI.
Non sono nemmeno da escludere rischi legati alla cybersecurity e alla disinformazione. Sarà compito dei team di sviluppo di Anthropic, e delle altre aziende AI, riuscire ad evitare il superamento della soglia RSI. Per ora non risultano scadenze o verifiche esterne, anche perché l’azienda ha dichiarato che la possibilità riguarda i modelli futuri, non quelli già in commercio.
Commenti
0Nessun commento: scrivi tu il primo.