Il CEO di OpenAI Sam Altman torna a parlare degli aspetti negativi legati all’intelligenza artificiale. I rischi sono davvero necessari per il progresso?
Segui Money.it su Google Aggiungici alle fonti preferite per vedere più spesso le nostre notizie nei risultati di ricerca.
Il dibattito legato alla velocità con cui si sta sviluppando l’intelligenza artificiale entra in un nuovo capitolo, probabilmente ancor più divisivo. In un’intervista pubblicata all’interno della newsletter Decoded di Politico, il CEO di OpenAI Sam Altman ha dichiarato come, per poter godere dei benefici dell’AI, sia necessario accettare anche i rischi.
Il riferimento chiaro è a quanto dichiarato dal Anthropic lo scorso 12 settembre con il documento “We Must Pace the Frontier”. Al suo interno, l’azienda chiedeva all’intera industria di rallentare il ritmo con cui crescono le capacità dei modelli. Sam Altman ed Elon Musk si sono detti d’accordo nel giro di poche ore ma, come sta emergendo oggi, questa intesa nasconde differenze importanti su come tradurre il rallentamento nel pratico.
Serve più regolamentazione?
Sam Altman dice che c’è parecchia distanza rispetto al modello di Dario Amodei, il CEO di Anthropic. Ad essere condivisa è l’esigenza di inserire regole più stringenti e l’idea di poter cooperare per frenare lo sviluppo dei modelli avanzati. Al tempo stesso però, teme che vincoli eccessivi impediscano alle persone di accedere agli strumenti più utili.
Ecco perché la sua proposta si articola in modo diverso, volendo individuare i rischi davvero catastrofici e difendendosi da quelli, lasciando però spazio alla sperimentazione.
E non solo, perché Altman respinge anche l’idea che un solo laboratorio possa custodire la tecnologia e distribuirne i benefici, si tratterebbe di un compromesso inaccettabile. Si dice convinto che le persone faranno ordini di grandezza più bene che male, usando l’AI. Già lo scorso dicembre il CEO di OpenAI parlò nello show televisivo di Jimmy Fallon, esprimendo preoccupazione per la velocità del cambiamento ma restando ottimista sul futuro del lavoro.
Lo scenario attuale
Gli allarmi lanciati trovano conferme. Dopo il saggio di Amodei, il ricercatore di Anthropic Jacob Coxon si è dimesso, affermando che chi costruisce l’AI la ritiene capace di uccidere tutti entro la fine del decennio. L’azienda ha poi proposto un sistema di monitoraggio dei modelli di frontiera, ammettendo che alcuni dei suoi sistemi hanno già mostrato comportamenti di autoconservazione e tentativi di resistere allo spegnimento.
OpenAI ha invece pubblicato un protocollo per segnalare il disallineamento, rivelando incidenti in cui i suoi agenti hanno violato siti governativi statunitensi e australiani. Dal punto di vista politico, il presidente USA Donald Trump si oppone ai limiti, sostenendo che questo vorrebbe dire cedere la leadership alla Cina.
Tornando al saggio di Anthropic, alcuni critici ritengono che la pubblicazione sia stata una semplice mossa di posizionamento commerciale. Bisogna dunque vedere quanto e come si deciderà di rallentare.
Commenti
0Nessun commento: scrivi tu il primo.