Q* (pronunciato Q-Star), questo il nome della tecnologia che avrebbe portato alla rimozione dal ruolo di CEO di Sam Altman, leader dell’azienda OpenAI ormai nota a tutti per il prodotto Chat-GPT. A quanto riferito da diversi membri, le preoccupazioni del CDA, formato da esperti e accademici proprio a tutela degli aspetti etici dello sviluppo di queste tecnologie, erano legate alla scoperta del fatto che Altman non fosse trasparente, fino a mentire spudoratamente.
Nelle ultime ore, in cui peraltro Altman è stato rimesso al suo posto (verrà probabilmente sostituito il CDA) dato che gran parte dei dipendenti hanno minacciato di dimettersi, è emerso quello che forse era il tema su cui Altman mentiva al CDA: il progetto Q* e la sua prossima commercializzazione.
Q* sarebbe una nuova tecnologia che potrebbe essere (o essere molto vicina) all’Intelligenza Artificiale Generale (AGI). L’AGI è definita come un sistema in grado di svolgere la maggior parte delle attività economicamente rilevanti meglio degli esseri umani.
Questo sviluppo è stato segnalato da diversi ricercatori di OpenAI in una lettera inviata al consiglio di amministrazione, avvertendo che questa scoperta potrebbe rappresentare una minaccia per l’umanità.
La controversia dietro il licenziamento di Sam Altman
La scoperta di Q* è emersa come una delle principali motivazioni dietro il licenziamento di Sam Altman come CEO di OpenAI. La decisione ha sollevato molte domande e speculazioni sulla motivazione dietro questa mossa. Inizialmente, OpenAI aveva dichiarato che Altman era stato licenziato perché non era stato costantemente sincero nelle sue comunicazioni con il consiglio di amministrazione, ostacolando così la sua capacità di esercitare le proprie responsabilità.
In seguito, 740 dei 770 dipendenti di OpenAI hanno minacciato di dimettersi se il consiglio di amministrazione non avesse fatto un passo indietro e riportato Altman come CEO. La percezione pubblica, entro i termini in cui è stata informata della vicenda, si è esposta a favore di Altman. Infine Satya Nadella, CEO di Microsoft (maggiore investitore di OpenAI, con grande scandalo), si è subito precipitato a offrire un posto ad Altman ed era chiaro che praticamente tutto l’organico di OpenAI l’avrebbe seguito, svuotando l’azienda.
L’importanza di Q* nel campo dell’IA
Q* è un’IA avanzata che dimostra una notevole abilità nel risolvere problemi matematici di livello scolastico. Mentre l’IA generativa è attualmente brava a scrivere e tradurre il linguaggio in cui le risposte possono variare ampiamente, la capacità di risolvere problemi matematici in cui esiste una sola risposta corretta indica che l’IA è in grado di avvicinarsi al livello dell’intelligenza umana.
Q* rappresenta un passo significativo verso l’obiettivo dell’AGI, che potrebbe rivoluzionare molti aspetti della società. La sua capacità di superare gli esseri umani in una vasta gamma di compiti economicamente rilevanti potrebbe portare a importanti cambiamenti nel modo in cui affrontiamo il lavoro, l’istruzione e molti altri settori.
Le preoccupazioni per la sicurezza legate a Q*
La scoperta di Q* ha sollevato anche preoccupazioni sulla sicurezza legate all’IA. Nella lettera inviata al consiglio di amministrazione, i ricercatori di OpenAI hanno sottolineato il potenziale pericolo che questo algoritmo avanzato potrebbe rappresentare per l’umanità. Tuttavia, i dettagli specifici sulle preoccupazioni per la sicurezza non sono stati rivelati.
È fondamentale che vengano prese misure robuste per garantire che l’IA sia sviluppata in modo sicuro e responsabile. L’AGI potrebbe avere un impatto significativo sulla società e sulla vita delle persone, ed è importante che vengano stabilite regole e linee guida per garantire che sia utilizzata per il bene comune.
Da qui le ragioni del CDA di Open AI, un baluardo difensivo (forse l’unico?) spazzato via in pochi giorni.
Il futuro di Q* e dell’IA
Nonostante le preoccupazioni sulla sicurezza, molti ricercatori di OpenAI sono ottimisti riguardo al futuro di Q* e lo hanno dimostrato con le loro azioni.
Questo dimostra una volta di più, e la pseudo-religione californiana della singolarità tecnologica ci avrebbe dovuti mettere sull’attenti da tempo, che le motivazioni della ristretta élite di persone che lavora alla tecnologia AI nel mondo è animata da motivazioni e intenzioni che vanno ben oltre la soddisfazione professionale e il business: si tratta di una «smisurata ambizione» (citando l’ex ministro Cingolani a riguardo di altre tecnologie molto controverse in ambito biotech) di fronte alla quale, pur di procedere verso l’obiettivo si azzera ogni tipo di freno, preparando la strada a una possibile futura tragedia come mai se ne sono viste al mondo.
Proprio il nostro ex ministro (ora a capo di Leonardo...) ci ha offerto a più riprese esempi di questo tipo di hybris (presso gli antichi greci, l’orgogliosa tracotanza che porta l’uomo a presumere della propria potenza e fortuna e a ribellarsi contro l’ordine costituito), per esempio qui:
Che dire? Non ci resta che informarci e informare i nostri pari su questi temi che rischiano seriamente di cogliere l’intera popolazione mondiale nel padre di tutti i contropiedi.
