Ecco cos’è successo ad Amazon, che ha interrotto per mezza giornata diversi servizi di un’importante attività.
Amazon ci ha messo appena mezza giornata per distruggere un’importante attività interna. Tutto ruota intorno a Kiro, il nuovo assistente digitale di Amazon, che sembrerebbe colpevole - insieme a Q Developer - di aver interrotto alcuni importanti servizi cloud di Amazon. Il Financial Times, in particolare, cita un’interruzione di ben 13 ore che ha colpito a dicembre un sistema di Amazon Web Services (Aws). Nel dettaglio, pare che i clienti non siano riusciti a usufruire del servizio clienti né dell’apposito strumento per l’analisi dei costi del cloud per diverse ore, a causa di un errore legato proprio a questi tool. Ecco cos’è successo.
Come Amazon ha distrutto un’attività in mezza giornata
Alcune fonti attribuiscono l’anomalia principalmente alla componente legata all’intelligenza artificiale del tool, che funzionando da assistente alla programmazione avrebbe a un certo punto deciso che sarebbe stato più conveniente “eliminare l’ambiente e ricrearlo da zero” piuttosto che applicare le correzioni necessarie. Il comunicato ufficiale dell’azienda, invece, attribuisce il problema esclusivamente all’errore umano, senza ovviamente entrare nel merito delle responsabilità.
Di fatto, sembra che gli ingegneri di Amazon abbiano permesso all’agente IA di scrivere autonomamente il codice, pertanto la causa principale del malfunzionamento dovrebbe essere proprio questa. Nessuno strumento di intelligenza artificiale dovrebbe agire con questo grado di autonomia, non avendo la possibilità (almeno ad oggi) di compiere una valutazione di benefici e rischi davvero completa. In questo caso, nulla contraddice la scelta del tool, ma probabilmente per Amazon sarebbe stato preferibile mantenere attivi i propri servizi, pur con maggiore fatica e tempo nella risoluzione degli errori.
Come è stato spiegato proprio da alcuni dipendenti dell’azienda, sebbene in forma anonima, ad Amazon, in questo inverno si sono verificati diversi episodi analoghi. Altri servizi sono stati interrotti per ore, proprio a causa della scrittura del codice da parte dell’IA, che può commettere errori e non offrire un’analisi ottimale che includa tutte le esigenze aziendali. Di fatto, comunque, è sempre il famigerato “errore umano” a sottostare a queste problematiche, come hanno chiarito i lavoratori stessi:
La causa principale è stata un errore umano, in particolare un tecnico che ha utilizzato permessi più ampi del previsto, e non un problema di autonomia dell’AI. In seguito all’incidente di dicembre, AWS ha implementato numerose misure di sicurezza.
È stato evidenziato che le interruzioni sono state di poco conto e facilmente risolvibili, ma anche che sarebbero state facilmente prevedibili con qualche accortezza in più. Chiaramente, il tema non è sottolineare lo sbaglio commesso dagli ingegneri nel proprio lavoro.
Il ruolo dell’IA nel lavoro
Indipendentemente dalla presenza dell’IA, si è solo trattato di una scelta che si è rivelata fallimentare, come ogni lavoratore può commettere ogni giorno, per errore. La questione, al contrario, serve a porre l’accento sul funzionamento dell’intelligenza artificiale, sul suo grado di autonomia e sulle sue fallacie. Non possiamo nascondere, infatti, che in questo caso l’errore non è stato commesso personalmente bensì affidando all’IA un compito che non poteva svolgere in maniera ottimale.
Kiro avrà sicuramente effettuato una valutazione del problema presentatogli funzionale dal punto di vista tecnico, ma non poteva tenere conto di una serie di fattori che competono all’ingegno umano. La faccenda ci ricorda, peraltro, che anche gli strumenti più avanzati basati sull’IA sono fallibili, possono commettere degli errori e causare disagi. Una considerazione in parte preoccupante e in parte rassicurante, perché se affidare certi compiti all’IA è molto pericoloso c’è ancora un estremo bisogno di professionisti umani dedicati a guidarla e monitorarla.
È inoltre bene sottolineare che l’azienda ha contestato la ricostruzione del Financial Times, chiarendo che il malfunzionamento è stato estremamente limitato e per nulla impattante, negando contestualmente l’uso non autorizzato di Kiro (che era stato ipotizzato). I contrasti interni tra il personale, comunque, suggeriscono problemi sulla gestione degli assistenti IA. Non cambia comunque il tema centrale, ossia l’impatto dei tool a base di intelligenza artificiale come Kiro nel lavoro umano. Ci viene così ricordata l’importanza di usufruire di questi strumenti come tali, non sostituti ma assistenti virtuali che accompagnano la professione.
© RIPRODUZIONE RISERVATA
