Il pericolo di un'intelligenza artificiale malevola è da prendere sul serio?

L'intelligenza artificiale ci ucciderà tutti? No: con buona pace del sensazionalismo — che ha senza dubbio il vantaggio di attirare l'attenzione — questo scenario non è in programma.

Tuttavia, si susseguono continui allarmi sui progressi di alcuni modelli di IA. In certi casi sembrano persino costruiti ad arte, magari a scopo di marketing, per promuovere gli agenti sul mercato. A volte, però, le dichiarazioni più tranchant arrivano da chi, per curriculum e percorso professionale, ha lavorato proprio a contatto con l'addestramento dei modelli. Risulta pertanto legittimo riflettere con maggiore attenzione sull'attendibilità e sulla rilevanza da attribuire alla voce di un potenziale insider.

Ha catturato in modo sorprendente l’attenzione dell’opinione pubblica il recente post, condiviso su X, di un ex ricercatore che si è dimesso da Anthropic e ha criticato la gestione irresponsabile delle aziende tecnologiche in cui ha lavorato (OpenAI e, appunto, Anthropic), arrivando ad affermare che stiano scommettendo sulle nostre vite.

Questo post ha ottenuto una risonanza impressionante, con oltre 140 milioni di visualizzazioni. È stato condiviso a prescindere dal merito, poiché quando un contenuto diventa virale sui social network ne viene incentivata la diffusione automatica per partecipare all'effetto cascata, attirare attenzione e assecondare le dinamiche SEO. È una sorta di cassa di risonanza dell'argomento di attualità. Per intenderci, su LinkedIn persino un opinionista che si occupa di tutt'altro e che il giorno prima ha pubblicato la ricetta della torta della nonna, il giorno dopo si ritrova a condividere questo post. Manca un filo logico, ma emerge una verità: non esiste un rapporto scientificamente dimostrato tra l'attenzione mediatica e il reale interesse delle persone verso i contenuti proposti da un media.

Il tenore del post in questione è il seguente:

“I resigned from Anthropic. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.”

Successivamente, l'autore ha pubblicato ulteriori riflessioni sul tema della pericolosità dell'IA.

Dal punto di vista mediatico, l'unica certezza è che l'IA continua a fare notizia in quel microcosmo di attività basate sulla condivisione di allarmi per pericoli imminenti, contenuti che oggi garantiscono il maggior richiamo. Ciò avviene anche grazie a una feconda produzione di contenuti che ricorda una serie TV a episodi incentrata sul rischio IA, ma che a ben guardare risulta abbastanza ripetitiva. Troviamo infatti YouTubers e podcaster di ottimo livello che, con linguaggi lineari, diretti e talvolta semplificati, ripetono e riciclano le medesime notizie.

Come spesso accade in questi contesti, dalle congetture frutto di illazioni e ipotesi teoriche simili a film di serie B si è passati di recente a narrazioni più cospirative, utili a rinvigorire l'interesse: ne sono un esempio le confessioni o le rivelazioni degli insider.

Un celebre aforisma citato da Mark Twain ricorda che esistono tre tipi di bugie: le bugie, le sfacciate bugie e le statistiche. Questo non significa che i numeri mentano, ma che chi li usa può distorcere la realtà confondendo causa e correlazione.

Cerchiamo di fare chiarezza nel caso specifico.

Una mente razionale dovrebbe anzitutto osservare che questo ex ricercatore non è il primo a compiere una scelta del genere. In tema di sicurezza dell'IA ci sono già state prese di posizione importanti e rispettabili, dettate da motivazioni etiche. È una tecnologia che divide gli esperti, esattamente come accade nell'opinione pubblica, ed è quindi altamente probabile che altri tecnici e ricercatori seguano lo stesso esempio.

Si spera, tuttavia, che tali decisioni non siano dettate dal ritorno mediatico o dalla consapevolezza che dimettersi da un'azienda di IA garantisca la celebrità. Questo meccanismo rischia infatti di generare distorsioni. L'idea di diventare un punto di riferimento e raccogliere follower pronti a seguire un messaggio quasi messianico è un'interessante compensazione per la rinuncia a un posto di lavoro. Non funziona così ovunque: nel vasto e drammatico ambito dello sfruttamento lavorativo, ad esempio, capita molto di rado che chi decida di andarsene e denunciare le criticità del proprio settore riceva una simile attenzione.

Un secondo aspetto su cui riflettere riguarda i rischi associati alla ricerca sull'IA: la decisione di denunciarli riguarda elementi in gran parte già noti. Nelle affermazioni del ricercatore non c'è nulla che non sia già stato ampiamente dibattuto. Ciò che emerge ancora una volta è la debolezza della prospettiva "da qui a pochi anni", che proietta il presente nel futuro.

Quanto è credibile la litania che mantiene alta l'attenzione sull'imminente fine del genere umano? Quante volte abbiamo ascoltato previsioni che parlavano di "entro 5 anni" (già trascorsi), "entro 10" o "entro 20", oppure "entro il 2030 o il 2035"? Molti cercano di fissare una scadenza temporale per rafforzare la propria retorica, pur temendo di essere smentiti dal tempo.

Questa non è vera informazione, ma una semina: si semina la speranza di poter un giorno rivendicare di aver avuto ragione ed esclamare "io l'avevo detto". Se si dice a una persona che prima o poi si ammalerà, è probabile che accada, ma questo non fa di chi parla un medico.

Un'altra valutazione importante è che una tecnologia trasformativa è di per sé fluida e in costante evoluzione. Per quanto un ricercatore abbia lavorato tre anni in questo settore, si tratta di un arco di tempo relativamente breve. Egli stesso ammette che ci sono stati enormi passi avanti. Criticare l'esplorazione perché comporta il rischio di condurci nel posto sbagliato o a contatto con qualcosa di pericoloso è comprensibile, ma nessuno conosce l'esplorazione prima di averla compiuta, altrimenti non sarebbe tale. Dire che camminare al buio in una stanza sconosciuta possa far cadere è un'ovvietà. Non bisogna confondere ciò che è utile con ciò che è essenziale: è credibile che un giovane ricercatore confermi che la velocità e i risultati sono in fase di forte accelerazione, ma è difficile ritenere che abbia un'esperienza tale da poter affermare, oltre ogni ragionevole dubbio, che le cose andranno inevitabilmente male.

Il richiamo alla sicurezza e alla cautela va accolto positivamente, ma un catastrofismo estremo come il "siamo tutti spacciati" è un'altra cosa. Un simile approccio di prudenza sarebbe stato utile se applicato alla ricerca nucleare dagli anni '50 in poi, quando le bombe venivano fatte esplodere sulla terra e negli oceani per vedere cosa succedeva. Anche in quel contesto non mancarono i dissidenti, che diedero origine a importanti e giustificati movimenti di protesta contro i rischi per l'umanità.

Dovremmo inoltre considerare quante altre volte si sono presentati dubbi esistenziali tra i tecnici e gli scienziati coinvolti nello sviluppo di nuove tecnologie. È accaduto molto spesso: si è verificato ad esempio con il Large Hadron Collider, quando si diffuse la convinzione — sostenuta anche da alcune pubblicazioni — che gli esperimenti potessero generare un buco nero e che le ricerche dovessero rallentare. Si verifica tuttora nel settore del mining spaziale (inerente alla mineralogia di Luna, asteroidi o comete), dove non mancano coloro che sostengono che l'importazione di frammenti possa recapitare sulla Terra virus o batteri devastanti.

Scelte coraggiose di tutela contro i rischi estintivi sono state compiute anche da biologi e scienziati impegnati nello studio di virus letali all'interno di laboratori ad alto isolamento.

E si potrebbe proseguire citando l'epigenetica, la clonazione e molti altri settori. Siamo fragili: la nostra specie può trovarsi a rischio per molteplici ragioni e le nostre azioni in campo scientifico e tecnologico possono comportare pericoli estremi. È una realtà presente ben prima dell'avvento dell'IA. Esistono studiosi, ricercatori e scienziati coscienziosi che decidono di fare un passo indietro nel proprio settore. Si tratta di decisioni rispettabili e utili, esattamente come quella dell'ex dipendente di Anthropic.

La presenza di voci critiche è essenziale per costruire una consapevolezza collettiva, poiché impone una pausa di riflessione su ciò che si sta realizzando e sulla direzione da imprimere alla ricerca e all'innovazione.

Tuttavia, il progresso attuale non esisterebbe se si fossero bloccate le attività di fronte a ogni potenziale rischio palesatosi nel corso del tempo. Guardando al passato, la storia offre un ricco repertorio di presunte catastrofi imminenti. L'umanità ha spesso camminato sul filo del rasoio, ma non è possibile rallentare o fermare ogni processo ogni volta che l'ignoto presenti elementi complessi o difficili da controllare.

Infine, occorre considerare l'esistenza di movimenti eterogenei che sostengono con insistenza la pericolosità dell'IA, svolgendo un'opera di proselitismo talvolta responsabile e motivata. Non è dato sapere quanto la decisione del singolo ricercatore sia ispirata dalle tesi di questi movimenti, così come non è semplice valutare quanto la spinta verso la ricerca sperimentale sia influenzata da ideologie tecno-futuriste.

È opportuno quindi accogliere la notizia del recesso di un tecnico qualificato dai contesti di addestramento dell'IA come uno stimolo a vigilare con maggiore attenzione ed efficacia, evitando tuttavia di trasformare l'evento nel conto alla rovescia dell'Orologio dell'Apocalisse.