I miliardari della tecnologia sembrano prepararsi al disastro. Dovremmo preoccuparci tutti?

 Si dice che Mark Zuckerberg abbia iniziato a lavorare al Koolau Ranch, il suo vasto complesso di 1.400 acri sull'isola hawaiana di Kauai, già nel 2014.

Secondo un articolo della rivista Wired, il progetto dovrebbe includere un rifugio, dotato di scorte di energia e cibo, anche se ai carpentieri e agli elettricisti che lavorano sul sito è stato vietato di parlarne in base ad accordi di non divulgazione.

Un muro alto due metri impediva la vista del progetto da una strada vicina.

Quando l'anno scorso gli è stato chiesto se stesse creando un bunker apocalittico, il fondatore di Facebook ha risposto categoricamente "no". Lo spazio sotterraneo di circa 5.000 piedi quadrati è, ha spiegato, "proprio come un piccolo rifugio, è come una cantina".

Ciò non ha fermato le speculazioni, come quella sulla sua decisione di acquistare 11 proprietà nel quartiere Crescent Park di Palo Alto in California, aggiungendo a quanto pare uno spazio sotterraneo di 7.000 piedi quadrati.

Sebbene i suoi permessi di costruzione facciano riferimento a scantinati, secondo il New York Times, alcuni dei suoi vicini lo chiamano un bunker. O la bat-tana di un miliardario.

Poi ci sono le speculazioni su altri leader tecnologici, alcuni dei quali sembrano essere impegnati ad acquistare appezzamenti di terreno con spazi sotterranei, pronti per essere trasformati in bunker di lusso da milioni di sterline.

Reid Hoffman, co-fondatore di LinkedIn, ha parlato di "assicurazione contro l'apocalisse". Si tratta di un'assicurazione che, come ha affermato in precedenza, riguarda circa la metà dei super ricchi, con la Nuova Zelanda come destinazione popolare per le case.
Quindi, è possibile che si stiano davvero preparando per una guerra, per gli effetti del cambiamento climatico o per qualche altro evento catastrofico di cui noi tutti non siamo ancora a conoscenza?

Negli ultimi anni, il progresso dell'intelligenza artificiale (IA) non ha fatto che aumentare la lista di potenziali problemi esistenziali. Molti sono profondamente preoccupati per la velocità con cui si sta evolvendo.

Si dice che uno di loro sia Ilya Sutskever, scienziato capo e co-fondatore di Open AI.

Entro la metà del 2023, l'azienda con sede a San Francisco aveva rilasciato ChatGPT, il chatbot ora utilizzato da centinaia di milioni di persone in tutto il mondo, e stava lavorando rapidamente agli aggiornamenti.

Ma quell'estate, secondo un libro della giornalista Karen Hao, Sutskever era sempre più convinto che gli informatici fossero sul punto di sviluppare un'intelligenza artificiale generale (AGI), ovvero il punto in cui le macchine eguagliano l'intelligenza umana.

Durante una riunione, Sutskever ha suggerito ai colleghi di scavare un rifugio sotterraneo per i migliori scienziati dell'azienda prima che una tecnologia così potente venisse resa pubblica al mondo, riferisce Hao.

"Costruiremo sicuramente un bunker prima di rilasciare AGI", avrebbe dichiarato ampiamente, anche se non è chiaro a chi si riferisse con "noi".
Fa luce su uno strano fatto: molti importanti informatici e leader del settore tecnologico, alcuni dei quali stanno lavorando duramente per sviluppare una forma di intelligenza artificiale estremamente intelligente, sembrano anche profondamente spaventati da ciò che questa potrebbe fare un giorno.
Quindi, quando esattamente – se mai – arriverà l'AGI? E potrebbe davvero rivelarsi così rivoluzionaria da spaventare la gente comune?

Un arrivo "prima di quanto pensiamo"
I leader del settore tecnologico hanno affermato che l'AGI è imminente. Il capo di OpenAI, Sam Altman, ha dichiarato nel dicembre 2024 che arriverà "prima di quanto la maggior parte delle persone nel mondo pensi".

Sir Demis Hassabis, co-fondatore di DeepMind, ha previsto che nei prossimi cinque-dieci anni, mentre il fondatore di Anthropic, Dario Amodei, ha scritto l'anno scorso che il suo termine preferito, "intelligenza artificiale potente", potrebbe essere con noi già nel 2026.

Altri sono dubbiosi. "Spostano continuamente i paletti", afferma Dame Wendy Hall, professoressa di informatica all'Università di Southampton. "Dipende con chi parli". Siamo al telefono, ma riesco quasi a sentire gli occhi al cielo.

"La comunità scientifica afferma che la tecnologia dell'intelligenza artificiale è straordinaria", aggiunge, "ma non è minimamente paragonabile all'intelligenza umana".

Secondo Babak Hodjat, direttore tecnico dell'azienda tecnologica Cognizant, prima ci sarebbero bisogno di una serie di "svolte fondamentali".
Inoltre, è improbabile che si verifichi in un singolo momento. Piuttosto, l'intelligenza artificiale è una tecnologia in rapida evoluzione, è in viaggio e ci sono molte aziende in tutto il mondo che gareggiano per svilupparne le proprie versioni.

Ma uno dei motivi per cui l'idea entusiasma alcuni nella Silicon Valley è che si pensa che possa essere un precursore di qualcosa di ancora più avanzato: l'ASI, o super intelligenza artificiale, una tecnologia che supera l'intelligenza umana.

Fu nel 1958 che il concetto di "singolarità" fu attribuito postumo al matematico ungherese John von Neumann. Si riferisce al momento in cui l'intelligenza dei computer supera la comprensione umana.
.
Più di recente, il libro Genesis del 2024, scritto da Eric Schmidt, Craig Mundy e dal compianto Henry Kissinger, esplora l'idea di una tecnologia super potente che diventa così efficiente nel processo decisionale e nella leadership che finiamo per affidarle completamente il controllo.
È una questione di quando, non di se, sostengono.

Soldi per tutti, senza bisogno di un lavoro?
I sostenitori di AGI e ASI sono quasi evangelici sui loro benefici. Sostengono che troveranno nuove cure per malattie mortali, risolveranno il problema del cambiamento climatico e inventeranno una fonte inesauribile di energia pulita.

Elon Musk ha addirittura affermato che un'intelligenza artificiale super intelligente potrebbe inaugurare un'era di "reddito elevato universale".
Di recente ha sostenuto l'idea che l'intelligenza artificiale diventerà così economica e diffusa che praticamente chiunque vorrà il proprio "R2-D2 e C-3PO personale" (riferendosi ai droidi di Star Wars).

"Tutti avranno la migliore assistenza medica, cibo, trasporti a domicilio e tutto il resto. Un'abbondanza sostenibile", ha affermato con entusiasmo.
C'è un lato inquietante, ovviamente. La tecnologia potrebbe essere dirottata dai terroristi e usata come un'arma enorme, o cosa succederebbe se decidesse autonomamente che l'umanità è la causa dei problemi del mondo e ci distruggesse?

"Se è più intelligente di te, allora dobbiamo tenerlo sotto controllo", ha avvertito Tim Berners Lee, creatore del World Wide Web, in un'intervista alla BBC all'inizio di questo mese.

"Dobbiamo essere in grado di spegnerlo."

I governi stanno adottando alcune misure di protezione. Negli Stati Uniti, dove hanno sede molte aziende leader nel settore dell'intelligenza artificiale, il presidente Biden ha approvato un ordine esecutivo nel 2023 che imponeva ad alcune aziende di condividere i risultati dei test di sicurezza con il governo federale, sebbene il presidente Trump abbia successivamente revocato parte dell'ordine, definendolo una "barriera" all'innovazione.
Nel frattempo, nel Regno Unito, due anni fa è stato fondato l'AI Safety Institute, un ente di ricerca finanziato dal governo, per comprendere meglio i rischi posti dall'intelligenza artificiale avanzata.

E poi ci sono i super-ricchi con i loro piani assicurativi contro l'apocalisse.

"Dire che stai 'acquistando una casa in Nuova Zelanda' è un po' come fare un occhiolino, un occhiolino, niente più", ha detto in precedenza Reid Hoffman. Lo stesso presumibilmente vale per i bunker.

Ma c'è un difetto tipicamente umano.

Una volta ho incontrato l'ex guardia del corpo di un miliardario con il suo "bunker" personale, il quale mi ha detto che la priorità assoluta della sua squadra di sicurezza, se davvero fosse successo, sarebbe stata eliminare il suddetto capo ed entrare nel bunker. E non sembrava scherzare.

Sono tutte sciocchezze allarmistiche?
Neil Lawrence è professore di apprendimento automatico all'Università di Cambridge. Per lui, l'intero dibattito in sé è una sciocchezza.
"Il concetto di Intelligenza Artificiale Generale è tanto assurdo quanto quello di 'Veicolo Artificiale Generale'", sostiene.

"Il veicolo giusto dipende dal contesto. Ho usato un Airbus A350 per volare in Kenya, uso l'auto per andare all'università ogni giorno, vado a piedi alla mensa... Non esiste un veicolo che possa fare tutto questo."

Per lui, parlare di AGI è una distrazione.

"La tecnologia che abbiamo [già] sviluppato consente, per la prima volta, alle persone normali di parlare direttamente con una macchina e potenzialmente di farle fare ciò che desiderano. È assolutamente straordinario... e totalmente rivoluzionario.

"La grande preoccupazione è che siamo così attratti dalle narrazioni delle grandi aziende tecnologiche sull'intelligenza artificiale (AGI) che ci sfuggono i modi in cui dobbiamo migliorare le cose per le persone."

Gli attuali strumenti di intelligenza artificiale sono addestrati su montagne di dati e sono bravi a individuare schemi ricorrenti: che si tratti di segni tumorali nelle scansioni o della parola che più probabilmente segue un'altra in una particolare sequenza. Ma non "sentono", per quanto convincenti possano apparire le loro risposte.

"Esistono alcuni metodi 'truccati' per far sì che un Large Language Model (la base dei chatbot AI) agisca come se avesse memoria e imparasse, ma sono insoddisfacenti e decisamente inferiori agli esseri umani", afferma Hodjat.

Anche Vince Lynch, CEO della IV.AI con sede in California, è diffidente nei confronti delle dichiarazioni esagerate sull'AGI.

"È un ottimo marketing", afferma. "Se sei l'azienda che sta costruendo la cosa più intelligente che sia mai esistita, la gente vorrà darti dei soldi".
Aggiunge: "Non è una cosa che si vedrà tra due anni. Richiede molta elaborazione, molta creatività umana, molti tentativi ed errori".

Quando gli viene chiesto se crede che l'AGI si concretizzerà mai, c'è una lunga pausa.
"Non lo so davvero."

Intelligenza senza coscienza
Per certi versi, l'intelligenza artificiale ha già preso il sopravvento sul cervello umano. Uno strumento di intelligenza artificiale generativa può essere un esperto di storia medievale in un minuto e risolvere complesse equazioni matematiche in quello successivo.

Alcune aziende tecnologiche affermano di non sapere sempre perché i loro prodotti rispondono in un certo modo. Meta afferma che ci sono segnali che i suoi sistemi di intelligenza artificiale stanno migliorando.

In definitiva, però, non importa quanto intelligenti diventino le macchine, biologicamente il cervello umano vince ancora. Ha circa 86 miliardi di neuroni e 600 trilioni di sinapsi, molti di più degli equivalenti artificiali.

Il cervello non ha bisogno di pause tra un'interazione e l'altra e si adatta costantemente alle nuove informazioni.

"Se dici a un essere umano che è stata scoperta la vita su un esopianeta, lo scoprirà immediatamente e ciò influenzerà la sua visione del mondo futura. Per un LLM [Large Language Model], lo saprà solo finché continuerai a ripeterglielo come un fatto", afferma Hodjat.

"Gli LLM non hanno nemmeno la metacognizione, il che significa che non sanno esattamente cosa sanno. Gli esseri umani sembrano avere una capacità introspettiva, a volte chiamata coscienza, che permette loro di sapere ciò che sanno."

Si tratta di una parte fondamentale dell'intelligenza umana, che deve ancora essere riprodotta in laboratorio.

(Zoe Kleinman su BBC del 10/10/2025)