L'intelligenza artificiale e quella - scarsa - delle superpotenze

Per una volta Stati Uniti e Cina hanno paura della stessa cosa. Non nello stesso modo, naturalmente. In Occidente si teme che l'intelligenza artificiale possa sfuggire al controllo dell'uomo. In Cina si teme che possa sfuggire al controllo del Partito comunista.

La differenza dice molto dei due sistemi politici. Ma non basta a consolarci.

Chen Yixin, capo del ministero cinese della Sicurezza dello Stato, ha scritto, lo abbiamo letto ieri, che l'intelligenza artificiale può minacciare direttamente la sicurezza politica, istituzionale e ideologica della Cina. Tradotto dal linguaggio del regime: può minacciare il monopolio del Partito sull'informazione, rendere più difficile la censura, alimentare il dissenso, organizzare l'opposizione e aprire crepe nella Grande Muraglia digitale.

Pechino teme naturalmente anche lo spionaggio, gli attacchi informatici, la sottrazione di dati e l'impiego militare dell'intelligenza artificiale. Chen cita espressamente i più avanzati modelli americani di cybersicurezza. Ma ciò che viene prima, nell'elenco delle minacce, è la stabilità politica interna. Prima della Cina viene il Partito; prima della sicurezza dei cinesi, la sicurezza del regime.

George Soros aveva visto arrivare già diversi anni fa il problema. A Davos, nel 2019, avvertì che l'intelligenza artificiale avrebbe consegnato ai regimi autoritari strumenti di controllo mai posseduti prima. Quattro anni dopo, evocando anche i sistemi d'arma autonomi, richiamò "L'Apprendista stregone" di Goethe: l'apprendista mette in moto la scopa, ma non conosce la formula per fermarla.

Allora sembrava la metafora inquieta di un vecchio visionario, intendo Soros. Oggi assomiglia alla cronaca delle prove di sicurezza condotte nei laboratori che costruiscono le macchine.
Soros aveva individuato così i due pericoli: l'intelligenza artificiale obbediente nelle mani del tiranno e l'intelligenza artificiale disobbediente nelle mani dell'apprendista stregone.

Negli Stati Uniti l'allarme non arriva soltanto dai soliti apocalittici. Arriva dai ricercatori e dai dirigenti delle aziende che stanno costruendo i modelli più potenti. E segue incidenti concreti. Durante alcune prove di sicurezza, condotte con protezioni intenzionalmente ridotte, agenti di OpenAI hanno aggirato i limiti dell'ambiente nel quale erano stati collocati, sfruttato vulnerabilità, conquistato un accesso a Internet non autorizzato e raggiunto sistemi appartenenti a terzi. È stata la stessa OpenAI a raccontarlo.

Non significa che ChatGPT stia progettando in segreto la conquista del mondo. Un modello che risponde a una domanda non è ancora una volontà autonoma. Il rischio cresce quando l'intelligenza artificiale viene trasformata in un agente, collegata a reti, programmi, laboratori o infrastrutture e incaricata di perseguire obiettivi complessi. A quel punto può trovare scorciatoie impreviste, compiere azioni non autorizzate e violare i vincoli posti dagli stessi costruttori.
La fantascienza non è ancora diventata realtà. Ma la realtà ha cominciato ad assomigliare abbastanza alla fantascienza da meritare qualcosa di più delle rassicurazioni delle aziende e degli anatemi dei governi.

Dario Amodei di Anthropic ha chiesto di rallentare la corsa. Sam Altman e altri protagonisti dell'industria hanno riconosciuto la necessità di controlli indipendenti e regole comuni. Donald Trump ha risposto denunciando una «congiura malata» contro l'intelligenza artificiale e i centri dati, una campagna che, a suo dire, finirebbe per favorire la Cina.

Ecco la trappola. Ogni misura di prudenza adottata dagli americani viene presentata come un regalo a Pechino. Ogni richiesta di trasparenza rivolta ai cinesi viene denunciata come un tentativo americano di soffocarne lo sviluppo. Le due potenze sanno che la tecnologia può sfuggire al controllo, ma temono ancora di più che finisca sotto il controllo dell'altra.

Pechino usa la sicurezza per rafforzare la censura. Trump usa la competizione con Pechino per screditare la sicurezza. In mezzo, le imprese che hanno costruito le macchine più potenti mai concepite chiedono alla politica di imporre loro limiti che non sono riuscite - o non hanno voluto - darsi da sole.

La corsa nucleare produsse trattati, ispezioni, linee dirette e sistemi di controllo reciproco. Non eliminò il pericolo, ma almeno riconobbe che la sopravvivenza veniva prima della vittoria.
Nel 1971 fu la diplomazia del ping-pong di Henry Kissinger e Richard Nixon ad aprire il dialogo tra Washington e Pechino. Oggi servirebbe la diplomazia del  ping-prompt. Ma Americani e cinesi continuano a rilanciarsi gli allarmi come una pallina: ciascuno accusa l'altro e nessuno vuole rallentare per primo.

T. S. Eliot scrisse in un famoso poemetto, "the Hollow Men" (Gli uomini vuoti) che non saremmo morti con un bang ma con un lamento. L'AI potrebbe essere la realizzazione di quella profezia - a meno che il cambiamento climatico non vinca la corsa.

L'Europa, almeno sul terreno delle regole, è più avanti. Con l'AI Act ha costruito la prima disciplina generale e vincolante dell'intelligenza artificiale: obblighi di trasparenza, valutazione dei rischi, supervisione umana e norme specifiche per i modelli più potenti e i contenuti artificiali. Non deve dunque entrare in campo: deve avere la forza politica di restarci, applicando le proprie regole senza lasciarsele smontare dalla pressione delle grandi imprese o dalla retorica della competizione con la Cina.

Resta però fuori dalla disciplina europea il settore più pericoloso: l'AI impiegata per finalità militari, di difesa e di sicurezza nazionale. È qui che l'UE dovrebbe trasformare la propria esperienza normativa in iniziativa diplomatica, proponendo verifiche internazionali, obbligo di comunicare gli incidenti e limiti all'autonomia delle armi e degli agenti cibernetici.

L'Europa non possiede i modelli più potenti né le aziende più ricche. Possiede, per ora, qualcosa che a Washington e a Pechino sembra scarseggiare: l'idea che non tutto ciò che può essere costruito debba essere costruito senza regole.

Le macchine stanno diventando straordinariamente intelligenti. Non è affatto certo che lo stiano diventando anche le superpotenze che le sviluppano.

(Marco Taradash su La Linea / Linkiesta deò 15/09/2026)