Anthropic propone una moratoria globale sullo sviluppo dell'intelligenza artificiale a fronte del rischio di 'perdita di controllo'

Anthropic, una delle principali aziende americane nel campo dell'intelligenza artificiale (IA), in forte competizione con OpenAI, Google e la cinese DeepSeek, ha proposto giovedì 4 giugno la creazione di un sistema di coordinamento globale che permetta ai leader di questa tecnologia di accordarsi per rallentarne o sospenderne lo sviluppo, in modo che nessun rivale possa trarne vantaggio.

"Riteniamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell'intelligenza artificiale all'avanguardia, al fine di consentire alle strutture sociali e alla ricerca sull'allineamento di tenere il passo con i progressi tecnologici ", sostiene l'azienda in un testo pubblicato dal suo think tank, l'Istituto Antropico.

Il creatore dei modelli Claude cita il precedente del Trattato sulle forze nucleari a raggio intermedio (INF) e sottolinea che la definizione di tale quadro normativo ha richiesto decenni, ma che per l'intelligenza artificiale il tempo è ancora più stringente, poiché si ritiene che sia "molto più facile da occultare rispetto ai silos missilistici" .

"In assenza di un meccanismo di coordinamento globale, aziende e governi dovranno prendere decisioni difficili in materia di sicurezza, sotto la pressione della concorrenza e delle dinamiche geopolitiche ", scrive l'azienda.

"Marketing basato sulla paura"

Si prevede che la proposta incontrerà una forte resistenza negli Stati Uniti, dove molti dirigenti e leader del settore tecnologico si oppongono a qualsiasi rallentamento che darebbe alla Cina un vantaggio decisivo. Donald Trump, tuttavia, ha affermato di aver sollevato la possibilità di cooperazione con la Cina sulla sicurezza dell'IA durante una recente visita a Pechino.

Anthropic, fondata da dissidenti di OpenAI, si è costruita l'immagine di un laboratorio che pone etica e sicurezza al centro. Tuttavia, è oggetto di critiche da parte dell'industria e di funzionari della Casa Bianca, che la accusano di esagerare i rischi, o addirittura di condurre una strategia di "marketing della paura" , nel bel mezzo di una corsa con OpenAI verso la quotazione in borsa.

Negli ultimi due mesi, Anthropic ha limitato la distribuzione di Mythos, il suo modello più avanzato, al fine di implementare patch di sicurezza informatica prima di renderlo disponibile al pubblico. Anthropic ha annunciato il rilascio di modelli con prestazioni equivalenti "nelle prossime settimane" e si prevede che anche i suoi concorrenti offriranno sistemi comparabili.

L'azienda giustifica la sua proposta rivelando dati interni che illustrano la possibilità di raggiungere un giorno l '"auto-miglioramento ricorsivo ", ovvero il punto in cui i sistemi di intelligenza artificiale saranno in grado di addestrare i propri successori, con un ruolo umano ridotto.

"Non vi è alcuna garanzia che un simile cambiamento sia imminente ", avverte l'azienda, ma "se le tendenze attuali dovessero continuare ", diventerebbe "plausibile ". L'azienda lo considera sia un balzo in avanti per la medicina, la tecnologia e l'economia, sia un rischio di "perdita di controllo " .

(AFP + Le Monde)