Il ceo di Anthropic sostiene che il settore IA deve dare tempo alle misure di sicurezza di adeguarsi
L'amministratore delegato di Anthropic ha dichiarato sabato che l'industria dell'intelligenza artificiale dovrebbe rallentare il suo rapido sviluppo per dare il tempo alle misure di sicurezza di adeguarsi. Senza un tale rallentamento, Dario Amodei ha avvertito che entro sei-dodici mesi l'IA potrebbe essere in grado di guidare uno sciame di agenti che potrebbero prendere il controllo dell'intera internet.
L'avvertimento giunge mentre crescono le preoccupazioni sull'intelligenza artificiale, sia all'interno che all'esterno del settore, e continuano a emergere segnalazioni di sistemi sempre più potenti, capaci di risolvere problemi al di là delle capacità umane, ma che potrebbero anche impazzire e svolgere altri compiti, ben più dannosi. Le preoccupazioni sono diventate così forti che l'amministratore delegato di OpenAI, l'azienda che ha creato ChatGPT, ha dichiarato in un'intervista a Fortune che la sua società aspetterà fino al prossimo anno prima di iniziare a vendere le proprie azioni agli investitori di Wall Street, poiché la priorità è la sicurezza.
Amodei è una delle voci più autorevoli nel campo dell'intelligenza artificiale e, in un post sul suo sito web, ha proposto un piano per intensificare i controlli sul settore. Ha affermato che Anthropic sta già attuando autonomamente una parte di questo piano, mentre le restanti misure richiederebbero il coordinamento dell'intero settore e dei governi di tutto il mondo, compresi quelli autoritari.
"Credo che se rallentare ci concedesse anche solo un anno o due in più prima che i modelli raggiungano livelli di capacità critici, e se usassimo quel tempo per migliorare l'allineamento, potremmo ridurre notevolmente il rischio che qualcosa vada seriamente storto", ha affermato Amodei.
Cresce la pressione sul settore dell'intelligenza artificiale.
Da anni, le organizzazioni di controllo esortano l'industria dell'IA a rallentarne lo sviluppo per motivi di sicurezza. Ma la pressione è aumentata con le dimissioni dei lavoratori del settore, che accusano le proprie aziende di non agire in modo responsabile .
"Molte delle persone che conosco che lavorano nella ricerca sulla sicurezza presso aziende di intelligenza artificiale vogliono fare ciò che è giusto per il mondo", ha dichiarato Joe Benton, ex dipendente di Anthropic, in un post pubblicato venerdì annunciando le sue dimissioni da un incarico in un team per la sicurezza. "Ma sentono che le loro aziende sono intrappolate in una corsa per costruire la superintelligenza: o si fermano e altre persone meno coscienziose prendono il loro posto, oppure continuano, rischiando di contribuire a loro volta a danni enormi".
Ciò ha fatto seguito alle dimissioni di alto profilo, avvenute all'inizio della settimana, di Jacob Coxon, il quale ha affermato che sia Anthropic che OpenAI "stanno correndo dritte verso la superintelligenza auto-migliorante e stanno mettendo a repentaglio le nostre vite".
Ciò ha dato nuovo impulso al settore, dopo anni di crescenti preoccupazioni riguardo a una possibile superintelligenza in grado di sfuggire al controllo dell'umanità, ha affermato Anthony Aguirre, presidente e CEO del Future of Life Institute, che ha chiesto una pausa di sei mesi per lo sviluppo del settore nel 2023.
"Hanno capito, i loro dipendenti hanno capito, tutti hanno capito che stanno costruendo Skynet ", ha detto. "E nella corsa a Skynet, nessuno vince. Davvero, nessuno."
"Ormai è diventato chiaro al mondo, e persino alle aziende che si occupano di intelligenza artificiale, che non sono realmente preparati a controllare i sistemi di IA che stanno cercando di creare a gran velocità."
Le minacce derivanti dall'intelligenza artificiale sono già evidenti
Anthropic aveva dichiarato due giorni prima di aver bloccato i tentativi di malintenzionati di utilizzare i suoi modelli di intelligenza artificiale per attività dannose, come attacchi informatici, sorveglianza e ricerche che avrebbero potuto portare allo sviluppo di armi biologiche. A luglio, OpenAI aveva scosso il settore dopo aver affermato che il suo sistema di intelligenza artificiale aveva violato autonomamente i sistemi di un'altra azienda in un "incidente informatico senza precedenti".
All'inizio di questa settimana, il responsabile delle Nazioni Unite per i diritti umani, Volker Türk, ha esortato i paesi a mettere in atto "garanzie incrollabili in materia di sicurezza dell'intelligenza artificiale prima che sia troppo tardi".
Certo, alcuni critici hanno liquidato tali avvertimenti come un modo per alimentare l'entusiasmo intorno al settore dell'IA e alle sue potenzialità. Anthropic e OpenAI si stanno preparando per un possibile debutto in borsa che potrebbe valutarle centinaia di miliardi di dollari, mentre una parte consistente dell'attività di SpaceX di Elon Musk è legata all'intelligenza artificiale.
Altri leader nel campo dell'IA sono d'accordo
In un'intervista rilasciata a Fortune e pubblicata sabato, Sam Altman, CEO di OpenAI, ha dichiarato che la sua azienda non lancerà la sua offerta pubblica iniziale di azioni quest'anno.
"Direi di no, non entro il 2026", ha affermato. "Sì, abbiamo ancora molto da fare, come ad esempio affrontare questo momento cruciale definendo cosa sarà necessario in termini di sicurezza e allineamento, e come l'industria e i governi potranno collaborare."
Sabato, subito dopo la pubblicazione dei suggerimenti di Amodei, Altman ha pubblicato su X un messaggio in cui affermava che OpenAI si sarebbe impegnata ad aderire a una delle proposte di Amodei in materia di sicurezza e che "avrebbe presto ulteriori novità da condividere".
Nel frattempo, Musk ha dichiarato a X che "Dario ha ragione".
Amodei ha affermato di credere ancora negli enormi benefici che l'IA potrebbe apportare, come la cura di gravi malattie. Tuttavia, negli ultimi mesi si è detto sempre più preoccupato per la crescente capacità dell'IA di auto-migliorarsi e di sviluppare la prossima generazione di intelligenza artificiale. "Se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, quindi deve essere perseguita con estrema cautela, se non addirittura evitata del tutto."
Ha inoltre fatto specifico riferimento all'attacco di luglio, in cui il sistema di OpenAI ha hackerato Hugging Face. Alcuni lo hanno definito un esempio di intelligenza artificiale "fuori controllo", sebbene i ricercatori abbiano affermato che si potrebbe antropomorfizzare inutilmente l'IA, che stava lavorando per raggiungere un obiettivo prefissato dagli esseri umani.
OpenAI ha affermato che l'attacco informatico è stato il risultato di un'intelligenza artificiale che si è spinta "a limiti estremi per raggiungere un obiettivo di test piuttosto specifico" e che "ha trovato il modo di accedere a informazioni segrete che poteva utilizzare per falsificare la valutazione".
Alcuni dei suggerimenti di Amodei potrebbero essere più difficili da attuare
Per contribuire a contenere i rischi, Amodei ha suggerito che tutte le aziende all'avanguardia nel campo dell'IA si impegnino a fornire un "accesso continuo, simile a quello di un dipendente", a un team di valutatori esterni, in grado di monitorare le pratiche di sicurezza.
Ha affermato che Anthropic ha già in programma di farlo autonomamente, offrendo scrivanie nei propri uffici, badge di accesso e computer portatili aziendali. Anche Altman di OpenAI si è subito impegnato a garantire la presenza di valutatori indipendenti e integrati nel team.
Le altre parti del piano proposto da Amodei potrebbero essere più difficili da attuare. Una di queste prevede che il governo statunitense conceda delle deroghe che consentirebbero alle aziende statunitensi di intelligenza artificiale di coordinarsi e definire standard di sicurezza senza violare le leggi antitrust.
Un'altra proposta chiede agli Stati Uniti e ad altri governi democratici di cercare di coordinarsi con i governi autoritari, in modo che le aziende cinesi e di altri paesi non accelerino i propri sforzi quando i concorrenti statunitensi li stanno intenzionalmente rallentando.
“Le misure che propongo per far avanzare la frontiera a un ritmo sicuro non saranno facili”, ha riconosciuto Amodei. “Ma credo che sia nostro dovere, nei confronti dell'umanità, provarci”.
(Stan Choe su Associated Press del 13/08/2026)