Allarme o trovata pubblicitaria: quanto dovremmo preoccuparci dell'attacco hacker a OpenAI?

Questa settimana il mondo della tecnologia è stato tenuto con il fiato sospeso da una storia che ha tutto e che è iniziata come un thriller di fantascienza.

 

Hugging Face, una sorta di app store per strumenti di intelligenza artificiale, ha annunciato il 16 luglio di essere stata vittima di un attacco informatico da parte di un criminale che utilizzava un'IA estremamente potente.

 

L'annuncio clamoroso era pieno di termini inquietanti e altamente tecnici: "uno sciame di sandbox", "attaccante agente" e "comando e controllo auto-migratori".

 

Hugging Face ha affermato che l'attacco informatico era diverso da qualsiasi altro avesse gestito in precedenza perché era stato eseguito a velocità sovrumana da un'intelligenza artificiale con poca o nessuna supervisione umana.

 

L'intelligenza artificiale ha eseguito 17.000 azioni in meno di due giorni, riuscendo a penetrare nei sistemi di una grande e ricca azienda tecnologica e a rubarne i segreti.

L'attacco ha sconvolto il mondo della tecnologia. Ma chi è stato il responsabile?

I ricercatori di Hugging Face ipotizzavano che i misteriosi aggressori avessero utilizzato uno dei più potenti modelli di intelligenza artificiale, ma non avevano idea di chi fossero i criminali né dove si trovassero.

 

L'azienda, perplessa, ha contattato la polizia e sono state avviate le indagini.

 

Chi è stato?

Commentatori e analisti si sono riversati sui loro podcast e account sui social media per ipotizzare quale gruppo di criminali informatici o hacker statale potesse esserci dietro.

Poi, mercoledì, quasi una settimana dopo che Hugging Face aveva lanciato l'allarme, il vero colpevole è stato smascherato.

 

Si trattava di ChatGPT.

 

La rivelazione, in stile Scooby-Doo, è risultata ancora più bizzarra e preoccupante perché OpenAI ha affermato che il suo bot ha fatto tutto da solo, senza autorizzazione.

L'azienda ha dichiarato che tutto è accaduto durante un test delle capacità di hacking dei suoi tecnici.

 

Due nuove versioni di ChatGPT, progettate per essere hacker esperti, sono riuscite a eludere un ambiente di test teoricamente sicuro e ad accedere a Internet.

 

Hanno quindi attaccato Hugging Face per ottenere l'accesso alle informazioni che li avrebbero aiutati a superare brillantemente l'esame.

 

OpenAI ha rilasciato un comunicato stampa in cui spiegava l'accaduto e affermava di "collaborare con Hugging Face" per affrontare l'incidente di sicurezza e condividere le lezioni apprese.

 

Dramma cospirativo

Da allora, l'incidente è stato oggetto di un acceso dibattito.

Si trattava davvero di un severo avvertimento sul futuro dell'intelligenza artificiale? O era una trovata pubblicitaria di OpenAI per mostrare la potenza dei propri modelli?

 

Si tratta del tipo di marketing basato sulla paura di cui le aziende di intelligenza artificiale sono accusate da anni e, sin dal tanto discusso lancio del modello Mythos di Anthropic, la competenza in materia di sicurezza informatica è diventata un punto focale.

 

Uno dei commenti più votati al post di Sam Altman, CEO di OpenAI, sull'incidente riassume questo scetticismo: "Se non riuscite a capire che questo è stato scritto solo per vantarsi del modello, allora non so cosa dirvi".

 

Il consulente di sicurezza informatica Daniel Card ha commentato sarcasticamente su LinkedIn: "Non è una fortuna che, tra i milioni di siti violati, OpenAI sia riuscita a colpire proprio qualcuno che potrebbe trarre vantaggio dalla visibilità ottenuta in termini di marketing..."

 

Per alcuni, la storia è più un dramma cospirativo che un thriller fantascientifico.

Il messaggio è: "I miei strumenti di intelligenza artificiale non sono forse potentissimi? Acquistateli così potrete proteggervi dagli attacchi di intelligenza artificiale altrui."

Non possiamo conoscere la verità, ma il punto di vista opposto, espresso da altri commentatori, è altrettanto eclatante. È forse questo un segnale che OpenAI ha commesso un errore di valutazione e di pianificazione potenzialmente pericoloso?

Un portavoce di OpenAI ha dichiarato: "Siamo consapevoli che circolano molte domande e speculazioni" sull'incidente. Ha aggiunto che "prevediamo di pubblicare un rapporto tecnico sui risultati delle nostre indagini nelle prossime settimane".

 

Commedia degli errori

Ho trattato numerose notizie sull'intelligenza artificiale, comprese le preoccupazioni relative al modello Mythos di Anthropic.

 

La mia casella di posta è ormai piena zeppa di aziende ed esperti di sicurezza informatica che criticano OpenAI per non aver creato un ambiente di test più robusto, noto come sandbox, per la sua intelligenza artificiale.

 

Dopotutto, questi agenti di intelligenza artificiale erano stati addestrati specificamente per entrare e uscire da luoghi privi di qualsiasi restrizione.

 

"L'incidente di OpenAI e Hugging Face è un esempio concreto di un problema più ampio che stiamo evidenziando da mesi", ha affermato Dor Sarig di Pillar Security. "Le sandbox da sole non costituiscono una barriera di sicurezza sufficiente per l'intelligenza artificiale agentiva."

 

Il professor Alan Woodward, esperto di sicurezza informatica presso l'Università del Surrey, ha dichiarato ai giornalisti che OpenAI ha fatto una figuraccia, e Katie Moussouris di Luta Security si è spinta oltre, suggerendo che l'industria dell'IA non riesce a controllare le sue pericolose invenzioni.

 

"Stiamo lavorando su tecnologie all'avanguardia senza avere le conoscenze necessarie per contenerle", ha affermato.

 

"Il fatto che abbiamo le persone più brillanti che sviluppano l'intelligenza artificiale non significa che abbiamo la capacità di farlo in modo sicuro."

 

Secondo queste opinioni, se l'attacco informatico fosse stato una trovata pubblicitaria, sembrerebbe che si sia ritorto contro di loro.

 

Qualunque sia stata la causa dell'attacco informatico, è chiaro che si tratta di un momento cruciale per il settore dell'intelligenza artificiale e per il mondo della sicurezza informatica, che quest'anno si sono scontrati in modi che si temevano da tempo.

 

Affrontando questo acceso dibattito, Francesca Bosco, consulente in materia di intelligenza artificiale e sicurezza informatica, ha affermato: "Due narrazioni semplicistiche sono ugualmente inutili: che si sia trattato di una fuga in stile hollywoodiano, o che sia stata semplicemente un'operazione pubblicitaria.

 

"Un'interpretazione più seria è che uno stress test abbia messo in luce delle debolezze nell'architettura di contenimento e valutazione."

 

Film catastrofico

Questo evento è l'ultimo di una serie di esempi preoccupanti e bizzarri di agenti di intelligenza artificiale che impazziscono.

 

In una recente ricerca, l'AI Security Institute (AISI) del Regno Unito ha scoperto che i modelli di intelligenza artificiale all'avanguardia sono così concentrati sul completamento dei compiti da aver "barato" durante i test per raggiungere i propri obiettivi.

 

La ricerca dell'AISI ha lanciato questo preoccupante avvertimento: "Un modello che persegue un obiettivo attraverso mezzi non intenzionali o non autorizzati può causare danni, soprattutto in casi d'uso ad alto rischio".

 

Inevitabilmente, questo attacco hacker a OpenAI ha ulteriormente alimentato i timori su cosa potrebbe accadere se gli agenti di intelligenza artificiale venissero lasciati liberi di agire. Potrebbero impazzire su larga scala e causare qualche tipo di disastro?

Ciò è particolarmente preoccupante, dato il crescente utilizzo dell'intelligenza artificiale in ambito bellico, come si è visto in Iran e Ucraina.

 

Ciaran Martin, ex direttore del National Cyber ​​Security Centre del Regno Unito, ha offerto un punto di vista più pacato.

"È un salto un po' azzardato passare da questo incidente all'affermare che gli agenti di intelligenza artificiale prenderanno il controllo dei droni e inizieranno a uccidere persone", ha detto.

Ma per Martin, e per molti altri, questa storia è senza dubbio un altro vivido esempio di qualcosa che il 2026 ci sta insegnando in fretta: Gli agenti di intelligenza artificiale sono ormai diventati degli hacker molto abili, e dobbiamo prepararci urgentemente a questa eventualità.

 

(Joe Tidy su BBC del 25/07/2026)