Malesia e Indonesia bloccano Grok di Musk per deepfake espliciti
ASIA
La Malesia e l'Indonesia hanno bloccato l'accesso al chatbot di intelligenza artificiale (IA) Grok di Elon Musk a causa della sua capacità di produrre deepfake sessualmente espliciti.
Grok, uno strumento sulla piattaforma X di Musk, consente agli utenti di generare immagini, ma di recente è stato utilizzato per modificare immagini di persone reali , mostrandole in abiti succinti.
I paesi del Sud-est asiatico hanno affermato che Grok potrebbe essere utilizzato per produrre immagini pornografiche e non consensuali che coinvolgono donne e bambini. Sono i primi al mondo a vietare questo strumento di intelligenza artificiale.
I ministeri delle comunicazioni di Malesia e Indonesia hanno annunciato la loro iniziativa contro Grok in dichiarazioni separate nel fine settimana.
La Commissione malese per le comunicazioni e i multimedia ha dichiarato domenica di aver inviato avvisi a X all'inizio dell'anno per chiedere misure più severe dopo aver riscontrato un "uso improprio ripetuto" di Grok per generare contenuti dannosi.
Tuttavia, nella sua risposta, X non ha affrontato i rischi intrinseci della progettazione della sua piattaforma e si è concentrata principalmente sul processo di segnalazione per gli utenti, ha affermato l'autorità di regolamentazione.
Ha aggiunto che Grok sarà bloccato finché non saranno implementate misure di sicurezza efficaci e ha esortato il pubblico a segnalare contenuti online dannosi.
Utilizzare Grok per produrre contenuti sessualmente espliciti è una violazione dei diritti umani, della dignità e della sicurezza online, ha affermato Meutya Hafid, ministro indonesiano per le comunicazioni e gli affari digitali, in un post su Instagram.
Il ministero ha anche chiesto a X di Musk di fornire chiarimenti sull'uso di Grok.
Negli ultimi anni le autorità indonesiane hanno preso provvedimenti severi nei confronti di altre fonti online di materiale pornografico: piattaforme come OnlyFans e Pornhub sono già state vietate nel Paese.
Gli utenti indonesiani di X che hanno trovato le loro immagini ritoccate sulla piattaforma hanno dichiarato di essere arrabbiati perché ciò è stato permesso.
Kirana Ayuningtyas, una persona su sedia a rotelle che pubblica online le sue esperienze quotidiane, ha scoperto che uno sconosciuto aveva commentato la sua foto chiedendo a Grok di ritrarla in bikini.
Ayuningtyas ha dichiarato di aver modificato le impostazioni sulla privacy e di aver contattato la piattaforma per far rimuovere l'immagine e impedire agli utenti di modificare le sue foto.
"Purtroppo, niente di tutto ciò ha funzionato davvero", ha detto, aggiungendo che era difficile capire se qualcuno là fuori stesse conservando le immagini.
Ha chiesto ai suoi amici di segnalare gli account che pubblicavano le sue immagini contraffatte, ma così facendo ha fatto sì che ancora più persone vedessero le immagini modificate, il che è per lei profondamente imbarazzante.
La BBC ha contattato la piattaforma Grok per un commento.
L'uso di Grok per generare immagini sessualizzate è stato condannato dai leader di tutto il mondo, tra cui il primo ministro britannico Keir Starmer, che lo ha definito "vergognoso" e "disgustoso".
Anche la segretaria alla tecnologia del Paese, Liz Kendall, ha dichiarato che sosterrebbe l'ente regolatore Ofcom se bloccasse l'accesso del Regno Unito al sito di social media X di Elon Musk per non aver rispettato le leggi sulla sicurezza online.
Ha affermato che l'Online Safety Act del Regno Unito "include il potere di bloccare l'accesso ai servizi nel Regno Unito, se questi si rifiutano di rispettare la legge britannica" e "se Ofcom decide di utilizzare tali poteri avrà il nostro pieno sostegno".
(Osmond Chia e Silvano Hajid su BBC del 12/01/2026)
Grok, uno strumento sulla piattaforma X di Musk, consente agli utenti di generare immagini, ma di recente è stato utilizzato per modificare immagini di persone reali , mostrandole in abiti succinti.
I paesi del Sud-est asiatico hanno affermato che Grok potrebbe essere utilizzato per produrre immagini pornografiche e non consensuali che coinvolgono donne e bambini. Sono i primi al mondo a vietare questo strumento di intelligenza artificiale.
I ministeri delle comunicazioni di Malesia e Indonesia hanno annunciato la loro iniziativa contro Grok in dichiarazioni separate nel fine settimana.
La Commissione malese per le comunicazioni e i multimedia ha dichiarato domenica di aver inviato avvisi a X all'inizio dell'anno per chiedere misure più severe dopo aver riscontrato un "uso improprio ripetuto" di Grok per generare contenuti dannosi.
Tuttavia, nella sua risposta, X non ha affrontato i rischi intrinseci della progettazione della sua piattaforma e si è concentrata principalmente sul processo di segnalazione per gli utenti, ha affermato l'autorità di regolamentazione.
Ha aggiunto che Grok sarà bloccato finché non saranno implementate misure di sicurezza efficaci e ha esortato il pubblico a segnalare contenuti online dannosi.
Utilizzare Grok per produrre contenuti sessualmente espliciti è una violazione dei diritti umani, della dignità e della sicurezza online, ha affermato Meutya Hafid, ministro indonesiano per le comunicazioni e gli affari digitali, in un post su Instagram.
Il ministero ha anche chiesto a X di Musk di fornire chiarimenti sull'uso di Grok.
Negli ultimi anni le autorità indonesiane hanno preso provvedimenti severi nei confronti di altre fonti online di materiale pornografico: piattaforme come OnlyFans e Pornhub sono già state vietate nel Paese.
Gli utenti indonesiani di X che hanno trovato le loro immagini ritoccate sulla piattaforma hanno dichiarato di essere arrabbiati perché ciò è stato permesso.
Kirana Ayuningtyas, una persona su sedia a rotelle che pubblica online le sue esperienze quotidiane, ha scoperto che uno sconosciuto aveva commentato la sua foto chiedendo a Grok di ritrarla in bikini.
Ayuningtyas ha dichiarato di aver modificato le impostazioni sulla privacy e di aver contattato la piattaforma per far rimuovere l'immagine e impedire agli utenti di modificare le sue foto.
"Purtroppo, niente di tutto ciò ha funzionato davvero", ha detto, aggiungendo che era difficile capire se qualcuno là fuori stesse conservando le immagini.
Ha chiesto ai suoi amici di segnalare gli account che pubblicavano le sue immagini contraffatte, ma così facendo ha fatto sì che ancora più persone vedessero le immagini modificate, il che è per lei profondamente imbarazzante.
La BBC ha contattato la piattaforma Grok per un commento.
L'uso di Grok per generare immagini sessualizzate è stato condannato dai leader di tutto il mondo, tra cui il primo ministro britannico Keir Starmer, che lo ha definito "vergognoso" e "disgustoso".
Anche la segretaria alla tecnologia del Paese, Liz Kendall, ha dichiarato che sosterrebbe l'ente regolatore Ofcom se bloccasse l'accesso del Regno Unito al sito di social media X di Elon Musk per non aver rispettato le leggi sulla sicurezza online.
Ha affermato che l'Online Safety Act del Regno Unito "include il potere di bloccare l'accesso ai servizi nel Regno Unito, se questi si rifiutano di rispettare la legge britannica" e "se Ofcom decide di utilizzare tali poteri avrà il nostro pieno sostegno".
(Osmond Chia e Silvano Hajid su BBC del 12/01/2026)
ADUC è indipendente
Nessun finanziamento pubblico né pubblicità. Solo le donazioni ci rendono liberi.
Sostienici →
Potrebbe interessarti