LOGIN
In Breve (TL;DR)
- X ha bloccato Grok dopo le polemiche sulla creazione di deepfake sessuali non consensuali, anche su persone reali e potenzialmente minori.
- L’AI potrà ancora generare immagini, ma con forti limitazioni: niente deepfake sessuali di persone reali e controlli più severi.
L'intelligenza artificiale generativa ha permesso a molte persone di velocizzare le proprie attività, trovare ispirazione e creare contenuti rapidamente. Tanti gli aspetti positivi di questa tecnologia in veloce evoluzione, ma non mancano i lati negativi e tra questi vi è il rischio di deepfake, che le aziende che producono modelli AI si ritrovano costantemente ad affrontare, introducendo misure di sicurezza sempre più mirate. Ed è proprio di questo problema che X, il social network di Elon Musk, precedentemente conosciuto come Twitter, si è dovuto occupare.
X, infatti, integra Grok, l’assistente virtuale AI sviluppato dal team dell’imprenditore, a disposizione di tutti gli utenti con la sua irriverenza e la sua ironia. Nelle scorse settimane è finito al centro della polemica, poiché ha prodotto, su richiesta di alcuni iscritti, deepfake AI a sfondo sessuale, eseguendo una pratica illegale in molti Paesi del mondo.
Insomma, Grok, su richiesta degli utenti, spogliava le persone presenti in una foto. X è stato costretto a intervenire, anche su sollecitazione di alcuni governi e istituzioni. Scopriamo cosa è accaduto.
Per giorni Grok ha creato deepfake sessuali delle persone a partire da delle foto, su sollecitazione degli utenti, sollevando l’indignazione della maggior parte degli iscritti e non solo.
Tante le iniziative per chiedere a Elon Musk di apportare delle modifiche alla sua AI e frenare questa attività di Grok, ritenuta illegale nella maggior parte dei Paesi in cui l’assistente AI è attivo.
Leader di tutto il mondo hanno criticato la funzionalità e alcuni paesi, come Malesia e Indonesia, hanno persino vietato l’utilizzo di Grok AI. Keir Starmer, primo ministro del Regno Unito, ha sollecitato X a intervenire e a controllare maggiormente la sua AI, mentre il procuratore della California ha annunciato che erano iniziate le indagini per la diffusione di deepfake AI a sfondo sessuale generati proprio da Grok.
Ciò che più ha preoccupato gli utenti e le istituzioni è il coinvolgimento di minori, non solo come richiedenti dei deepfake, ma anche come vittime. L’imprenditore, così, è stato costretto a intervenire in fretta.
La reazione di X, Grok non potrà più generare deepfake sessuali
Nelle scorse ore è arrivata la risoluzione, con Musk che ha posto finalmente un freno a Grok. Sono state infatti implementate delle misure tecnologiche che impediscono a Grok la modifica delle immagini che rappresentano persone reali,rimuovendone i vestiti. L’annuncio dell’iniziativa è stata pubblicato direttamente su X.
Chiunque proverà a utilizzare Grok per violare la legge o infrangere le regole di X verrà ritenuto direttamente responsabile, con il rischio di subire serie conseguenze.
In ogni caso, tutti gli utenti a pagamento potranno comunque continuare a generare e modificare immagini utilizzando Grok, con i soli limiti legati alle nuove misure di sicurezza. La nudità sarà consentita solo nella parte superiore del corpo degli adulti ed esclusivamente di persone non reali, immaginarie.
Per saperne di più:
- Intelligenza Artificiale: cos'è e cosa può fare per noi
- X (Twitter): cos'è, come funziona e cosa si può fare
Domande frequenti (FAQ)
-
Cos’è Grok e perché è finito al centro delle polemicheGrok è l’assistente AI integrato in X che ha permesso agli utenti di creare deepfake sessuali rimuovendo i vestiti dalle persone nelle foto, scatenando indignazione globale.
-
Quali sono state le reazioni delle istituzioni e dei leader mondiali riguardo ai deepfake di Grok?Numerosi leader mondiali hanno criticato la funzionalità, con alcuni Paesi che hanno vietato l'utilizzo di Grok AI e avviato indagini per la diffusione di deepfake a sfondo sessuale.
-
Qual è stata la risoluzione di X riguardo ai deepfake sessuali generati da Grok?Elon Musk ha implementato misure tecnologiche che impediscono a Grok di modificare le immagini di persone reali, rimuovendo i vestiti, e ha annunciato che chi violerà le regole sarà ritenuto responsabile.
