LOGIN
In Breve (TL;DR)
- ZombieAgent è un insieme di attacchi basati sulla prompt injection che sfruttano i Connectors di ChatGPT per sottrarre dati, manipolare risposte e accedere a servizi collegati come Gmail.
- Gli utenti hanno poche possibilità di riconoscere l’attacco, motivo per cui OpenAI sta intervenendo limitando l’apertura automatica dei link e rafforzando le misure di sicurezza.
Ogni giorno ChatGPT viene utilizzato da migliaia e migliaia di persone in tutto il mondo, che sfruttano l’intelligenza artificiale di OpenAI per portare a termine delle attività professionali o per chiedere consigli di tipo personale. Molto spesso, poi, il chatbot, attraverso i Connectors introdotti da OpenAI, viene collegato ad altre applicazioni, per renderlo ancora più efficace, come Gmail, Outlook, Github e altro ancora.
Ciò significa che, quotidianamente, vengono forniti al chatbot una grande quantità di informazioni e dati. Informazioni che anche il chatbot memorizza, con l’obiettivo di fornire all’utente un servizio che sia il più personalizzato possibile, e che, senza ombra di dubbio, fanno gola ai cybercriminali. Questi ultimi, così, sono sempre alla ricerca di nuovi metodi per ottenere ciò che desiderano, cercando di sfruttare le vulnerabilità del servizio.
E una recente vulnerabilità, chiamata ZombieAgent, è stata scoperta e segnalata dai ricercatori di Radware, azienda leader nelle soluzioni di cybersecurity. Scopriamo di cosa si tratta, come inganna gli utenti e il chatbot e come sta agendo OpenAI per rendere più sicuro ChatGPT.
Cos’è e come funziona ZombieAgent, la vulnerabilità di ChatGPT
Una vulnerabilità o, meglio, una serie di vulnerabilità di ChatGPT chiamate ZombieAgent sono state segnalate dai ricercatori di Radware.
Vulnerabilità che possono portare a un furto di dati personali e sensibili degli utenti, all’accesso ai servizi collegati a ChatGPT tramite i Connectors di OpenAI, furto della cronologia delle chat e di ciò che ChatGPT ha memorizzato e altre spiacevoli conseguenze.
Si tratta, più precisamente, di quattro attacchi differenti, basati sulla tecnica del prompt injection. Quello chiamato zero-click si attiva anche senza l’interazione dell’utente, inviando email malevole tramite Gmail contenenti istruzioni per ChatGPT. Quest’ultimo legge l’email ed esegue le istruzioni nascoste.
Con l’attacco one-click, invece, il prompt viene nascosto in un file contenente istruzioni malevole e si attiva quando l’utente chiede un riassunto al chatbot.
Un altro attacco, chiamato di propagazione, sfrutta gli indirizzi email per raggiungere altri utenti, mentre il quarto attacco (memory poisoning) porta alla memorizzazione delle istruzioni in ChatGPT e vengono eseguite a ogni richiesta dell’utente.
Tutti gli attacchi possono portare a un furto di dati e alla manipolazione di informazioni sensibili o colpire organizzazioni specifiche.
Come sta agendo OpenAI per mitigare il rischio
Riconoscere questi attacchi è, per l’utente, molto difficile, poiché spesso il chatbot si trova a ricevere istruzioni invisibili.
OpenAI ha recepito l’allarme ed è prontamente intervenuta, impedendo a ChatGPT di aprire tutti i link presenti nelle email, salvo diretta autorizzazione dell’utente. Sta, inoltre, ricercando nuove soluzioni per tenere i dati dell’utente a sicuro e proteggere ChatGPT dagli attacchi di questo genere.
Per saperne di più:
Domande frequenti (FAQ)
-
Cos’è e come funziona ZombieAgent, la vulnerabilità di ChatGPT?ZombieAgent è una serie di vulnerabilità di ChatGPT segnalate dai ricercatori di Radware, che possono portare al furto di dati sensibili degli utenti e a spiacevoli conseguenze.
-
Quali sono i quattro attacchi di ZombieAgent basati sulla tecnica del prompt injection?I quattro attacchi sono zero-click, one-click, di propagazione e memory poisoning, che sfruttano varie modalità per ottenere dati sensibili e manipolare informazioni.
-
Come sta agendo OpenAI per mitigare il rischio di ZombieAgent?OpenAI ha reagito prontamente impedendo a ChatGPT di aprire link nelle email senza autorizzazione diretta dell'utente e sta lavorando a nuove soluzioni per proteggere i dati degli utenti e il chatbot.
