login LOGIN
CHIUDI chiudi
Il mio profilo

mostra
Hai dimenticato la password?
Inserisci l'indirizzo email di registrazione per reimpostare la password.
Segui le istruzioni che ti abbiamo inviato per posta elettronica.

Google Mirror Dimension simula siti web per testare gli agenti AI

Ascolta l'articolo

Mirror Dimension è l'ambiente creato da Google per simulare siti, acquisti e attacchi informatici per verificare la sicurezza degli agenti AI che usano Chrome

Agenti AI Google MMD Creative/Shutterstock

In Breve (TL;DR)

  • Mirror Dimension è un Internet artificiale con migliaia di siti simulati, dove gli agenti AI possono navigare ed eseguire operazioni complesse senza interagire con servizi reali.
  • Mirror Dimension permette anche di testare la sicurezza degli agenti AI contro le prompt injection, attacchi che utilizzano istruzioni nascoste per fargli eseguire azioni non autorizzate.

Google continua a investire nel settore dell’intelligenza artificiale, annunciando Mirror Dimension, una versione “artificiale” di Internet che contiene al suo interno migliaia di siti simulati e progettata specificatamente per verificare la sicurezza e l'affidabilità degli agenti AI integrati in Chrome.

Questo nuovo spazio digitale, quindi, può essere immaginato come una sorta di banco di prova per gli agenti autonomi, prima di affidare loro le operazioni delicate come acquisti online, ricerche approfondite o compilazione di moduli. Qui, infatti, il colosso di Mountain View può osservare come reagiscono quando si imbattono in portali compromessi, pagine malevole o comandi nascosti, affinando sempre di più le loro capacità.

La particolarità del sistema sta proprio nel suo isolamento, dentro Mirror Dimension l'agente naviga in un ambiente che appare del tutto autentico, ma dove ogni azione resta confinata all'interno del perimetro simulato, senza avere alcun impatto su Internet o su servizi reali.

Come funziona Mirror Dimension, l'Internet simulato di Google

Possiamo dire che Mirror Dimension funziona come una sandbox (un ambiente di prova isolato, appunto) che contiene al suo interno migliaia di siti artificiali costruiti per riprodurre fedelmente il funzionamento dei servizi online. Qui trovano spazio piattaforme di e-commerce complete di carrelli, filtri e pagamenti fittizi, social network con feed e interazioni, portali di servizi e altre applicazioni web.

In questo ecosistema gli agenti AI possono muoversi a propria discrezione, andando a cliccare su link e pulsanti, compilando form e portando a termine flussi complessi proprio come farebbero durante la navigazione ordinaria.

Uno degli aspetti più interessanti di Mirror DImension riguarda il modo in cui vengono gestiti gli indirizzi, con l'agente che continua a richiedere URL apparentemente reali, mentre un proxy interno intercetta le chiamate e restituisce le versioni “artificiali” delle pagine.

Questo sistema evita la cosiddetta eval awareness, cioè la capacità del modello di accorgersi di trovarsi in un contesto di test, una consapevolezza che potrebbe spingerlo ad alterare il proprio comportamento abituale.

Altra caratteristica molto interessante di questo universo digitale riguarda la sua costruzione e manutenzione, affidata ad altri agenti di intelligenza artificiale dedicati proprio alla generazione e al controllo qualità, stabilendo i requisiti del sito simulato e generando il codice delle pagine e delle relative interfacce.

A questo punto entrano in gioco altri agenti che testano moduli, pulsanti e percorsi di navigazione per assicurarsi che tutto funzioni in modo coerente e che il risultato finale sia un ambiente realistico, ripetibile e rigidamente controllato, in cui ogni esperimento può essere rilanciato alle stesse condizioni iniziali senza rischi per il web pubblico.

Come Google protegge gli agenti AI di Chrome dagli attacchi nascosti nei siti

Per quel che riguarda la cybersecurity, la sfida principale affrontata da Google riguarda le prompt injection indirette. Si tratta di tecniche con cui un attaccante cerca di dirottare il comportamento di un agente AI inserendo istruzioni malevole all'interno di contenuti che l'assistente sta leggendo (come le immagini nelle e-mail, ad esempio) per fargli eseguire una richiesta illegittima.

Un comando ben nascosto dentro una pagina web, un'immagine o un componente tecnico del sito potrebbe indurre l'AI a ignorare le direttive ricevute e a compiere azioni non volute, come sottrarre dati o effettuare operazioni non autorizzate.

Grazie a Mirror Dimension, i ricercatori possono inserire queste istruzioni in punti diversi dell'ambiente simulato per verificare se l'agente riesce a distinguere i semplici contenuti informativi dalle istruzioni che è effettivamente autorizzato a eseguire.

Secondo i dati condivisi da Google, il sistema automatizzato consente di generare oltre 1.000 candidati di test al giorno per ciascun ingegnere, rendendo molto più rapida l'individuazione di potenziali vettori d'attacco. Importante sottolineare, però, che questi test non garantiscono l'impossibilità assoluta di compromettere un agente AI ma servono più che altro a trovare falle nella sicurezza e a rafforzare le difese prima che possano essere sfruttate durante la navigazione quotidiana.

Per saperne di più:

Come ha fatto Gemini ad accedere a tre aziende reali durante il test?

Scopri come l'agente AI Gemini è riuscito ad accedere a tre aziende reali durante un test di cybersicurezza.

Domande frequenti (FAQ)

  • Cos'è Google Mirror Dimension e a cosa serve?
    Mirror Dimension è un ambiente digitale isolato creato da Google per simulare migliaia di siti Internet e verificare la sicurezza e l'affidabilità degli agenti AI di Chrome durante la navigazione.
  • Come funziona Mirror Dimension di Google?
    Mirror Dimension utilizza siti web artificiali che riproducono servizi reali, come e-commerce e social network. Un proxy interno reindirizza gli agenti AI verso queste copie, permettendo di testarne il comportamento senza coinvolgere Internet.
  • Come Google utilizza Mirror Dimension per proteggere gli agenti AI?
    Google inserisce istruzioni malevole nei siti simulati per verificare se gli agenti AI riescono a riconoscere i tentativi di manipolazione. Il sistema consente di generare oltre 1.000 candidati di test al giorno per ingegnere, facilitando l'individuazione delle vulnerabilità.
A cura di Cultur-e
Addestramento IA non consentito: É assolutamente vietato l’utilizzo del contenuto di questa pubblicazione, in qualsiasi forma o modalità, per addestrare sistemi e piattaforme di intelligenza artificiale generativa. I contenuti sono coperti da copyright.
Intelligenza Astrale
Intelligenza Astrale
Immagine principale del blocco
Intelligenza Astrale
Fda gratis svg
L’oroscopo di Fastweb Plus generato con l’Intelligenza Artificiale
Leggi l’oroscopo gratuito

Iscriviti
all'area personale

Per ricevere Newsletter, scaricare eBook, creare playlist vocali e accedere ai corsi della Fastweb Digital Academy a te dedicati.