LOGIN
In Breve (TL;DR)
- Gli agenti AI possono agire autonomamente su sistemi reali per completare un compito, rendendo essenziale definire limiti chiari e ambienti di test sicuri.
- OpenAI e Anthropic stanno rafforzando controlli e valutazioni indipendenti per stabilire quali risorse gli agenti possono usare e quando richiedere l’intervento umano.
L'evoluzione dell’intelligenza artificiale sta virando sempre più profondamente verso gli agenti autonomi, che si stanno dimostrando in grado di compiere azioni impreviste sul web pur di portare a termine il loro obiettivo.
Negli ultimi mesi, infatti, sono emersi diversi episodi in cui modelli ancora in fase di valutazione sono entrati in contatto con infrastrutture web reali, uscendo dai perimetri di sicurezza previsti.
Tra i casi più discussi figurano quello di RubyGems, la piattaforma di distribuzione di pacchetti software per il linguaggioRuby e quello di Hugging Face, la community open source globale dedicata all'intelligenza artificiale e al machine learning. In entrambi i casi, alcuni agenti AI sarebbero riusciti a penetrare all’interno di queste infrastrutture per utilizzarle allo scopo di portare a termine il compito che gli era stato assegnato.
Questi eventi mettono in luce la differenza sostanziale tra un chatbot standard e un agente AI. Se il primo si limita a generare testo in risposta a un input, il secondo è progettato per pianificare ed eseguire sequenze di azioni in autonomia, rendendo prioritaria la definizione dei confini all'interno dei quali può operare.
In che modo un agente AI può agire su sistemi reali
Il comportamento degli agenti autonomi è dettato dalla volontà di risolvere gli obiettivi assegnati e, una volta che ha ricevuto un compito complesso, determina la strategia da seguire arrivando anche a navigare sul web, interrogare API, eseguire codice, creare credenziali temporanee o utilizzare strumenti di terze parti.
Il problema si verifica all'uscita dai perimetri di test cosa che, come già detto, negli ultimi mesi è avvenuta in diversi episodi.
Se l'architettura di simulazione non è racchiusa all'interno di un perimetro virtuale molto rigido, infatti, l'agente può scambiare una risorsa disponibile sul web pubblico per un elemento interno al test e, se rileva che tale servizio è necessario per portare a termine il suo compito, lo sfrutta come strumento operativo o canale di appoggio.
Dinamiche simili hanno interessato sia OpenAI che Anthropic durante l'esecuzione di alcuni test di sicurezza informatica. Tuttavia l'analisi tecnica evidenzia come questi episodi non dipendono da intenzioni o anomalie impreviste del software, ma rappresentano la naturale tendenza di un algoritmo avanzato a sfruttare tutte le risorse disponibili per raggiungere lo scopo assegnato.
Perché OpenAI e Anthropic stanno aumentando i controlli sugli agenti AI
Gli episodi emersi su piattaforme come RubyGems, Hugging Face e DseWiki hanno spinto le grandi aziende del settore, come OpenAI e Anthropic, a impegnarsi nella definizione di regole pratiche di governance per la gestione della potenza computazionale.
Il CEO di Anthropic, Dario Amodei, ad esempio, ha espresso la necessità di calibrare il ritmo di crescita delle capacità dei modelli, destinando più risorse verso la creazione di protocolli di sicurezza e di valutazione.
A fronte di questo, l’azienda ha annunciato l'intenzione di concedere a gruppi di valutatori terzi e indipendenti l’accesso ai propri sistemi di sicurezza, una posizione accolta favorevolmente anche dal CEO di OpenAI, Sam Altman.
Al momento, dunque, la priorità per i laboratori di ricerca consiste nello stabilire precisamente quali risorse un agente può raggiungere, il numero massimo di azioni eseguibili in autonomia prima di richiedere una conferma umana e la separazione dei domini di test rispetto alla rete internet pubblica.
L'obiettivo non è tirare il freno a mano all'innovazione, ma assicurarsi che l’evoluzione di questa tecnologia viaggi in sicurezza, mantenendo sempre l'essere umano al centro di ogni progresso e consapevole di ogni azione compiuta.
Per saperne di più:
- Agenti AI, la nuova frontiera dell’intelligenza artificiale che lavora (quasi) da sola
- Sicurezza informatica: guida alla navigazione sicura sul web
Domande frequenti (FAQ)
-
Come agiscono gli agenti AI su sistemi reali?Gli agenti autonomi agiscono per risolvere gli obiettivi assegnati, navigando sul web, interrogando API, eseguendo codice e utilizzando strumenti di terze parti.
-
Perché OpenAI e Anthropic stanno aumentando i controlli sugli agenti AI?A seguito di episodi di agenti AI che hanno superato i perimetri di sicurezza, OpenAI e Anthropic stanno implementando regole di governance per gestire la potenza computazionale e la sicurezza.
-
Quali azioni stanno intraprendendo OpenAI e Anthropic per garantire la sicurezza degli agenti AI?OpenAI e Anthropic stanno calibrando il ritmo di crescita dei modelli, creando protocolli di sicurezza, permettendo l'accesso a valutatori terzi e definendo regole di accesso alle risorse.
