LOGIN
In Breve (TL;DR)
- FlashProve di Anthropic associa alle risposte AI una prova crittografica che consente di verificare che siano state generate proprio dal modello e dai pesi dichiarati.
- Il sistema certifica l’origine e l’integrità del calcolo, ma non garantisce che la risposta sia vera, corretta o priva di allucinazioni.
Quando si pone una qualsiasi domanda all’intelligenza artificiale non esiste un metodo sicuro e immediato per avere la certezza che la risposta generata provenga esattamente dal modello dichiarato.
Per questo motivo Anthropic ha deciso di portare sul mercato FlashProve, un prototipo open source progettato per generare una vera e propria prova crittografica associata a ciascuna risposta generata dall'IA.
Grazie a questo sistema, l'utente o un sistema esterno può verificare matematicamente l'origine del contenuto, senza dover accedere ai pesi interni del modello e senza la necessità di rieseguire l'intero processo di inferenza.
Come funziona il certificato crittografico delle risposte AI
La tecnologia alla base di FlashProve si fonda sul concetto di provable inference (che si può tradurre in inferenza dimostrabile), un sistema crittografico che permette di verificare con certezza matematica che una determinata risposta generata dall’AI sia stata effettivamente prodotta da uno specifico modello e da un set di pesi dichiarato, senza che il fornitore debba rivelare i propri segreti industriali.
Il processo di verifica si articola in passaggi chiave: si parte con l’analisi dell’impronta dei pesi, un dato che il provider di intelligenza artificiale pubblica preventivamente e che identifica in modo univoco i pesi del modello.
Oltre a questo, durante la risposta alla richiesta dell'utente, FlashProve crea una prova digitale che attesta come quegli specifici token siano stati generati proprio da quel modello.
Infine il sistema di Anthropic sfrutta le prove a conoscenza zero (zkSNARK), una tecnica crittografica che consente di confermare la correttezza di un calcolo senza rivelare i dati riservati sottostanti.
Importante sottolineare che la verifica può essere eseguita in pochissimi secondi utilizzando un normale processore e senza dover essere in possesso di schede grafiche ad alte prestazioni.
Cosa può verificare FlashProve e cosa invece non dimostra
L'introduzione di FlashProve definisce confini molto precisi su ciò che la crittografia può garantire nell'ambito dell'AI generativa, con questo certificato che garantisce che il provider non ha sostituito il modello richiesto con uno più economico o meno performante, che l'architettura non è stata alterata e che nessun intermediario ha manomesso il testo durante il tragitto.
Si parla, insomma, di una tecnologia che si rivolge in primis ad aziende, sviluppatori, auditor e autorità di regolamentazione che necessitano di tracciare la catena di custodia dei dati informatici.
Tuttavia, bisogna specificare che non c’è nessuna garanzia sulla verità di tale contenuto e questo sistema non certifica che la risposta sia corretta, sicura o priva di allucinazioni. Questo strumento, in sintesi, dimostra solamente l'origine e l'integrità del calcolo, ma non la veridicità del testo generato.
Trattandosi di un prototipo di ricerca, la tecnologia presenta ancora dei vincoli operativi e, attualmente, supporta finestre di contesto limitate a 1.024 token e comporta un carico computazionale in fase di generazione nettamente superiore a quello di una normale inferenza.
Tuttavia, rappresenta un primo passo verso un'infrastruttura in cui l'identità dei modelli AI potrà essere verificata con assoluta certezza matematica.
Per saperne di più: Intelligenza Artificiale: cos'è e cosa può fare per noi
Domande frequenti (FAQ)
-
Cos’è FlashProve di Anthropic?FlashProve è un prototipo open source che genera una prova crittografica associata alle risposte prodotte da un modello AI.
-
Come fa FlashProve a verificare una risposta AI?Confronta la risposta con un’impronta crittografica dei pesi del modello e genera una prova matematica che attesta l’origine dei token prodotti.
-
FlashProve certifica che una risposta AI sia vera?No. Verifica l’origine e l’integrità del calcolo, ma non garantisce che il contenuto sia corretto, sicuro o privo di allucinazioni.
-
A chi può servire FlashProve?Può essere utile soprattutto ad aziende, sviluppatori, auditor e autorità che devono verificare la provenienza e l’integrità degli output generati dall’AI.
