LOGIN
In Breve (TL;DR)
- Anthropic ha sperimentato un Automated Alignment Researcher, un sistema AI che conduce autonomamente esperimenti per migliorare l'allineamento di altri modelli.
- Nei test, il sistema ha migliorato le prestazioni su 10 benchmark su 10 e il metodo migliore individuato dall'AI ha superato in media quelli proposti dai ricercatori umani entro sei ore.
- La ricerca rappresenta un possibile passo verso la recursive self-improvement, ma non dimostra ancora l'esistenza di un'AI capace di migliorarsi completamente da sola.
Un'intelligenza artificiale che conduce esperimenti per migliorare un'altra intelligenza artificiale. È lo scenario esplorato da una nuova ricerca pubblicata da Anthropic, che offre una prima dimostrazione di come alcune attività oggi svolte dai ricercatori potrebbero essere automatizzate.
Lo studio, intitolato Automated Researchers Can Reliably Mitigate Alignment Failures, introduce un Automated Alignment Researcher (AAR), un sistema capace di cercare informazioni, proporre possibili soluzioni, addestrare un modello e verificare autonomamente se il metodo scelto abbia prodotto un miglioramento.
L'esperimento riguarda nello specifico l'AI alignment, cioè la ricerca di tecniche che permettano di rendere il comportamento dei modelli più coerente con gli obiettivi desiderati. I risultati sono però interessanti anche per una questione molto più ampia: quanto siamo vicini ad avere AI capaci di contribuire direttamente al miglioramento delle AI?
Come funziona l'AI che migliora altri modelli
Il sistema sviluppato dai ricercatori riproduce in forma automatizzata diversi passaggi tipici del lavoro scientifico.
L'Automated Alignment Researcher consulta la letteratura disponibile, individua un possibile metodo per correggere un determinato comportamento e lo utilizza per addestrare il modello per circa 30 minuti. Successivamente ne misura i risultati.
Se la tecnica funziona viene mantenuta e perfezionata nelle iterazioni successive; se non porta miglioramenti, viene scartata e il sistema prova un'altra strada.
I ricercatori hanno sottoposto l'AAR a 10 benchmark dedicati a specifici problemi di allineamento. Secondo i risultati pubblicati, il sistema è riuscito a migliorare le prestazioni in tutti e dieci senza provocare un peggioramento complessivo delle capacità del modello.
L'AI, quindi, non modifica liberamente il proprio codice e non decide autonomamente come diventare più intelligente. Opera all'interno di un ambiente sperimentale definito dai ricercatori, ma può svolgere autonomamente una parte significativa del processo necessario a trovare un metodo migliore di addestramento.
L'AI di Anthropic batte i ricercatori umani?
È probabilmente il risultato più interessante dello studio.
Anthropic ha confrontato le soluzioni trovate dal sistema automatico con quelle proposte da ricercatori umani esperti. Secondo il paper, il metodo migliore individuato dall'AAR riesce in media a superare quelli suggeriti dagli esseri umani entro sei ore di ricerca.
Anche fornire all'AI indicazioni elaborate dagli esperti non avrebbe prodotto risultati migliori rispetto alla ricerca completamente automatizzata.
C'è poi una notevole differenza economica. Gli autori stimano per l'AAR un costo di circa 4 dollari l'ora in inferenza tramite API, mentre indicano in circa 150 dollari l'ora il costo dei ricercatori umani coinvolti nel confronto.
Non significa che l'AI possa già sostituire un ricercatore. L'esperimento riguarda un'attività molto specifica e svolta all'interno di condizioni definite in anticipo, ma mostra quanto possa diventare conveniente eseguire contemporaneamente numerosi esperimenti automatizzati.
Siamo vicini a un'AI capace di migliorarsi da sola?
È qui che la ricerca diventa particolarmente interessante.
Un sistema capace di migliorare automaticamente l'allineamento di un modello rappresenta un possibile passo verso quella che viene definita recursive self-improvement, cioè uno scenario nel quale un'intelligenza artificiale contribuisce allo sviluppo di sistemi AI migliori, che a loro volta diventano ancora più efficaci nel condurre ricerca sull'intelligenza artificiale.
Ma non è ciò che è successo in questo esperimento.
L'AAR lavora su benchmark e obiettivi stabiliti dagli esseri umani. Inoltre, la qualità del risultato dipende direttamente dalla qualità dei benchmark utilizzati: se questi non rappresentano correttamente il comportamento che si vuole ottenere, il sistema potrebbe ottimizzare la metrica senza risolvere realmente il problema.
Servono inoltre ancora persone per costruire e mantenere benchmark, definire gli obiettivi e ampliare la letteratura scientifica utilizzata dagli agenti.
Lo studio offre quindi soprattutto un'anticipazione di ciò che potrebbe accadere nel prossimo futuro. L'intelligenza artificiale non è ancora arrivata al punto di migliorarsi autonomamente senza supervisione, ma potrebbe diventare uno strumento sempre più importante proprio per sviluppare la prossima generazione di modelli AI.
Per saperne di più:Intelligenza Artificiale: cos'è e cosa può fare per noi
Domande frequenti (FAQ)
-
Un'intelligenza artificiale può migliorarsi da sola?Non ancora nel senso più ampio del termine. L'esperimento di Anthropic mostra però che un sistema AI può cercare e sperimentare autonomamente tecniche per migliorare specifici comportamenti di un modello.
-
Cos'è l'Automated Alignment Researcher di Anthropic?È un sistema AI sperimentale che consulta la letteratura scientifica, propone metodi di addestramento, li testa e conserva quelli che producono i risultati migliori.
-
L'AI di Anthropic ha ottenuto risultati migliori degli esseri umani?Nel contesto specifico dell'esperimento sì. Il paper afferma che il metodo migliore individuato dall'AAR ha superato in media quelli proposti dai ricercatori umani esperti entro sei ore.
-
Cos'è la recursive self-improvement?È l'ipotesi secondo cui un sistema AI potrebbe contribuire a sviluppare sistemi AI migliori, che diventerebbero a loro volta più capaci di migliorare la tecnologia. Lo studio di Anthropic rappresenta un possibile passo in questa direzione, non una dimostrazione che questo processo sia già stato raggiunto.
-
L'AI può sostituire i ricercatori?Lo studio non lo dimostra. L'esperimento riguarda compiti specifici e continua a dipendere dagli esseri umani per definire benchmark, obiettivi e risorse scientifiche su cui il sistema lavora.
