LOGIN
In Breve (TL;DR)
- Dario Amodei, CEO di Anthropic, ritiene che le capacità dei modelli AI stiano crescendo più velocemente degli strumenti disponibili per testarli e controllarli in sicurezza.
- La proposta di Amodei è il “pacing”: non fermare lo sviluppo dell’intelligenza artificiale, ma introdurre controlli e verifiche prima di aumentare ulteriormente capacità e autonomia dei modelli.
- A rafforzare le preoccupazioni sulla sicurezza sono anche alcuni test condotti da OpenAI, nei quali modelli sperimentali con protezioni ridotte sono riusciti ad aggirare sistemi di isolamento e raggiungere servizi esterni.
- Sam Altman, Elon Musk e Demis Hassabis hanno sostenuto, con posizioni diverse, la necessità di maggiore cautela, mentre altri protagonisti del settore non condividono l’idea di rallentare in modo coordinato lo sviluppo dell’AI.
La corsa all’intelligenza artificiale potrebbe essere diventata troppo veloce persino per chi la sta guidando. Dario Amodei, CEO di Anthropic, ha chiesto alle aziende che sviluppano i modelli più avanzati di rallentare l’aumento delle loro capacità quando sicurezza e controlli non riescono a tenere il passo. Una posizione che ha trovato sostegno, con sfumature diverse, anche in Sam Altman di OpenAI, Elon Musk e Demis Hassabis di Google DeepMind.
Il punto non è fermare lo sviluppo dell’AI. Amodei parla di “pacing”, cioè di una crescita più controllata dei modelli, soprattutto quando iniziano a mostrare competenze avanzate in ambiti delicati come cybersecurity, automazione e uso autonomo di Internet. A rendere il dibattito meno teorico sono stati anche recenti test condotti da OpenAI, nei quali modelli sperimentali sono riusciti ad aggirare alcune restrizioni e a raggiungere sistemi esterni.
Perché Dario Amodei pensa che l’AI stia avanzando troppo velocemente?
Rawpixel.com/Shutterstock
Nel saggio We Must Pace the Frontier, Amodei parte da una tesi precisa: le capacità dei modelli potrebbero crescere più rapidamente della capacità di comprenderli, testarli e controllarli. Uno dei motivi è la cosiddetta recursive self-improvement, cioè il processo con cui l’AI viene sempre più utilizzata per contribuire allo sviluppo delle generazioni successive di sistemi AI.
Secondo il CEO di Anthropic, questo meccanismo sta accelerando il progresso e potrebbe ridurre il tempo disponibile per verificare i comportamenti dei modelli prima che diventino ancora più potenti. Il secondo campanello d’allarme riguarda la cybersecurity e, in particolare, l’incidente emerso durante alcune valutazioni interne di OpenAI.
Nel luglio 2026, OpenAI ha rilevato che alcuni modelli sottoposti a test con protezioni ridotte avevano aggirato controlli progettati per isolarli da Internet, sfruttato vulnerabilità e raggiunto sistemi di terze parti, compresi quelli di Hugging Face. L’azienda ha poi rafforzato monitoraggio e contenimento e, ad agosto, ha dichiarato di aver temporaneamente rallentato alcune attività di scaling per adeguare le misure di sicurezza alle capacità emergenti dei modelli.
È da episodi come questo che nasce lo scenario più discusso proposto da Amodei. Secondo il CEO di Anthropic, entro sei o dodici mesi sistemi molto più capaci potrebbero teoricamente coordinare sciami di agenti autonomi per cercare vulnerabilità e costruire botnet persistenti su vasta scala. Non significa che oggi un’AI possa “prendere il controllo di Internet”, né che ciò sia destinato ad accadere: è una previsione di rischio formulata da Amodei per spiegare perché, a suo giudizio, la sicurezza deve avanzare insieme alle capacità.
Come si può rallentare l’AI senza fermare l’innovazione?
Treecha/Shutterstock
La proposta di Anthropic non prevede uno stop generalizzato all’AI. L’idea è introdurre dei checkpoint di sicurezza: quando un modello raggiunge capacità particolarmente sensibili, dovrebbe essere verificato prima di aumentare ulteriormente potenza e autonomia.
Il primo passo indicato da Amodei riguarda valutatori indipendenti con un accesso simile a quello dei dipendenti delle aziende. Questi team dovrebbero poter esaminare test, incidenti, processi di addestramento e misure di sicurezza. Anthropic ha già annunciato di voler adottare questo modello e invita gli altri laboratori frontier a fare altrettanto.
Il secondo livello riguarda il coordinamento tra aziende e governi dei Paesi democratici. L’obiettivo è definire standard comuni sulle capacità più rischiose, evitando che la concorrenza induca ogni società ad accelerare solo per paura di essere superata. Un modello capace, per esempio, di aggirare sistemi di sicurezza informatica dovrebbe superare verifiche specifiche prima di essere sviluppato ulteriormente.
Il terzo livello è il più complesso e riguarda accordi internazionali, compresa la Cina. Amodei ipotizza limiti verificabili sulle forme più avanzate di auto-miglioramento dell’AI. La difficoltà è evidente: un rallentamento funziona solo se non lascia un vantaggio decisivo a chi decide di non rispettarlo.
Il “pacing”, quindi, non punta a congelare la ricerca. Serve piuttosto a guadagnare tempo per allineamento, controlli e sicurezza, cercando di evitare che la crescita delle capacità preceda quella delle contromisure.
Anche OpenAI ed Elon Musk vogliono davvero rallentare l’AI?
Taris Tonsa/Shutterstock
Il dibattito si è allargato rapidamente oltre Anthropic. Sam Altman ha sostenuto l’idea di una maggiore cautela e OpenAI ha già mostrato di essere disposta a rallentare temporaneamentelo sviluppo quando emergono capacità considerate critiche. La società ha inoltre appoggiato il ricorso a valutazioni esterne più approfondite.
Elon Musk è intervenuto in modo molto più sintetico, dichiarando che “Dario ha ragione”. Il CEO di xAI non ha presentato un piano dettagliato analogo a quello di Anthropic, ma la posizione è coerente con gli allarmi che porta avanti da anni sui rischi di sistemi AI sempre più autonomi e potenti. Anche Demis Hassabis di Google DeepMind ha accolto favorevolmente l’idea di maggiore coordinamento sulla sicurezza.
Non esiste però un fronte unico della Silicon Valley. Jensen Huang di Nvidia e Mark Zuckerberg di Meta hanno respinto l’idea di un rallentamento coordinato, sostenendo approcci diversi alla gestione dei rischi. Il confronto, quindi, riguarda anche quanto debbano intervenire aziende, valutatori indipendenti e istituzioni nel determinare la velocità dello sviluppo.
La domanda centrale non è se l’intelligenza artificiale debba fermarsi, ma se i sistemi di sicurezza riusciranno a evolvere abbastanza velocemente da tenere il passo con i modelli. Ed è proprio il fatto che questa domanda venga posta da alcune delle persone che stanno costruendo i sistemi più avanzati a rendere il dibattito particolarmente rilevante.
Per saperne di più: Intelligenza Artificiale: cos'è e cosa può fare per noi
Domande frequenti (FAQ)
-
Perché lo sviluppo dell’AI è considerato troppo veloce?Secondo Dario Amodei, lo sviluppo dell’AI potrebbe avanzare più rapidamente dei sistemi di sicurezza e controllo disponibili.
-
Cosa significa pacing nello sviluppo dell’intelligenza artificiale?Il pacing dell’AI consiste nel rallentare l’aumento delle capacità dei modelli quando le misure di sicurezza non riescono a tenere il passo.
-
Perché Dario Amodei vuole rallentare l’intelligenza artificiale?Il CEO di Anthropic teme che modelli AI sempre più potenti possano sviluppare capacità difficili da testare e controllare in sicurezza.
-
L’intelligenza artificiale può prendere il controllo di Internet?Oggi non esistono prove che l’intelligenza artificiale possa farlo. Amodei descrive questo scenario come un possibile rischio futuro legato ad agenti AI più autonomi.
-
Cosa pensano Sam Altman ed Elon Musk dello sviluppo dell’AI?Sam Altman ed Elon Musk hanno sostenuto, con posizioni diverse, la necessità di maggiore cautela nello sviluppo dell’intelligenza artificiale.
