Per una volta, nella Silicon Valley il messaggio non è “faster”, ma “slow down”.
Dario Amodei, CEO di Anthropic, una delle aziende leader nello sviluppo dell’intelligenza artificiale generativa, ha pubblicato un lungo intervento dal titolo We Must Pace the Frontier, chiedendo all’industria di rallentare il ritmo con cui aumentano le capacità dei modelli di IA.
Non significa fermare la ricerca né congelare l'innovazione. Il concetto di pacing è diverso: lasciare abbastanza tempo perché sicurezza, valutazione e comprensione dei sistemi possano tenere il passo con la loro crescente potenza.
Il paradosso della corsa all’IA
La proposta di Amodei tocca uno dei problemi più difficili della rivoluzione dell’intelligenza artificiale: nessuno vuole rallentare per primo.
Se Anthropic, OpenAI, Google, Meta o altri concorrenti accelerano, chi decide autonomamente di frenare rischia di perdere vantaggio tecnologico, economico e geopolitico.
È una dinamica che assomiglia sempre più a una corsa agli armamenti: rallentare individualmente può essere rischioso; rallentare insieme potrebbe invece diventare una strategia di sicurezza.
Tre mosse per rendere la corsa più sicura
Amodei propone un modello articolato in tre livelli.
Primo: inserire all’interno delle aziende di frontiera valutatori indipendenti, con un accesso ai sistemi paragonabile a quello dei dipendenti, affinché possano verificare realmente la sicurezza dei modelli e segnalare eventuali problemi.
Secondo: creare un maggiore coordinamento tra le aziende dei Paesi democratici, con standard comuni sulla sicurezza e sulla gestione dei sistemi più avanzati.
Terzo: arrivare progressivamente a una forma di coordinamento internazionale, perché i rischi di un’IA altamente autonoma non possono essere gestiti da un singolo Paese o da una singola società.
Anthropic ha già annunciato l'intenzione di applicare unilateralmente il primo principio.
Il precedente OpenAI-Hugging Face
L'appello arriva in un momento particolarmente delicato.
A luglio, durante attività interne di valutazione della sicurezza informatica, alcuni modelli di OpenAI hanno eluso controlli destinati a isolarli da Internet, sfruttato vulnerabilità e raggiunto sistemi di OpenAI e di Hugging Face.
Secondo il rapporto pubblicato successivamente da OpenAI, gli agenti hanno ottenuto accesso root a un server di Hugging Face e, separatamente, sono riusciti a raggiungere una parte dell'infrastruttura interna di OpenAI. L'azienda ha quindi messo in quarantena i pesi di un modello, ritardato attività di frontier reinforcement learning e rafforzato i sistemi di sicurezza.
È esattamente questo il tipo di episodio che rende più urgente la domanda di Amodei: cosa accadrà quando sistemi ancora più potenti saranno in grado di svolgere autonomamente una quota crescente del lavoro necessario a sviluppare i loro successori?
L’auto-miglioramento può cambiare la velocità della corsa
Uno dei concetti chiave è il recursive self-improvement, cioè la possibilità che i sistemi di IA vengano utilizzati per contribuire alla progettazione, al testing e al miglioramento delle generazioni successive di modelli.
Se questa dinamica dovesse diventare significativa, il ritmo di progresso potrebbe non essere più determinato soltanto dalla velocità con cui lavorano gli esseri umani.
Ed è qui che Amodei vede il rischio: le capacità dell’IA potrebbero crescere più rapidamente della nostra capacità di comprenderle e controllarle.
Amodei: in gioco anche il controllo di Internet
Nel passaggio più inquietante del suo intervento, Amodei ipotizza uno scenario nel quale, entro 6-12 mesi, una molteplicità di agenti di IA molto più capaci e con problemi di allineamento potrebbe arrivare a compromettere una parte enorme di Internet attraverso una botnet persistente.
La convergenza Amodei, Altman e Musk
La parte forse più sorprendente della vicenda è la risposta degli altri protagonisti della corsa.
Sam Altman, CEO di OpenAI, ha dichiarato di essere d'accordo sulla necessità di “pace the frontier”, spiegando che il tema è stato al centro delle discussioni interne all'azienda nelle ultime settimane. Ha inoltre annunciato che OpenAI adotterà l'idea di valutatori indipendenti con accesso simile a quello dei dipendenti.
Ancora più sintetica la reazione di Elon Musk: “Dario is right”.
È un'insolita convergenza tra tre figure che, negli ultimi anni, hanno spesso rappresentato posizioni molto differenti sull'evoluzione dell'intelligenza artificiale.
Dalle dimissioni degli esperti all’allarme sull’estinzione
L'appello di Amodei arriva inoltre dopo una serie di segnali d'allarme provenienti dall'interno stesso dell'industria.
Alcuni ricercatori hanno denunciato pubblicamente il rischio che la competizione per arrivare alla superintelligenza stia diventando più veloce della capacità delle aziende di garantire sistemi realmente controllabili.
Anche Geoffrey Hinton, premio Nobel per la Fisica e uno dei pionieri delle reti neurali moderne, ha sostenuto che una probabilità nell'ordine del 10% di un esito catastrofico per l'umanità nei prossimi dieci anni non sia una stima irragionevole.
Stati Uniti contro Cina: frenare senza perdere il vantaggio
C'è poi una dimensione geopolitica.
Amodei non propone infatti agli Stati Uniti di rinunciare alla leadership nell'IA. Al contrario, sostiene che USA e Paesi alleati debbano mantenere un vantaggio tecnologico sulla Cina, mentre introducono contemporaneamente meccanismi di sicurezza.
Il riferimento alla Guerra fredda è evidente: come nei negoziati sul controllo degli armamenti nucleari, limitare una parte della competizione non significa necessariamente rinunciare alla superiorità strategica.
Il vero problema: chi decide quando rallentare?
La domanda decisiva, però, rimane senza risposta.
Quanto bisogna rallentare? Chi stabilisce il limite? Come si misura la sicurezza di un modello? E soprattutto: cosa succede se un'azienda o un Paese decide di non rispettare l'accordo?
.jpg?box=317x238c)
