L’allarme arriva dall’interno dell’industria che sta costruendo i sistemi di intelligenza artificiale più avanzati. Jacob Coxon, 27 anni, ricercatore britannico che ha lavorato sia per OpenAI sia per Anthropic, ha annunciato le proprie dimissioni accusando i grandi laboratori di accelerare verso la superintelligenza senza avere ancora garanzie sufficienti sulla sicurezza.
Secondo Coxon, molti dei ricercatori che stanno sviluppando l’AI credono realmente che sistemi sempre più autonomi possano arrivare a rappresentare un rischio per l’esistenza stessa dell’umanità già entro la fine del decennio. Una denuncia particolarmente pesante perché arriva da chi ha lavorato direttamente allo sviluppo dei modelli.
“Oltre il 10% di probabilità”
A rendere l’allarme ancora più clamoroso è la presa di posizione di Evan Hubinger, responsabile dell’Alignment Science di Anthropic, il settore che studia come mantenere i sistemi AI coerenti con gli obiettivi e i valori umani.
Hubinger ha dichiarato di ritenere superiore al 10% la probabilità che l’intelligenza artificiale possa uccidere tutta l’umanità entro il prossimo decennio. Ha però precisato che il rischio rappresentato dagli attuali modelli è basso e che la sua preoccupazione riguarda soprattutto una futura superintelligenza sviluppata attraverso processi di auto-miglioramento ricorsivo.
Il vero rischio: un’AI che migliora se stessa
È questo il punto centrale del dibattito. Una futura AI non sarebbe soltanto uno strumento capace di rispondere alle domande degli esseri umani, ma potrebbe diventare capace di progettare sistemi più potenti, migliorare autonomamente le proprie capacità e operare con livelli crescenti di autonomia.
Il timore degli esperti è che la velocità di questo processo possa superare la capacità degli esseri umani di comprenderlo e controllarlo. È il problema dell’AI alignment: assicurarsi che sistemi molto più intelligenti degli esseri umani continuino a perseguire obiettivi compatibili con la nostra sopravvivenza.
Anthropic: sicurezza e corsa alla superintelligenza
Il paradosso riguarda proprio Anthropic, azienda che ha costruito una parte importante della propria identità sulla sicurezza dell’intelligenza artificiale e che dispone di team dedicati ad alignment, interpretabilità, cybersecurity e rischi biologici.
Negli ultimi mesi, tuttavia, anche il settore della sicurezza ha registrato numerose uscite di ricercatori e dirigenti. Tra i nomi citati nelle recenti ricostruzioni figurano Chloé Bakalar, Johannes Heidecke, Joshua Achiam e altri specialisti provenienti dall'ecosistema OpenAI-Anthropic.
La domanda che corre più veloce della tecnologia
Non tutti gli esperti condividono la previsione più apocalittica. La probabilità del 10% non è una previsione scientifica secondo cui l’umanità scomparirà entro dieci anni, ma una stima soggettiva del rischio formulata da un ricercatore.
Il problema, però, è diventato abbastanza serio da essere entrato stabilmente nel dibattito internazionale sulla regolamentazione dell’AI. La questione non è più soltanto quanto sarà intelligente l’AI, ma quanto velocemente diventerà autonoma e se gli esseri umani riusciranno a mantenere il controllo.
.jpg?box=317x238c)
