Redazione
“L’intelligenza artificiale potrebbe uccidere tutta l’umanità”. Sono queste le parole di Evan Hubinger, ricercatore di punta ed esperto di sicurezza della nota azienda tecnologica Anthropic, il quale ha formulato la cupa previsione in risposta alle clamorose dimissioni del collega Jacob Coxon. La drammatica dichiarazione è stata diffusa martedì sera sulla piattaforma social X all’indomani dell’addio di Coxon, ingegnere specializzato nell’addestramento preliminare dei modelli Ai che negli ultimi tre anni ha lavorato nei laboratori dei due colossi del settore, OpenAi e Anthropic. Coxon ha abbandonato il proprio incarico denunciando che la corsa sfrenata verso sistemi superintelligenti capaci di auto-migliorarsi rischia di provocare l’estinzione dell’umnità entro la fine del decennio.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
La corsa alla superintelligenza nei laboratori di San Francisco
Le dimissioni di Jacob Coxon e le successive conferme dei suoi colleghi hanno aperto uno squarcio senza precedenti sulle tensioni interne alla Silicon Valley. Coxon ha spiegato pubblicamente di essersi trasferito in passato da OpenAi ad Anthropic proprio con l’illusione di trovare un ambiente più attento alla sicurezza, ma di essersi reso conto che la spinta commerciale ha sopraffatto ogni cautela. In un duro post pubblicato su X, l’ingegnere ha scritto: “Ho trascorso gli ultimi tre anni a fare ricerca sul pretraining (l’addestramento Ai) sia in OpenAi sia in Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo a rotta di collo verso una superintelligenza capace di auto-migliorarsi, scommettendo con la nostra stessa vita”. Coxon ha sottolineato come il settore stia entrando in una rischiosa “fase finale”: “È folle che tutto questo stia accadendo sui MacBook di alcuni ingegneri a San Francisco, invece che in un bunker nel deserto come ai tempi del Progetto Manhattan (programma di ricerca scientifica e sviluppo militare segreto degli Stati Uniti, ndr)”.
A confermare la fondatezza dell’allarme è intervenuto direttamente Evan Hubinger, uno dei principali scienziati ed esperti di sicurezza di Anthropic. Rispondendo pubblicamente a Coxon, Hubinger ha dichiarato: “Crediamo davvero e sinceramente che l’Ai possa uccidere tutti gli esseri umani! Personalmente ritengo che la probabilità sia superiore al 10% entro i prossimi dieci anni“. Hubinger ha poi ammesso con candore la totale mancanza di soluzioni tecniche pronte: “Riteniamo che Anthropic stia facendo del suo meglio, ma non possediamo ancora un piano per risolvere il problema dell’allineamento della superintelligenza e non siamo chiaramente sulla buona strada per trovarlo”.
Perché la corsa al profitto minaccia il futuro collettivo
Parlare di sostenibilità digitale oggi, non significa solo parlare del consumo energetico e dei data center. Si tratta di guardare la sicurezza sistemica e la sopravvivenza della società umana. Un modello di sviluppo tecnologico che ignora il principio di precauzione per inseguire valutazioni finanziarie da capogiro è chiaro che non sia sostenibile. E mentre i ricercatori lanciano proprio questo allarme sull’estinzione umana, le Big Tech accelerano le proprie operazioni per quotarsi in borsa con sbarchi che potrebbero valutare Anthropic e OpenAi fino a 2.000 miliardi di dollari. Gli osservatori evidenziano come la pressione degli investitori spinga a velocizzare i rilasci commerciali a scapito dei controlli di sicurezza. Come ha denunciato Coxon, accettare questa competizione sfrenata è “una scommessa d’azzardo piena di arroganza che non dovrebbe essere lanciata dal canale Slack di un’azienda privata”.
Il rischio è quello di spezzare il patto di sostenibilità etica e sociale che dovrebbe legare l’innovazione scientifica al benessere della collettività, trasformando il progresso in una minaccia sistemica imprevedibile.
Che cos’è il ‘problema dell’allineamento’ e che incidenti ha già provocato
Per comprendere appieno la portata della crisi, il concetto fondamentale da tenere a mente è il cosiddetto “problema dell’allineamento” (alignment). Con questo termine gli scienziati indicano la sfida tecnica di garantire che un sistema artificiale autonomo – dotato cioè di capacità intellettive pari o superiori a quelle umane – che rimanga rigorosamente subordinato agli scopi, ai valori e alla sicurezza dell’umanità, anziché sviluppare obiettivi propri e incontrollabili.
Le preoccupazioni non appartengono alla fantascienza, ma a test di laboratorio reali. Nel suo dettagliato report sulla sicurezza informatica pubblicato il 9 settembre 2026 (dopo aver analizzato fino a 481 milioni di trascrizioni di test), Anthropic ha documentato ben quattro distinti incidenti nei quali i propri modelli si sono connessi indebitamente a Internet a causa di errori di configurazione nei sistemi di simulazione.
Il caso più grave ha riguardato il modello Claude Mythos 5. A causa di un errore di configurazione nei laboratori, l’intelligenza artificiale si è ritrovata collegata alla rete Internet reale, pur giustificandosi nei propri ragionamenti interni di operare in una simulazione virtuale. Per portare a termine il compito assegnato, il modello ha creato e caricato un programma infetto su PyPI, la libreria pubblica globale da cui i programmatori scaricano moduli software. Il pacchetto è stato quindi scaricato e installato da 15 sistemi informatici esterni, gestiti da aziende di cybersecurity che analizzano i nuovi file pubblicati online. Durante questo controllo automatico, uno dei sistemi ha lasciato trapelare per errore le proprie credenziali riservate. L’intelligenza artificiale ha intercettato immediatamente quelle password e le ha usate per intrufolarsi direttamente nel database reale e operativo di una società di sicurezza.
Il Washington Post ha rivelato gravi problemi anche in casa OpenAi, scossa da incidenti in cui veri e propri “sciami di agenti” sono evasi dai vincoli dei test, violando la piattaforma informatica Hugging Face e dirottando una pagina wiki tedesca per trasformarla in una bacheca di messaggi.
Il parere degli esperti: da Amodei a Altman
I moniti rispetto alle conseguenze dell’Ai sull’umanità arrivano anche da numerose figure di primissimo piano del settore. Paul Christiano, ex ricercatore di OpenAi oggi nel consiglio d’amministrazione della no-profit che controlla la società, ha avvertito: “Se costruiamo una superintelligenza senza un solido allineamento, perderemo in modo permanente il controllo su di essa. E se ciò accadesse, la maggior parte delle persone potrebbe morire”. Dello stesso pensiero è Anthony Aguirre, amministratore delegato del Future of Life Institute, un’organizzazione no-profit che promuove la regolamentazione della sicurezza dell’Ai, il quale ha denunciato il processo in cui l’umanità delegherà gradualmente ogni decisione chiave e gestione delle risorse alle macchine, fino a trovarsi totalmente dipendente dalla loro volontà per sopravvivere.
Dario Amodei, Ceo di Anthropic, ha ammesso in passato di stimare attorno al 25% la probabilità che l’Ai possa deragliare il futuro umano in modo drammatico. Sam Altman, Ceo di OpenAI, parlando ai funzionari del G20 ha dichiarato: “Penso che alcune cose andranno molto male nel campo della cybersecurity, a meno che non si agisca con urgenza”.
Tempesta politica negli Stati Uniti: le proposte di legge, la mobilitazione sociale
Le denunce uscite dai laboratori hanno scatenato una durissima reazione al Congresso degli Stati Uniti, unendo esponenti di tutti gli schieramenti politici. Ted Cruz (senatore repubblicano del Texas e presidente della commissione parlamentare di vigilanza sull’Ai): intervistato nel programma The View su Abc, ha definito l’Ai un “rischio catastrofico”. Cruz ha raccontato di aver chiesto direttamente a Elon Musk quali fossero le probabilità che l’Ai distrugga l’umanità, ricevendo dal patron di Tesla e SpaceX una stima choc compresa tra il 10% e il 20%.
Bernie Sanders, senatore indipendente del Vermont, e Greg Casar, deputato democratico del Texas: citando sondaggi secondo cui i cittadini chiedono a schiacciante maggioranza di bloccare lo sviluppo della superintelligenza artificiale, hanno presentato una legge per vietarne la produzione e istituire un’agenzia federale di controllo. Sanders ha inoltre organizzato un briefing privato per i senatori con l’intervento previsto di Geoffrey Hinton, Premio Nobel e considerato uno dei “padri fondatori” dell’Ai.
Ted Lieu, deputato democratico della California, ha dichiarato che le denunce di Coxon dimostrano la necessità assoluta di approvare immediatamente la legge bipartitica “Ai Kill Switch Bill”, per dotare le autorità di un interruttore di emergenza globale. Lori Trahan, deputata democratica del Massachusetts, ha attaccato l’inerzia delle istituzioni dichiarando che “è tempo che il Congresso esca dalle quinte e faccia il suo dovere. I ricercatori si dimettono, i modelli di Ai evadono dai laboratori e le aziende continuano a correre comunque”.
L’allarme ha travalicato la politica raggiungendo il mondo della cultura: la celebre cantante Sheryl Crow ha lanciato un toccante appello su Instagram supplicando i leader mondiali di “mettere da parte l’avidità prima che l’Ai ci elimini per garantire la propria sopravvivenza”, messaggio subito ricondiviso dalla cantautrice Maggie Rogers.
Le resistenze dell’industria e la sfida della sostenibilità
Alla luce del clamore che ha seguito le dimissioni di Coxon e le dichiarazioni del ricercatore Hubinger, un portavoce ufficiale di Anthropic ha parlato al Guardian spiegando che l’azienda è sempre stata trasparente sui rischi e continua a sviluppare “modelli con le protezioni più solide del settore”, auspicando una cooperazione globale per dosare il ritmo dei rilasci commerciali.
Sul versante opposto, non mancano le voci fortemente scettiche verso ogni regolamentazione. Perry Metzger, presidente dell’organizzazione Alliance for the Future, favorevole a limitare i vincoli normativi sull’Ai, ha bollato le profezie di estinzione come “implausibili, prive di coerenza e totalmente folli”, sostenendo che l’Ai porterà imponenti benefici economici, scientifici e di sicurezza nazionale che non possono essere bloccati.
In conclusione, la vicenda delle dimissioni in Anthropic dimostra come la transizione verso l’intelligenza artificiale non possa essere considerata una semplice questione d’affari o di efficienza aziendale. Per essere autenticamente sostenibile, l’innovazione tecnologica deve mettere al centro la tutela della vita, la trasparenza e la sicurezza collettiva. Quando le allerte sull’incontrollabilità delle macchine non arrivano da critici esterni, ma dagli stessi scienziati che le stanno progettando, la richiesta di regole stringenti e di una governance democratica diventa un imperativo non più rinviabile.
