Redazione
Le valutazioni stellari, l’entusiasmo dei mercati, le promesse di un’intelligenza artificiale generale (Agi) ormai imminente. La narrativa che circonda OpenAI e le aziende leader nello sviluppo dei grandi modelli linguistici (Llm) sembra inarrestabile.
Eppure, c’è chi da anni suona una campana diversa, puntando il dito contro le vulnerabilità tecnologiche, i rischi sistemici e i modelli di business di queste aziende. Tra le voci più autorevoli e ascoltate c’è quella di Gary Marcus, che in una recente intervista rilasciata a la Repubblica-Italian Tech ha lanciato un avvertimento forte: la strada intrapresa dai colossi del settore, a partire da Sam Altman e dalla sua OpenAI, potrebbe essere quella sbagliata, e le promesse di rivoluzione nasconderebbero una bolla pronta a esplodere.
Chi è Gary Marcus
Per capire il peso delle sue dichiarazioni, è fondamentale inquadrare la figura di Gary Marcus. Oltre ad essere uno dei più grandi detrattori di questa tecnologia, Marcus è uno degli studiosi più rispettati e preparati nel campo dell’intelligenza artificiale e delle scienze cognitive.
Professore emerito di psicologia e neuroscienze alla New York University, studia da decenni il modo in cui le macchine elaborano le informazioni. Nel 2014 ha fondato Geometric Intelligence, una startup di machine learning poi acquisita da Uber nel 2016 per guidare il suo laboratorio dedicato all’Ai.
Marcus è noto per il suo scetticismo verso l’approccio attualmente dominante nell’IA, basato quasi esclusivamente sul deep learning e sull’aumento della potenza di calcolo (il cosiddetto paradigma dello scaling). Da anni sostiene — come ha spiegato in libri quali Rebooting AI e nel più recente Taming Silicon Valley — che i modelli linguistici come ChatGpt siano essenzialmente dei sofisticati sistemi di autocompletamento, incapaci di comprendere realmente il mondo e per questo condannati ad “allucinare”, ovvero a inventare informazioni.
La sua tesi è che per raggiungere un’Ai affidabile e sicura non basti aumentare i dati in pasto alle reti neurali, ma sia necessario un approccio neuro-simbolico, capace di unire il deep learning con la logica formale e il ragionamento causale.
La sua competenza lo ha portato a testimoniare nel 2023 davanti al Senato degli Stati Uniti, seduto proprio accanto a Sam Altman, per discutere dei rischi e della regolamentazione dell’intelligenza artificiale.
Perché “non ci si può fidare di Sam Altman”
Nell’intervista a Italian Tech, Marcus ha espresso giudizi molto duri sui vertici delle aziende tecnologiche, concentrandosi in particolare su Sam Altman, Ceo di OpenAI. Quando gli è stato chiesto se ci si possa fidare di lui, ha replicato: “La risposta è facile: no, non ci si può fidare di Sam Altman”.
Marcus ha ricordato l’audizione al Senato del 2023, ammettendo di essere stato inizialmente convinto dall’atteggiamento di Altman, per poi ricredersi analizzandone i comportamenti successivi. Lo scienziato accusa il Ceo di OpenAI di aver “mentito sulla sua quota in OpenAI” e di aver mostrato un atteggiamento contraddittorio sulla regolamentazione: “Ha dichiarato di essere a favore della regolamentazione dell’intelligenza artificiale, per poi fare pressioni sull’Unione Europea affinché indebolisse l’AI Act”. Secondo Marcus, la preoccupazione di Altman per le sorti dell’umanità, ribadita dalla società ad aprile scorso, “è solo una posa”, guidata dall’evidente conflitto di interessi legato alla “volontà di lanciare un’Ipo (offerta pubblica iniziale, ndr.) e massimizzare i profitti”.
La differenza con Dario Amodei
Diversa la posizione di Gary Marcus su Dario Amodei, Ceo di Anthropic noto per i suoi avvertimenti sui rischi provocati dallo sviluppo troppo rapido dell’Ai. “Non lo conosco bene come Altman, ma – aggiunge – direi che Dario si preoccupa dell’umanità più di quanto non faccia Sam. Quando Altman parla di avere a cuore le sorti dell’umanità, penso sia solo una posa; in Dario, invece, credo ci sia una componente di genuinità”.
Lo spettro della bancarotta
L’analisi di Marcus si spinge oltre le figure di vertice per colpire il modello di business e la solidità finanziaria dell’intero settore. Nonostante le valutazioni miliardarie, lo studioso ritiene che OpenAI si trovi in una situazione precaria: “Secondo me è in bilico sulla bancarotta: sono ampiamente sovraesposti rispetto alle loro entrate effettive e non generano i profitti promessi”, ha dichiarato.
Il nodo centrale, secondo lo spauracchio della Silicon Valley, è che l’entusiasmo generato dall’uscita di ChatGPT non si sta traducendo in un modello economico sostenibile sul lungo termine. Marcus sostiene da tempo che i grandi modelli linguistici “si sarebbero trasformati in semplici merci” e che “nessuno ci farà davvero soldi, a eccezione di Nvidia che vende l’hardware”. In questo scenario, le aziende del settore sarebbero costrette a lanciare massicce Ipo semplicemente per riuscire a pagare le enormi bollette energetiche e infrastrutturali necessarie a far funzionare i sistemi.
Il tradimento della “missione umanitaria”
C’è poi una questione di principio e trasparenza. OpenAI, ricorda Marcus, era nata con una dichiarazione di intenti inequivocabile: “Essere aperti – come suggerisce il nome stesso – e operare come un’organizzazione senza scopo di lucro a beneficio dell’intera umanità, non di una singola azienda”.
Oggi, constata lo scienziato, questa narrazione è crollata: l’azienda ha stretto accordi commerciali complessi, ha chiuso l’accesso aperto ai propri modelli più avanzati e, soprattutto, mette la sua tecnologia “al servizio di governi e forze armate”. “Sembrano del tutto indifferenti al reale funzionamento dei loro sistemi, purché generino profitti; hanno semplicemente tradito la loro missione”, conclude duramente.
Anche secondo Elon Musk, che è tra i soci fondatori di OpenAI, Sam Altman avrebbe tradito la promessa di dare alla società una natura no-profit. L’uomo più ricco del mondo ha portato la questione in un tribunale di Oakland, che, a maggio scorso, ha rigettato la sua richiesta per scadenza dei termini di prescrizione triennale.
Secondo gli osservatori, Musk non è stato mosso da finalità umanitarie, ma dalla voglia di affossare l’azienda da cui ha rotto malamente nel 2018 e aumentare la quota di mercato del suo modello di intelligenza artificiale, GrokAI.
Sicurezza, regolamentazione e il ruolo dei governi
L’allarme di Marcus riguarda anche le implicazioni politiche e di sicurezza nazionale legate allo sviluppo dell’Ai. Interrogato sulla possibilità — discussa da alcuni osservatori — che il governo degli Stati Uniti possa acquisire quote in OpenAI, Marcus l’ha definita “un’idea terribile” e “un vero disastro”.
L’acquisizione di partecipazioni statali in aziende tecnologiche creerebbe “un conflitto di interessi enorme”, avvicinando eccessivamente il potere politico a dinamiche di profitto aziendale.
Il rischio sistemico, secondo Marcus, si manifesterebbe negli scenari peggiori: “Cosa succederebbe se uno di questi modelli potesse creare un’arma biologica in grado di uccidere moltissime persone, o insegnare a qualcuno come farlo?”.
Tra P Doom e P Dystopia
Lo scienziato avverte da tempo che il rischio non è tanto un’estinzione apocalittica causata da robot ribelli (il cosiddetto “P Doom”), quanto piuttosto uno scivolamento verso una distopia (“P Dystopia”) alimentata da sorveglianza di massa, disinformazione a basso costo generata dall’Ai e un crollo della fiducia pubblica nella verità.
Secondo lo scienziato cognitivo, l’euforia tecnologica rischia di oscurare le debolezze fisiche, economiche ed etiche di un’industria che sta ridisegnando le infrastrutture cognitive della società contemporanea.
