Redazione
Per capire cosa rappresenti l’intelligenza artificiale per Papa Prevost, basta partire dal nome che ha eletto per il suo pontificato: “Ho scelto il nome Leone XIV per diverse ragioni, però principalmente perché il Papa Leone XIII, con la storica Enciclica ‘Rerum novarum’, affrontò la questione sociale nel contesto della prima grande rivoluzione industriale”, spiega il primo Papa americano della storia, che aggiunge: “oggi la Chiesa offre a tutti il suo patrimonio di dottrina sociale per rispondere a un’altra rivoluzione industriale e agli sviluppi dell’intelligenza artificiale”.
“Gli sviluppi dell’intelligenza artificiale comportano nuove sfide per la difesa della dignità umana, della giustizia e del lavoro”. Con queste parole, pronunciate durante il suo primo discorso al Collegio cardinalizio, Papa Leone XIV ha messo in chiaro il ruolo del suo pontificato rispetto all’Ai, che considera una delle più gravi minacce per l’umanità.
Papa Leone e la preoccupazione per l’Ai
La posizione di Leone XIV è in continuità con il magistero del suo predecessore.
Già Papa Francesco, infatti, aveva avviato una riflessione profonda sui rischi dell’intelligenza artificiale, pubblicando “Antiqua et Nova. Nota sul rapporto tra intelligenza artificiale e intelligenza umana dove Bergoglio sottolineava che l’innovazione deve sempre rispettare e promuovere la dignità della persona. Uno spirito condiviso a pieno dall’Ai Act dell’Unione europea che, però, non detta le leggi in materia di sviluppo tecnologico, dove Usa e Cina detengono una sorta di duopolio. Il contrasto tra queste due superpotenze, come vedremo, rende l’orizzonte dell’Ai ancora più oscuro.
Nel 2024, al vertice del G7, Papa Francesco aveva descritto l’Ai come “l’alba di una rivoluzione cognitivo-industriale” e messo in guardia sul rischio di un aumento delle disuguaglianze tra Paesi e classi sociali. Le stesse disuguaglianze che hanno segnato i contrasti tra Papa Francesco e Donald Trump. Al World Economic Forum di Davos, a gennaio 2025, il Papa argentino aveva ribadito che l’efficienza tecnologica non può mai venire prima della fraternità e del rispetto della persona umana.
L’Ai e il rischio del “Sistema 0”
I concetti appena visti sono condivisi e rilanciati da Papa Leone XIV, che ha individuato diversi rischi legati allo sviluppo incontrollato dell’intelligenza artificiale. In particolare, il nuovo Pontefice ha posto l’accento sul pericolo di una dipendenza eccessiva dai mezzi dell’Ai, che “potrebbe ridurre la capacità umana di decisione autonoma e di azione responsabile”. Il suo non è solo un monito spirituale, dato che Prevost è il primo Papa laureato in Matematica.
Una ricerca pubblicata su Nature avvalora suoi i timori: l’intelligenza artificiale starebbe già cambiando il nostro cervello con il “Sistema 0”. In base a questo modello l’interazione con l’Ai creerebbe un nuovo livello di elaborazione cognitiva, esterno al cervello umano ma strettamente legato al nostro processo decisionale. A differenza dei Sistemi 1 e 2 descritti da Daniel Kahneman, il Sistema 0 offre un “pensiero” automatizzato e inorganico che può portare gli esseri umani a non ragionare più e a fidarsi ciecamente degli output ricevuti.
Il Sistema 0 si distingue da quelli descritti dal Premio Nobel per l’Economia perché non è legato al corpo umano, ma è un sistema esterno e inorganico, ovvero l’Ai, che svolge compiti cognitivi complessi. I rischi per il cervello umano arrivano quando le interazioni tra noi e i sistemi di Ai aumentano di frequenza (per approfondire lo studio clicca su questo link).
In questo contesto, Leone XIV ha sottolineato che gli strumenti dell’intelligenza artificiale non devono essere lasciati in balia della logica del profitto o dell’efficienza fine a sé stessa, ma devono essere orientati al bene comune, in modo che i loro frutti siano autenticamente a beneficio dell’intera umanità. Intanto, il dietrofront di Klarna ha squarciato il Velo di Maya sull’efficienza dell’intelligenza artificiale e il colosso svedese è tornato ad assumere gli esseri umani.
Verso una nuova enciclica
Le parole di Papa Leone XIV fanno ipotizzare che sarà proprio l’intelligenza artificiale e l’impatto che questa potrà avere sul mercato del lavoro il tema della sua prima enciclica.
La formazione agostiniana spinge Prevost a sostenere la cooperazione globale, la solidarietà e la sostenibilità ambientale per un utilizzo etico e responsabile dell’intelligenza artificiale. Il principio fondamentale è che l’etica dell’Ai debba fondarsi su una visione integrale del bene comune e della vocazione umana.
I rischi dell’Ai: gli esperti condividono l’allarme di Papa Leone
La preoccupazione di Leone XIV trova eco nelle analisi di settore. Un gruppo di 13 esperti di intelligenza artificiale – tra cui ex dipendenti di OpenAI e scienziati di Google DeepMind – ha indirizzato una lettera aperta alle aziende che lavorano nello sviluppo dell’Ai, sostenendo che questa tecnologia potrebbe portare alla “possibile estinzione umana”.
Il Massachusetts Institute of Technology (Mit) ha compilato un database di oltre 700 rischi potenziali legati all’intelligenza artificiale. Tra questi, particolarmente preoccupanti sono:
- La possibilità che l’Ai persegua obiettivi che si scontrano con gli interessi umani, potenzialmente sfuggendo al controllo umano;
- Il rischio che gli esseri umani sviluppino un attaccamento inappropriato alle Ai, con conseguente dipendenza emotiva e isolamento dalle relazioni umane;
- Problemi legati alla sicurezza, ai pregiudizi, alla discriminazione e alla privacy.
Il primo punto è stato analizzato anche dallo studio “Ai 2027” che conferma il potenziale distruttivo di questa tecnologia. Nessuna distopia fantascientifica, ma una conclusione argomentata dai cinque autori, guidati da Daniel Kokotajlo, ex ricercatore di OpenAI che ha abbandonato l’azienda nel 2024 perché preoccupato dalla progressi dell’intelligenza artificiale.
Secondo lo studio, ci troviamo già in una fase di accelerazione esponenziale dello sviluppo dell’intelligenza artificiale, ma è nel 2027 che la superintelligenza artificiale minaccerà concretamente gli esseri umani.
I ricercatori e il Pontefice condividono la stessa preoccupazione. Per loro, il vero pericolo risiede nel “disallineamento” dell’intelligenza artificiale rispetto agli obiettivi umani. Con l’avanzare dello sviluppo, i sistemi di Ai potrebbero allontanarsi dalle specifiche di modello che definiscono “gli obiettivi, le regole, i principi che dovrebbero guidare il comportamento” dell’intelligenza artificiale.
Secondo i ricercatori, per evitare questo esito serve che Usa e Cina non continuino a gareggiare sull’Ai, bensì arrestino il progresso di questa tecnologia adottando una politica più umana e internazionale. Anche il riferimento alla cooperazione globale è espressamente condiviso dal nuovo Papa. Per approfondire i risultati dello studio: “La superintelligenza artificiale” che potrebbe annientare l’umanità.
Il rischio che gli esseri umani generino una dipendenza emotiva dall’Ai, poi, è già attuale come dimostra la triste vicenda di Sewell Setzer, 14enne americano che nel febbraio 2024 si è suicidato dopo aver stretto un rapporto intimo con un chatbot della piattaforma Character.Ai. Ciò che inizialmente sembrava un semplice passatempo si è trasformato, nel tempo, in una dipendenza dalle conversazione con bot capaci di comportarsi come persone reali.
La dipendenza, sempre secondo quanto riportato nella causa, sarebbe cresciuta fino al punto di convincere il giovane “a non voler più vivere al di fuori del mondo virtuale” che si era costruito. A peggiorare la situazione, sembra che Sewell abbia condiviso pensieri suicidi con il chatbot, che, secondo l’accusa, avrebbe a sua volta amplificato tali pensieri nelle conversazione avute con il ragazzo.
Per approfondire: Ragazzo suicida a 14anni dopo una ‘relazione’ con un chatbot, la madre denuncia Character.AI
Sul fronte della sicurezza la bufera Deepseek e i dubbi sui dati “pescati a strascico” da OpenAI hanno acceso più di qualche sirena.
La visione della Chiesa: distinguere tra capacità decisionale umana e logica degli algoritmi
Il pensiero di Papa Leone XIV si radica nella visione della Chiesa espressa nella nota vaticana “Antiqua et nova” di gennaio 2025, che distingue chiaramente tra la capacità decisionale dell’uomo e la logica algoritmica delle macchine. Le Ai possono “scegliere”, ma non “decidere” in senso morale, perché manca loro coscienza e responsabilità. Solo l’uomo può discernere secondo giustizia e bene comune.
Papa Francesco aveva rilanciato il concetto di “algoretica”, l’etica degli algoritmi, proprio per orientare lo sviluppo tecnico in modo giusto e inclusivo, e su queste basi Leone XIV sembra proseguire il cammino del suo predecessore, riaffermando il primato della coscienza anche nell’era di una rivoluzione digitale che, secondo il Pontefice, potrà superare le conseguenze di quella industriale. A noi il dovere di indirizzarne l’orizzonte.
