Si è discusso della prima enciclica di Leone XIV come si discute del meteo: cosa dice il Papa sull'intelligenza artificiale. La domanda è già un fraintendimento. Il titolo non viene dalla cibernetica, viene dal Magnificat; e un testo che si apre sulla torre di Babele e si chiude sul cantico di Maria non parla anzitutto di macchine. Parla di ciò che resta umano quando le macchine imparano a sembrarlo. L'intelligenza artificiale è la res nova che costringe la Dottrina sociale a ridire se stessa, non l'argomento. Chi la mette al centro prende la parte per il tutto, e perde il punto.
Il punto è agostiniano, e dichiarato. Robert Prevost è il primo agostiniano sul soglio di Pietro dopo due millenni, e la scelta della cornice non è erudizione: è confessione di metodo. Sotto Babele e Gerusalemme lavora il De civitate Dei. Due amori fecero due città. L'amore di sé fino al disprezzo di Dio, l'amore di Dio fino al disprezzo di sé. Tutto il resto, il paradigma tecnocratico, i monopoli del calcolo, la disoccupazione algoritmica, è la proiezione storica di quella lotta interiore.
La tesi vera dell'enciclica è che la scelta sull'IA inizia in ciascuno di noi, prima che nei consigli di amministrazione delle piattaforme. È una tesi che si può trovare ingenua. Non si può dire che sia confusa.
Leggo da laico, e da chi frequenta la filosofia dell'informazione come si frequenta una casa. Da quella casa, l'enciclica appare sorprendente per ragioni di cui si è parlato poco. In due passaggi il documento adotta, senza nominarlo, il lessico dell'infosfera. L'IA «è già ambiente in cui siamo immersi». Il digitale «non è un mondo parallelo o puramente virtuale». Sono affermazioni che Floridi firmerebbe: l'ambiente informazionale come ecosistema morale, l'esistenza onlife, la responsabilità distribuita lungo una catena che comprende dati, energia, infrastrutture, persone. Quando l'enciclica chiede di custodire l'«ecosistema digitale» come si custodisce l'ambiente naturale, sta facendo ecologia dell'informazione con parole prese in prestito dalla Laudato si'. La diagnosi converge. Il filosofo dell'informazione e l'agostiniano si trovano sulla stessa banchina.
Poi i treni vanno in direzioni opposte. La convergenza dura fino al fondamento, e al fondamento si rompe. Floridi àncora lo statuto morale a un'ontologia informazionale: ogni entità informazionale possiede un valore minimo, la morale si estende oltre il vivente, il fondamento non chiede metafisica della persona. L'enciclica àncora tutto all'imago Dei trinitaria e a una dignità detta ontologica, anzi infinita, che precede ogni capacità e ogni prestazione. Stessa ecologia, fondamenti incompatibili. Il documento, al paragrafo cinquantasei, fa la mossa che un laico deve registrare: senza «fondamenti più solidi», sostiene, i diritti restano formali e revocabili da chi detiene il potere. Tradotto: la sola ragione secolare non garantisce l'universalità dei diritti. È un'ansia, non una dimostrazione. Afferma la necessità del fondamento teologico; non prova il fallimento delle alternative costruzioniste o contrattualiste. Qui l'enciclica chiede un atto di fede travestito da argomento, e il laico ha il diritto di non firmare la cambiale.
C'è un secondo luogo in cui il testo gioca sporco. Il paragrafo novantanove pronuncia la sentenza: le cosiddette intelligenze artificiali imitano, non comprendono; non hanno corpo, esperienza, coscienza morale; «quando la parola viene simulata» non costruisce una relazione ma la sua parvenza. È, in sostanza, l'obiezione dell'illocuzione promossa a dogma. Chi simula un atto linguistico non lo compie, perché manca il soggetto intenzionale. Su questo l'enciclica prende posizione netta. E prendendola commette un errore che vale la pena nominare.
L'errore è uno scambio di categoria. Ci sono due domande, e l'enciclica le tratta come una. La prima: il sistema possiede uno statuto morale ed esperienziale, una interiorità, una vita affettiva. La seconda: il sistema può funzionare come co-agente in un'architettura cognitiva distribuita, assumere una porzione del lavoro epistemico, partecipare alla produzione di conoscenza condivisa. Il documento confuta la prima, e tratta la confutazione come valida anche per la seconda.
Ma la co-agenza epistemica non è mai stata una tesi sull'interiorità fenomenica. È una tesi sulla divisione del lavoro cognitivo.
Un sestante non comprende la rotta, e nondimeno la calcola; un archivio non ricorda, e nondimeno custodisce la memoria di un popolo.
Negare al modello la coscienza non equivale a negargli la funzione. L'enciclica ha bisogno che la macchina sia mero simulacro, perché solo così la dignità resta privativa dell'umano. Vince il dibattito stipulando la premessa. È legittimo, in teologia. In filosofia, è un passaggio da contestare.
E però. Sarebbe comodo, e falso, liquidare il testo come apologia ben scritta. C'è un paragrafo che capovolge il tavolo, e che chi lavora sulla governance dovrebbe leggere tre volte. Non basta moralizzare la macchina, dice l'enciclica; l'allineamento dell'IA a valori umani va sottoposto a criteri di giustizia sociale condivisa, «altrimenti chi controlla l'IA imporrà la propria visione morale, che diventerà l'infrastruttura invisibile dei sistemi». E la formula che chiude: non serve un'IA più morale, se questa morale è decisa da pochi. Qui il documento smette di difendere e comincia a vedere. Da anni l'industria tratta l'allineamento come problema di ingegneria: calibrare l'output, incidere i valori giusti nel modello. L'enciclica lo riqualifica come problema di legittimità. La domanda non è se il sistema sia allineato, è chi ha scritto i valori e a chi è concesso discuterli. Questa è la cosa più intelligente del testo, e non ha bisogno di Dio per stare in piedi. Un laico la sottoscrive senza riserve. Anzi: la sottoscrive meglio, perché non ha la tentazione di affidare la soluzione alla grazia.
Resta il sospetto del praticante, che non si congeda con un'epifania. «Disarmare l'IA», trattare dati e algoritmi come beni comuni sottratti ai monopoli: imperativi giusti, e istituzionalmente nudi. Come si maneggia un bene comune informazionale senza dissolvere il regime di proprietà intellettuale che lo produce, l'enciclica non lo dice. Tra l'imperativo morale e il meccanismo operativo c'è la distanza che separa l'omelia dal regolamento, e quella distanza, nel mio mestiere, è dove si lavora ogni giorno. Il documento indica criteri, non soluzioni, e lo rivendica. Onesto. Insufficiente per chi deve scrivere una procedura entro settembre.
Si è voluto leggere la chiusura dell'enciclica nel segno del «Non abbiate paura» di Wojtyła. È una cornice imposta da fuori, non del testo. Il testo chiude sul Magnificat, e la differenza non è cosmetica. L'esortazione di Wojtyła invitava a vincere la paura. Il cantico di Maria fa altro: rovescia. Depone i potenti, innalza gli umili, manda i ricchi a mani vuote. L'enciclica intitolata alla magnifica umanità si congeda con l'inno che annuncia il capovolgimento delle gerarchie, e affida quel rovesciamento non alla potenza ma alla grazia. Si può non credere alla grazia. Conviene comunque notare dove il testo decide di posare lo sguardo, alla fine: non sulla torre, sulla pietra scartata. I poveri, i malati, i migranti, i piccoli, che diventeranno testata d'angolo. È la stessa pietra che ogni sistema di ottimizzazione, addestrato a misurare il merito e a scartare l'errore, è strutturalmente incapace di vedere.
Due amori, due città, due modi di costruire. La macchina non sa quale dei due la abita, perché non abita nulla. Lo sappiamo noi, e fingiamo di non saperlo. Forse è questo, e non l'algoritmo, il simulacro da temere.