Immagini di mondi che non sono esistiti
Viviamo in un momento in cui chiunque può produrre immagini, video, audio di cose che non sono mai accadute. Uno sbarco in Normandia generato da un modello di AI è oggi indistinguibile, per un occhio non allenato, da un filmato d'archivio. La questione è epistemica prima ancora che tecnica. Per decenni l'immagine fotografica ha avuto uno statuto speciale: era traccia del reale, prova che qualcosa era accaduto. Roland Barthes lo chiamava il ça a été, "questo è stato". L'AI generativa sta erodendo questo statuto in modo sistematico e irreversibile.
Guardando Juliana piangere davanti a quei filmati, ho però capito che la connessione più interessante si trovava altrove, a un livello più profondo. Stava nel romanzo, non nella serie.
La serie TV e il romanzo di Dick sono, su questo punto, due cose molto diverse.
Nella serie, il dispositivo narrativo sono le pizze di pellicola: immagini, documenti visivi, prove quasi fotografiche di una realtà alternativa. Nel romanzo (La svastica sul sole, pubblicato nel 1962) Dick costruisce qualcosa di più radicale. Non ci sono filmati. C'è un libro. Un romanzo proibito che circola sottobanco nell'America occupata, scritto da un certo Hawthorne Abendsen, l'uomo nell'alto castello del titolo. Il libro si intitola La cavalletta non si alzerà più, e racconta una storia alternativa in cui gli Alleati hanno vinto la guerra.
Un libro dentro un libro. Dick scrive un romanzo i cui personaggi leggono un romanzo. Il colpo di genio sta in un dettaglio apparentemente trascurabile: il mondo descritto da Abendsen non corrisponde esattamente alla nostra realtà. È un'altra variante ancora. Gli Alleati vincono, sì, ma l'egemonia del dopoguerra va alla Gran Bretagna, non agli Stati Uniti. L'assetto geopolitico non somiglia a quello che conosciamo. Esistono quindi tre livelli sovrapposti: il mondo reale del lettore, il mondo ucronico del romanzo (nazisti vincitori), il mondo ucronico-nel-romanzo di Abendsen (Alleati vincitori, ma diversamente da come è andata). Nessuno dei tre è "il vero". Nessuno è l'originale. Dick vuole proprio evitare che il libro di Abendsen funzioni come uno specchio trasparente sulla nostra realtà: se coincidesse con la storia del lettore, il gioco di specchi si chiuderebbe in modo troppo ordinato, e la domanda più scomoda verrebbe meno.
La coerenza come surrogato della verità
Il libro di Abendsen è pericoloso per il Regime non perché contenga prove, ma perché offre un mondo alternativo immaginabile e convincente, un mondo in cui vivere mentalmente, un mondo che funziona. Una narrazione internamente coerente, con i suoi personaggi, le sue cause, le sue conseguenze, produce una realtà abitabile indipendentemente dalla sua corrispondenza con i fatti.
I modelli linguistici di ultima generazione lavorano esattamente su questo piano. Possono scrivere la storia che una fotografia generata potrebbe documentare. Possono produrre l'ecosistema narrativo completo attorno a una notizia: i contesti, le cause, le testimonianze, le conseguenze. In un ambiente informativo in cui abbiamo perso i criteri condivisi per verificare i contenuti, la coerenza interna diventa spesso l'unico criterio disponibile. Un testo che tiene insieme, che risponde alle domande, che non si contraddice, viene trattato come affidabile. Dick lo aveva intuito nel 1962: il pericolo reale è la costruzione di un universo alternativo abbastanza coerente da essere abitato.
Senso senza intenzione
C'è un altro dettaglio che chiude il cerchio in modo quasi vertiginoso, e che vale la pena raccontare con precisione perché riguarda sia il romanzo sia il modo in cui è stato scritto.
Dick compose La svastica sul sole consultando l'I Ching, il Libro dei Mutamenti: antico oracolo cinese composto da 64 esagrammi. Ogni volta che doveva prendere una decisione narrativa rilevante (un bivio nella trama, una scelta di un personaggio), lanciava le monete e lasciava che il responso simbolico dell'oracolo guidasse la direzione. La trama del romanzo è costruita, letteralmente, su risposte oracolari.
Nel romanzo, anche Abendsen scrive il suo libro consultando l'I Ching. E alla fine, la protagonista Juliana pone all'oracolo la domanda decisiva: il libro di Abendsen dice il vero? Germania e Giappone hanno davvero perso la guerra? L'I Ching risponde con l'esagramma 61, Chung Fu, la Verità Interiore. Sì.
Sarebbe ovviamente facilone e sbagliato dire che l'I Ching e un modello linguistico funzionano allo stesso modo. Sono sistemi profondamente diversi: l'I Ching è un repertorio simbolico chiuso, con sessantaquattro esagrammi fissi e una tradizione ermeneutica millenaria che richiede un interprete umano per produrre significato. Un LLM è un sistema probabilistico aperto, addestrato su miliardi di testi, che genera sequenze sulla base di distribuzioni statistiche. Non c'è equivalenza meccanica tra i due.
La cosa che li accomuna, però, è più sottile e più inquietante: in entrambi i casi il significato emerge dalla ricezione, non dall'emissione. L'I Ching non sa cosa stai chiedendo. Il modello non sa cosa sta dicendo. Eppure chi li consulta costruisce interpretazioni, prende decisioni, orienta azioni. Il sistema è opaco alla propria produzione di senso: genera output che funzionano per chi li riceve, indipendentemente da qualsiasi comprensione interna. Senso senza intenzione. Coerenza senza coscienza.
Il loop che non si chiude
C'è una conseguenza di tutto questo che Dick non poteva vedere nel 1962, ma che oggi è sotto i nostri occhi.
Un modello linguistico viene addestrato su testi prodotti da esseri umani. Produce a sua volta testi che rientrano nel flusso informativo: vengono letti, citati, parafrasati, incorporati in articoli, messaggi, documenti. Quei testi potrebbero rientrare nei dati di addestramento di modelli futuri. È un loop: l'output alimenta credenza, la credenza produce nuovo testo, il testo rientra nel sistema. In questo ciclo non c'è un momento di ancoraggio al reale esterno. Il modello non verifica, non percepisce, non esperisce. Processa pattern e ne genera di nuovi. Eppure le persone che interagiscono con lui costruiscono sopra quell'output strutture cognitive che trattano come conoscenza, cambiano opinione, prendono decisioni. La credenza si forma su qualcosa che è, epistemicamente, un riflesso di riflessi.
Dick aveva costruito questa stessa struttura nel romanzo: i personaggi vivono in un mondo la cui storia ufficiale è una narrazione imposta, leggono un libro che propone una narrativa alternativa, quell'alternativa è a sua volta una variante che non corrisponde al reale, e l'unica risposta "vera" arriva da un oracolo che non ha accesso diretto alla verità, solo alla coerenza simbolica. Ogni livello è un'interpretazione di un'interpretazione.
C'è qualcosa di personale in questo ragionamento. Ho scritto tre romanzi insieme a un modello linguistico: Il corpo prestato, La memoria rubata, Il calcolo sovrano. Tre storie che esplorano, ciascuna a modo suo, esattamente questo territorio: l'identità come qualcosa che può essere ceduta o condivisa, la memoria come proprietà contendibile, il potere algoritmico come forma di sovranità. In nessuno dei tre saprei dire con precisione dove finisce la mia voce e dove comincia quella del sistema. Non perché il confine sia stato cancellato, ma perché la domanda stessa, nel corso della scrittura, ha smesso di sembrare rilevante. Il testo funzionava. Teneva insieme. Aveva una sua coerenza interna. Ed è esattamente questo il punto.
La domanda che rimane aperta, e che il romanzo di Dick lascia deliberatamente senza risposta, è questa: come si esce da un loop in cui la coerenza interna è l'unico criterio di verità disponibile?
Dick non lo sapeva. Nemmeno noi, per ora. Ma almeno lui, per scrivere il suo romanzo su un mondo falso, aveva usato un oracolo. Noi abbiamo costruito macchine che producono oracoli industrialmente, e le abbiamo messe in rete.