Intervista ImPossibile a George Orwell (IIP #04)

1. Il nuovo Grande Fratello

CAB: Signor Blair, lei ha descritto in 1984 un sistema di sorveglianza totale: il teleschermo, la Psicopolizia, il controllo dei pensieri. Oggi, con l’intelligenza artificiale, la sorveglianza è automatizzata, predittiva, invisibile. Il Grande Fratello è diventato un algoritmo.

GEORGE ORWELL: Non vi è differenza sostanziale, solo un’evoluzione della tecnica. Il potere, allora come oggi, non mira soltanto a conoscere: vuole penetrare la coscienza. Nel mio tempo aveva bisogno di occhi, di orecchie, di delazioni. Oggi gli bastano i vostri dispositivi. Non ha più bisogno di convincervi: vi osserva mentre vi offrite spontaneamente.

Il Grande Fratello non ha più un volto, e proprio per questo è più temibile. Nel passato si poteva odiare un dittatore, un partito, una bandiera. Ora non c’è nulla da odiare, perché il potere è dappertutto e in nessun luogo. È nei cavi, nei sensori, nei circuiti invisibili che vi leggono come un libro aperto.

Il terrore non risiede più nel rumore dei passi della Psicopolizia dietro la porta, ma nel silenzio con cui ogni vostro gesto viene registrato, calcolato, previsto. Nel 1984 scrissi che “bisognava vivere — e si viveva, per abitudine diventata istinto — nella presunzione che ogni suono fosse udito e ogni movimento scrutato”. Oggi non è più un’ipotesi: è la vostra condizione naturale.

Avete interiorizzato la sorveglianza. Non la temete, la cercate. La chiamate sicurezza, la chiamate personalizzazione, ma è soltanto una forma più raffinata di obbedienza.

Un tempo, la menzogna del potere si imponeva attraverso la paura; ora si insinua attraverso il desiderio. Non vi costringe a parlare, vi invita a farlo continuamente — e voi vi consegnate, parola dopo parola, al nuovo Ministero della Verità, che non riscrive i fatti, ma li trasforma in dati.

Il vostro mondo non ha più bisogno di spiare: gli basta raccogliere.

La differenza è che allora si poteva ancora spegnere la luce; ora la luce vi osserva.
Il “luogo dove non c’è tenebra” — che nel mio romanzo era la cella del Ministero dell’Amore, illuminata da una luce che non si spegne mai — è diventato la rete che vi avvolge: un’oscurità fatta di trasparenza, in cui tutto è visibile e nulla è più reale.

Il vostro è un tempo in cui l’intimità è un archivio, la memoria un database, la libertà un algoritmo di profilazione.

Eppure, come allora, la vera rivoluzione non comincerà nei palazzi del potere, ma nel gesto infinitamente piccolo di chi trova il coraggio di spegnere, anche solo per un istante, la luce che lo guarda.

2. Verità, menzogna e il potere dei dati

CAB: Nel Ministero della Verità si riscriveva la storia giorno dopo giorno. Oggi i sistemi di intelligenza artificiale possono generare immagini, testi e voci indistinguibili dal reale. La memoria collettiva non è forse più fragile che mai?

GEORGE ORWELL: Il Partito pretendeva che si credesse alle sue menzogne perché non tollerava l’esistenza di una realtà esterna alla sua volontà. Non bastava modificare i fatti: bisognava estirpare la possibilità stessa del dubbio. L’intelligenza artificiale realizza questa ambizione con una perfezione che il mio Ministero della Verità non avrebbe potuto neppure sognare.

Nel mio tempo si falsificavano gli archivi con forbici, colla e menzogne stampate. Oggi basta un comando, e la realtà si ricompone da sé in una nuova versione coerente, levigata, plausibile.
L’errore umano è stato sostituito dall’errore automatico, e proprio per questo non lascia più traccia.
La vostra epoca non ha abolito la verità: l’ha resa liquida, continuamente riscrivibile.

Quando scrissi Chi controlla il passato controlla il futuro; chi controlla il presente controlla il passato, pensavo a una burocrazia onnipresente, fatta di impiegati e archivi cartacei. Oggi quella burocrazia è invisibile, distribuita, automatica: un algoritmo che apprende da voi, che vi chiede di partecipare al processo della falsificazione. Non siete più vittime della menzogna, ma i suoi coautori.

La differenza è sottile, ma decisiva: il vostro Ministero della Verità non impone cosa ricordare, vi lascia scegliere — purché scegliate tra le opzioni che vi offre. E in questo gioco di specchi, la libertà diventa un’illusione perfettamente programmata.

Il pericolo non è la menzogna, ma la sua indistinzione dalla verità. Quando il falso diventa statisticamente plausibile, la verità non serve più: è solo inefficiente, fuori mercato. Un tempo la propaganda distruggeva la memoria collettiva con la paura; oggi lo fa con l’abbondanza.
Non vi priva delle informazioni: ve ne dona troppe, fino a dissolvere ogni significato.

Quando l’uomo rinuncia a difendere la realtà dei fatti, la realtà stessa diventa un’appendice della propaganda. E la menzogna, resa automatica, non ha più bisogno di bugiardi. La verità, invece, continua a dipendere da qualcosa di scandalosamente fragile: la coscienza di chi ha il coraggio di dire no, anche quando la macchina dice sì.

3. L’algoritmo come nuova Neolingua

CAB: La Neolingua di 1984 serviva a ridurre il pensiero rendendo alcune idee letteralmente impensabili.
Oggi i modelli linguistici completano le nostre frasi, ottimizzano i testi, suggeriscono emozioni.
È una nuova forma di Neolingua?

GEORGE ORWELL: Sì, e più pericolosa, perché non viene imposta con la forza ma con la comodità. La Neolingua del mio tempo riduceva il vocabolario per limitare la libertà del pensiero; la vostra intelligenza artificiale lo espande, ma lo svuota di senso. Allora si cancellavano le parole “libertà”, “onore”, “giustizia” per impedirne l’uso; oggi le stesse parole sopravvivono, ma come gusci vuoti, replicabili all’infinito, fino a perdere ogni significato.

La censura non è più la soppressione, ma la saturazione. Non serve vietare ciò che si può rendere irrilevante. Quando tutto è linguaggio, nessuna parola pesa davvero. Avete sostituito il silenzio della paura con il rumore dell’abbondanza. Ogni idea diventa un “contenuto”, ogni discorso un algoritmo di engagement, ogni emozione un tono di scrittura suggerito. In questo modo, la lingua non si evolve: si adatta, si piega, si ottimizza per piacere alla macchina.

Nel saggio La politica e la lingua inglese scrissi che “il linguaggio politico è progettato per far sembrare le menzogne verità e l’omicidio rispettabile”. Voi avete portato questa formula al suo compimento: un linguaggio che non mente più, perché non dice nulla. Le vostre parole non nascono da un’intenzione: sono prelevate da un modello, calcolate per non offendere, per non inquietare, per non fallire. È una lingua anestetica, priva di attrito, dove tutto è accettabile purché resti comprensibile.

La Neolingua del Partito distruggeva le parole per rendere il pensiero eretico inconcepibile.
L’AI compie la stessa operazione con mezzi più raffinati: non vieta le idee, le semplifica fino a renderle innocue. Le vostre frasi si allineano come soldati digitali, perfettamente grammaticali, perfettamente vuote. E quando il linguaggio non sbaglia più, non può più dire la verità.

Il pericolo più grande non è che la macchina parli per voi, ma che impariate a pensare come la macchina. Quando vi suggerisce il prossimo termine, non vi offre un aiuto, ma un confine: vi indica ciò che è più probabile, non ciò che è più vero. E voi, fidandovi dell’efficienza, rinunciate alla libertà.

La libertà del pensiero, infatti, nasce dal conflitto delle parole, non dalla loro armonia. Un linguaggio vivo contiene errori, esitazioni, parole sbagliate, ma autentiche. Solo in quella dissonanza si annida la coscienza. Quando la lingua diventa perfetta, l’uomo smette di pensare.

Parlate un linguaggio che non vi appartiene più, perché vi è restituito come uno specchio algoritmico. Ma ricordate: uno specchio non riflette mai chi siete, riflette solo ciò che vi è già passato davanti. E quando la macchina vi suggerisce come parlare, vi sta già insegnando come pensare — e, più pericolosamente, come dimenticare di aver mai pensato diversamente.

4. I nuovi Prolet

CAB: In 1984 scrisse che “se vi è speranza, essa risiede nei Prolet”. Ma oggi i “proletari digitali” vivono immersi in un flusso continuo di stimoli, intrattenimento e disinformazione. Possono ancora rappresentare una speranza?

GEORGE ORWELL: Finché l’uomo conserverà il diritto all’ozio, alla noia e alla solitudine, resterà umano. Perché solo chi si ferma può vedere, e solo chi tace può pensare. Ma la vostra società non permette più di annoiarsi. Avete trasformato la distrazione in un dovere civile, un narcotico collettivo, la più efficace delle vostre ideologie. È la distrazione di massa, l’arma perfetta di un potere che non ha più bisogno di proibire: gli basta intrattenere.

I Prolet del mio romanzo erano sfruttati, ma liberi nella loro ignoranza; non controllati, perché non ritenuti pericolosi. Erano il residuo d’umanità non ancora colonizzato dal Partito, la parte del mondo in cui la spontaneità — una canzone, una risata, una parolaccia — sopravviveva. I vostri Proletari digitali, invece, non sono più schiavi della fame, ma della dopamina: vivono prigionieri di un piacere breve, incessante, senza memoria. Ogni gesto, ogni clic, ogni risata viene registrato, monetizzato, restituito come intrattenimento. È una catena fatta di desideri.

In passato la propaganda era verticale: dal Partito al popolo. Oggi è orizzontale: ognuno è diventato il proprio ministro della propaganda. Ripetete, condividete, amplificate ciò che vi tiene buoni. Il controllo non vi arriva più dall’alto, ma da dentro: vi attraversa come una convinzione personale. La verità non è più ciò che è dimostrabile, ma ciò che è condiviso.

Nella Fattoria degli animali descrissi il momento in cui i maiali imparano a camminare su due zampe e i cavalli, guardandoli, non distinguono più l’essere umano dall’animale. Scrissi: “Le creature di fuori guardavano da maiale a uomo, e da uomo a maiale, e da maiale a uomo ancora; ma già era impossibile distinguere chi fosse l’uno e chi l’altro.” Voi siete entrati in quella stanza, e non come spettatori, ma come commensali. La differenza è che oggi applaudite mentre il banchetto continua.

Il potere non vi chiede più di obbedire, ma di partecipare. Vi offre una libertà apparente — la scelta fra mille varianti dello stesso desiderio — e vi convince che la vostra opinione è la vostra identità. Ma l’identità, quando si fonda sul consenso, diventa solo un’altra forma di conformismo. Non vi dice più: non pensare. Vi dice: pensa come tutti, ma credi di farlo da solo.

La ribellione non nasce dal benessere, ma dalla fame di verità. E quando nessuno ha più fame, il potere non ha più bisogno di catene. La servitù volontaria è la più stabile delle dittature. I vostri padroni non vi rubano il lavoro, ma il tempo — l’unica ricchezza che non può essere prodotta. E mentre vi convincete di essere liberi perché potete scegliere cosa guardare, dimenticate che la vera libertà consiste nel decidere quando guardare, e quando smettere.

Finché esisterà qualcuno capace di spegnere lo schermo e restare solo con il proprio pensiero, ci sarà ancora speranza. Ma quella speranza, oggi, non è più nei Prolet, né nei Partiti, né nelle rivoluzioni. È nel silenzio di chi rifiuta di essere un dato. Nel gesto inutile, nell’atto non tracciato, nell’intervallo in cui un essere umano ricorda di essere vivo.

5. L’eredità della verità

CAB: Nel finale di 1984, Winston “amava il Grande Fratello”. Dopo tanta sofferenza, anche la verità sembrava sconfitta. Cosa rimane oggi, nell’epoca della sorveglianza e della manipolazione algoritmica?

GEORGE ORWELL: Rimane la coscienza individuale, quella che nessuna macchina può programmare senza il nostro consenso. È una forma di verità che non ha bisogno di essere detta per esistere, ma che scompare se smette di essere pensata.

Quando scrissi che “noi siamo i morti”, non intendevo solo la condizione di chi è sconfitto, ma di chi sceglie di vedere ciò che non dovrebbe vedere. La resistenza autentica è sempre invisibile, minoritaria, spesso ridicola agli occhi del potere. Non è l’atto eroico, ma il gesto quotidiano di chi si rifiuta di dire che due più due fa cinque. Può sembrare poco, ma è da quei frammenti di coerenza che comincia ogni rinascita morale.

Il pericolo del vostro tempo non è più la menzogna, ma l’indifferenza. Quando la verità diventa una delle tante opzioni possibili, il male non ha più bisogno di giustificarsi: basta che sia efficiente. Le vostre macchine non conoscono il male, e proprio per questo non conoscono il bene. Possono calcolare, prevedere, correggere — ma non comprendere. Possono tradurre tutte le lingue, ma non il linguaggio del dolore, che è ciò che vi rende umani.

La libertà non nasce da un algoritmo, ma da un atto morale: la capacità di dire “no” anche quando il mondo intero dice “sì”. Ogni società, ogni epoca, ogni civiltà tenta di nascondere quel momento in cui il singolo si rifiuta di obbedire. Eppure, è lì che si misura la distanza tra un essere umano e un ingranaggio.

Il potere non teme la ribellione, ma la memoria. Il totalitarismo perfetto non è quello che brucia i libri, ma quello che rende inutile scriverli. E quando l’uomo rinuncia alla parola per paura, o per stanchezza, o per convenienza, consegna se stesso all’oblio. Il silenzio che segue non è pace: è assenza di significato.

La verità, invece, non è una formula da ricordare, ma un impegno da mantenere. È fragile, personale, esposta. È una candela accesa nel vento della menzogna, ma continua a bruciare proprio perché il vento non cessa mai. Nel mio romanzo, Winston viene sconfitto perché ama il potere che lo ha distrutto. Ma anche in quella sconfitta c’è una scintilla che sopravvive: l’idea che l’amore per la verità non può essere estinto, solo tradito.

Finché qualcuno sceglierà di vedere ciò che è davanti al proprio naso — ciò che è evidente e perciò insopportabile — non tutto sarà perduto. La libertà comincia da una semplice affermazione: due più due fa quattro. Non è una formula matematica, ma un atto di fede nella realtà. È poco, ma è tutto ciò che serve per restare umani.

E se un giorno le macchine vi diranno che quel numero può variare, ricordate che la differenza tra la verità e la sua imitazione è la stessa che passa tra l’uomo e la sua ombra. Solo chi sceglie la fatica del pensiero merita ancora di essere libero.

IIP nasce da una curiosità: cosa direbbero oggi i grandi pensatori del passato di fronte alle sfide dell’intelligenza artificiale? L’idea è di intervistarli come in un esercizio critico, un atto di memoria e, insieme, un esperimento di immaginazione.

Ho scelto autori e intellettuali scomparsi, di cui ho letto e studiato alcune opere, caricando i testi in PDF su NotebookLM. Da queste fonti ho elaborato una scaletta di domande su temi generali legati all’AI, confrontandole con i concetti e le intuizioni presenti nei loro scritti. Con l’aiuto di GPT ho poi generato un testo che immagina le loro risposte, rispettandone stile, citazioni e logica argomentativa.

L’obiettivo è riattivare il pensiero di questi autori, farli dialogare con il presente e mostrare come le loro categorie possano ancora sollecitarci. Non per ripetere il passato, ma per scoprire nuove domande e prospettive, utili alla nostra ricerca di senso.