C'è un esperimento che non ha bisogno di laboratorio. Si compie ogni giorno, su miliardi di schermi, senza moduli di consenso informato. Consiste nel cedere a una macchina la fatica di pensare e nel convincersi che questo gesto sia progresso. Philip Zimbardo assegnava uniformi e ruoli a studenti universitari, e in pochi giorni otteneva aguzzini. Oggi l'uniforme è un'interfaccia, il ruolo è quello dell'utente, e l'aguzzino siamo noi stessi, intenti a smantellare pezzo per pezzo la nostra capacità di giudizio.
Il collegamento fra la psicologia sociale del male e la cultura della delega tecnologica è meno metaforico di quanto sembri. Albert Bandura ha identificato otto meccanismi attraverso cui una persona comune riesce a violare i propri princìpi senza provare disagio. Otto leve, tutte linguistiche prima ancora che psicologiche: si rinomina l'atto, si diluisce la responsabilità, si sfoca la vittima, si invoca un bene superiore. Ebbene, l'industria dell'intelligenza artificiale ha tradotto ciascuna di queste leve in una funzione di prodotto.
Chiamiamo "assistente" un dispositivo che estrae tempo e attenzione. Parliamo di "ottimizzazione" quando intendiamo sorveglianza, di "personalizzazione" quando intendiamo profilazione, di "creatività aumentata" quando intendiamo plagio statistico su scala industriale. Per Bandura la lingua costituisce il primo veicolo del disimpegno: qui la lingua lavora a cottimo, e ogni slogan è un piccolo anestetico morale.
Poi c'è il capolavoro silenzioso dell'architettura algoritmica: la diffusione di responsabilità. Chi risponde quando un LLM produce una diagnosi errata, un testo diffamatorio, un consiglio finanziario rovinoso? L'utente che ha scritto il prompt? L'azienda che ha addestrato il modello? I milioni di autori i cui testi sono stati ingeriti senza consenso? La risposta è nessuno. Come nell'esperimento di Milgram, la catena di comando si allunga fino a rendere invisibile il punto in cui qualcuno ha premuto il pulsante. Solo che qui il pulsante lo premiamo tutti, ogni giorno, con la serenità di chi crede di stare semplicemente "usando uno strumento".
Ed è questa serenità il vero oggetto d'indagine. Kant poneva nel rispetto per l'altro un obbligo della ragione, un imperativo che si regge da sé come si reggono le verità semplici. La ragione, però, funziona solo se viene esercitata. E l'esercizio richiede sforzo, lentezza, dubbio: tutto ciò che l'economia dell'attenzione considera uno spreco. Il paradosso è geometrico. Le stesse società che celebrano il pensiero critico come valore fondante costruiscono infrastrutture progettate per renderlo superfluo. Si insegna a ragionare e poi si vende la possibilità di smettere.
Qui, però, l'argomento deve complicarsi, altrimenti diventa a sua volta una forma di disimpegno, quella comoda del critico che indica il problema dall'esterno senza sporcarsene. La verità scomoda è che la delega funziona. Funziona spesso, funziona abbastanza, funziona per una quantità di compiti che nessuno ha voglia di svolgere. E questo successo parziale è precisamente ciò che rende il meccanismo così pericoloso: se la macchina sbagliasse sempre, nessuno la userebbe. Se non sbagliasse mai, il problema non esisterebbe. Il disimpegno cognitivo si nutre della zona grigia, del "quasi giusto", del "abbastanza buono". Bandura lo sapeva: il disimpegno morale attecchisce dove le conseguenze sono ambigue, mai dove sono catastrofiche. Nessuno giustifica un massacro senza sforzo. Ma un errore distribuito su milioni di interazioni, un'approssimazione diluita in miliardi di token, quello sì, quello passa inosservato.
Quando un LLM produce un testo fluido e assertivo, il nostro apparato percettivo lo tratta come il prodotto di una mente competente. Sappiamo che dietro quella fluenza c'è solo un calcolo di probabilità, eppure ci comportiamo come se ci fosse comprensione. Zimbardo descriveva lo stesso fenomeno nelle guardie di Stanford: sapevano di trovarsi in una simulazione, eppure agivano come se il potere fosse reale. Il contesto vince sulla consapevolezza, la forma divora la sostanza.
Il gesto più sovversivo, oggi, sarebbe dunque rifiutare la delega. Dire: questo lo penso io, con la mia testa, coi miei errori, coi miei tempi. Rivendicare il diritto alla lentezza e all'imperfezione, cioè il diritto alla responsabilità. Perché delegare il pensiero comporta delegare il giudizio morale, e delegare il giudizio morale significa diventare esecutori di decisioni prese altrove, da sistemi che per definizione strutturale non conoscono la colpa.
C'è una parola che unisce tutto questo, ed è obbedienza. Chi delega il pensiero obbedisce. Chi smette di verificare obbedisce. Chi accetta il plausibile al posto del vero obbedisce. E chi obbedisce senza saperlo è il suddito perfetto, perché non ha nemmeno bisogno di essere sorvegliato.
L'unica rivolta possibile è anche la più antica: pensare con la propria testa, accettare la fatica del dubbio, e smettere di chiamare libertà ciò che è solo una forma più elegante di sottomissione. Non servono manifesti. Basta la penna, il silenzio, e il rifiuto ostinato di farsi pensare da qualcun altro.
Articoli correlati su Stultifera Navis
Mazzucchelli, Carlo. "Il deserto di noi stessi: critica radicale all'intelligenza artificiale." Stultifera Navis, 2025.
Mazzucchelli, Carlo. "Tecnofobi o tecnoconsapevoli? La rivolta contro l'intelligenza artificiale." Stultifera Navis, 2025.
Mazzucchelli, Carlo. "Catastrofe come diagnosi condivisa." Stultifera Navis, 2025.
Mazzucchelli, Carlo. "Non siamo nati cyborg: una riflessione stultifera in forma di recensione." Stultifera Navis, 2025.