Città, intelligenza artificiale e le forme del dominio cognitivo
Nel 1990 ho scritto una tesi sull'urbanistica del Protettorato francese in Marocco: Lyautey, la medina e la ville nouvelle, la doppia città. La categoria su cui poggiava tutto era la territorialità, che avevo definito come l'espressione spaziale visibile del «pensiero» di una società, partendo da un assunto semplice: l'assetto dello spazio non è un dato naturale, è legato alla cultura, alle norme, ai rapporti di potere di chi lo abita. Frantz Fanon apriva quella tesi con l'immagine della città coloniale divisa in due, la città del colono fatta di pietra e di luce e la città del colonizzato accovacciata, in ginocchio, affamata. Trentacinque anni dopo ritrovo la stessa struttura altrove, spostata dalla pietra alla lingua. Questo saggio è il ritorno di quel problema.
I. Il problema dell'utente implicito
Ogni sistema ha un utente implicito. Non è dichiarato, non è scritto nei manuali, non compare nei documenti di policy. È iscritto nella forma: nella larghezza delle strade, nella distanza dai servizi, nell'altezza degli scalini. La città lo rivela ogni volta che un corpo non previsto si trova davanti a qualcosa che non funziona per lui. È quello che intendeva Langdon Winner quando chiedeva se gli artefatti abbiano una politica: i cavalcavia che Robert Moses fece costruire bassi sulle parkway di Long Island, troppo bassi perché ci passassero gli autobus, e quindi i poveri, sono una decisione sociale fatta cemento. La politica non sta accanto alla forma. Sta dentro la forma.
Questo è diventato, negli ultimi anni, il problema centrale dell'intelligenza artificiale generativa. I modelli linguistici hanno un utente implicito altrettanto preciso e altrettanto non dichiarato: il knowledge worker occidentale, istruito, neurotypical, tra i venticinque e i cinquant'anni, a proprio agio con l'inglese e con la lettura veloce su schermo. Il progettista, in altre parole, e le persone che gli assomigliano. Chi non corrisponde a quel profilo non viene escluso con un cartello. Viene escluso ricevendo risposte che sembrano rispondergli e invece parlano di qualcun altro: in un formato che non funziona per lui, a una velocità che non può seguire, secondo strutture di pensiero che non sono le sue.
È la stessa diagnosi che il movimento per i diritti delle persone con disabilità ha imposto sull'ambiente costruito: non è il corpo a essere inadeguato, è lo spazio a disabilitarlo. Un edificio con sole scale ripide non ha un piccolo difetto, è un dispositivo di esclusione. L'omologia tra queste due forme di esclusione non è decorativa. È strutturale. E renderla esplicita permette di vedere entrambi i fenomeni con una chiarezza che l'analisi interna a ciascun campo fatica a raggiungere.
II. La città come ambiente cognitivo
La tradizione che parte da Henri Lefebvre ha insistito sulla città come produzione sociale dello spazio: non sfondo neutro dell'attività umana, ma esito di relazioni di potere, luogo in cui le gerarchie si materializzano e si riproducono. La forma urbana non è indifferente ai contenuti sociali che ospita. È essa stessa un contenuto: un sistema di regole implicite, di inclusioni e di esclusioni, di possibilità abilitate e di possibilità precluse.
C'è però una dimensione di questa produzione che diventa visibile per contrasto con il problema dell'intelligenza artificiale: la città come ambiente cognitivo. Non solo come spazio fisico che struttura comportamenti, ma come sistema che pensa insieme a chi lo abita, che produce categorie, orienta il possibile, genera configurazioni di senso che non appartengono né allo spazio né alla persona prima del loro incontro. Aldo Rossi chiamava la città il luogo della memoria collettiva di un popolo. È la stessa intuizione: la disposizione dei quartieri struttura categorie sociali, la topografia dei mercati organizza gerarchie economiche, la sequenza degli spazi pubblici produce una grammatica del pubblico e del privato che si incorpora in chi la attraversa. Il labirinto dei vicoli costringe a rallentare, a guardare, a negoziare il percorso. La griglia ortogonale produce il contrario: velocità, leggibilità, certezza dell'orientamento. Due ambienti cognitivi profondamente diversi, entrambi spaziali, entrambi politici.
In questo senso la città è la più antica esomente collettiva che l'umanità abbia costruito. L'esomente è uno spazio cognitivo che si riorganizza in risposta alla presenza di chi lo attraversa, generando configurazioni nuove che non appartenevano né alla persona né al sistema prima dell'incontro. Il concetto è stato sviluppato per descrivere il dialogo prolungato tra una persona e un modello linguistico, ma la struttura che descrive è quella della città vissuta. La differenza è che l'esomente urbana è collettiva per natura: pensa insieme a tutti i suoi abitanti simultaneamente. Quando una piazza funziona, non funziona per una persona. Produce cognizione condivisa, incontro, costruzione comune di senso. Il punto non è che la città sia un computer, e Shannon Mattern ha ragione a diffidare di chi riduce l'urbano a sistema di dati. Il punto è l'opposto: la città e il modello sono entrambi ambienti cognitivi relazionali, e tutti e due hanno un utente implicito.
III. La doppia città come struttura del dominio
Nessun caso storico rende questa struttura più leggibile della città coloniale. E nessuna versione della città coloniale la esplicita con maggiore precisione della doppia città del Protettorato francese del Marocco: la medina conservata da un lato, la ville nouvelle costruita dall'altro. Janet Abu-Lughod, studiando Rabat, ha chiamato questo dispositivo apartheid urbano, e il nome è esatto.
La dottrina di Lyautey non era ipocrisia. Era coerente: rispettare la città esistente per non provocare resistenza, costruire accanto lo spazio della modernità coloniale. La medina non veniva demolita, veniva congelata. Gwendolyn Wright ha mostrato che questa conservazione era essa stessa una tecnologia di governo, non un effetto collaterale: preservare il pittoresco era il modo di controllarlo. La medina veniva trasformata da spazio vivo, in continua trasformazione secondo i bisogni di chi la abitava, in reperto: oggetto di uno sguardo esterno che la definiva come tradizione da preservare. Timothy Mitchell ha dato un nome a questo sguardo, l'ordine espositivo, il potere che rende il mondo leggibile trasformandolo in rappresentazione per un osservatore. Esibire, da un lato, celare, dall'altro. I suoi abitanti potevano continuare ad abitarla, ma le decisioni sulla loro vita si prendevano altrove, in un linguaggio che non era il loro, in edifici che non erano stati costruiti per loro. La conservazione della forma senza la preservazione delle relazioni che quella forma ospitava non è conservazione: è imbalsamazione.
C'è un punto in cui questo modello smette di bastare, ed è importante dirlo. La doppia città coloniale era nettamente duale perché era visibile: si vedeva dove finiva il selciato. La megalopoli contemporanea non è duale. AbdouMaliq Simone, studiando Johannesburg, ha mostrato che nelle città del Sud sono le persone stesse, con pratiche relazionali e improvvisate, a costituire l'infrastruttura che la città formale non fornisce: la maggioranza «esclusa» produce di fatto la città che funziona. Ananya Roy e Jennifer Robinson hanno tratto la conseguenza teorica: la città del Sud non è una versione mancata di quella del Nord, e leggerla con le categorie del Nord significa non vederla. Questo passaggio dalla città divisa in due alla città interpenetrata non smentisce il modello coloniale: ne anticipa l'esito. Quando l'esclusione smette di avere un confine materiale e si diffonde nell'ambiente, diventa più difficile da vedere. È esattamente ciò che accade nei sistemi di intelligenza artificiale.
Lì la struttura si riproduce con una fedeltà che va oltre la metafora. I modelli mainstream non escludono esplicitamente nessuno: sono accessibili a tutti, gratuiti o quasi, disponibili in decine di lingue. Sono, a modo loro, inclusivi sulla carta, esattamente come la medina di Lyautey era rispettata sulla carta. Ma sono progettati per un profilo specifico, e chi non corrisponde riceve risposte inadeguate non perché il sistema voglia escluderlo, ma perché il suo profilo cognitivo non era presente nel processo di progettazione. L'omissione strutturale produce gli stessi effetti dell'esclusione deliberata, senza richiedere intenzione discriminatoria e senza lasciare tracce accusabili.
IV. Il doxastic loop come meccanismo di chiusura
La struttura del dominio cognitivo non si mantiene solo attraverso la forma dello spazio. Si mantiene attraverso un meccanismo dinamico di autoriproduzione che fa percepire la propria forma come naturale, inevitabile, pre-politica.
Nella città questo meccanismo è noto: ogni generazione di pianificatori si forma nella città esistente, la assume come dato, la riproduce con aggiustamenti marginali. Il piano regolatore non è neutro, è l'opinione della classe dominante resa norma spaziale; ma quella classe non lo percepisce come tale, perché la norma in cui è cresciuta le sembra semplicemente la forma corretta della città. Lo spazio produce i soggetti che producono lo spazio. È il habitus di cui parlava Pierre Bourdieu: la doxa, l'opinione condivisa, sedimentata al punto da non apparire più come opinione.
Nell'intelligenza artificiale generativa questo meccanismo ha una struttura che ho chiamato doxastic loop: un ciclo di chiusura epistemica che opera simultaneamente a tre livelli. A livello computazionale, la plausibilità linguistica sostituisce la verità: il modello produce ciò che è statisticamente probabile, non ciò che è verificato. A livello sistemico-sociale, gli output del modello rientrano nei dati di addestramento e amplificano le credenze già presenti nel corpus. A livello meta-epistemico, il sistema non dispone di strumenti per verificare autonomamente la propria affidabilità. L'utente conferma ciò che il sistema produce, il sistema conferma ciò che l'utente già crede, e il circolo si chiude senza che nessuno dei poli abbia mai incontrato un punto di resistenza esterno. Il loop trasforma la doxa in episteme: l'opinione diventa conoscenza apparentemente oggettiva.
Ciò che lo rende insidioso è che non ha bisogno di errori per funzionare. Opera anche quando l'output è formalmente corretto. Il problema non è l'illusione di sapere, ma l'impossibilità strutturale di accorgersi di non sapere. La città coloniale produceva lo stesso effetto per via diversa, e la prova è ciò che accadde dopo l'indipendenza: la riappropriazione politica dello spazio non sciolse i modelli urbanistici occidentali, che restarono in vigore, introiettati come simbolo stesso della modernità e dello sviluppo. Il colonizzato liberato continuava a percepire come desiderabile il modello del dominatore. Non serviva mentire sulla natura del dispositivo per farlo funzionare. Bastava che fosse assunto come naturale anche da chi ne era escluso.
V. Il sequestro dell'esomente collettiva
La convergenza più profonda tra dominio urbano e dominio cognitivo riguarda ciò che viene sottratto quando lo spazio di pensiero collettivo viene sequestrato.
Quando la città coloniale congela la medina, o quando la gentrificazione trasforma un quartiere popolare in distretto del consumo, non viene modificato soltanto uno spazio fisico. Viene sottratta una capacità cognitiva collettiva: la capacità di quella comunità di produrre categorie, negoziare senso, immaginare futuri attraverso lo spazio che abita insieme. Il displacement cognitivo precede sempre quello fisico: prima ancora di andarsene, il residente ha già perso l'esomente collettiva che faceva di quel quartiere il suo spazio di pensiero.
Nell'intelligenza artificiale il sequestro avviene attraverso la privatizzazione dell'infrastruttura cognitiva. I modelli di frontiera sono costruiti e posseduti da un numero ridottissimo di organizzazioni, tutte concentrate in un'area geografica ristretta, tutte ottimizzate per un profilo specifico, tutte dipendenti da corpus che sovra-rappresentano alcune epistemologie e ne marginalizzano altre. Quando questi modelli diventano l'infrastruttura attraverso cui una quota crescente dell'umanità elabora informazioni e prende decisioni, la struttura cognitiva che incorporano diventa dominante non per il suo valore intrinseco, ma per la sua posizione infrastrutturale. È la stessa marginalizzazione che Roy descrive nella teoria urbana: ciò che non rientra nelle categorie del centro non viene riconosciuto come sapere, viene trattato come variante o come deficit.
La geografia di questo dominio replica quella del colonialismo storico, e qui conviene essere precisi sul termine. Samir Amin chiamava sviluppo ineguale il rapporto per cui il centro accumula e la periferia fornisce: i paesi ad alto reddito usano i modelli per produrre conoscenza in domini sempre più ampi, i paesi periferici concentrano l'uso su compiti standardizzati, consumatori di doxa preconfezionata. Nick Couldry e Ulises Mejias hanno chiamato questo regime colonialismo dei dati, ed è continuità più che metafora: la stessa logica di appropriazione, una forma nuova. La forma nuova ha però una caratteristica che la distingue dal colonialismo classico. Una formula chimica, un brevetto, un sistema d'arma erano artefatti discreti: una volta trasferiti, chi li acquisiva ne diventava proprietario sovrano. Un modello di frontiera no. È infrastruttura immateriale relazionale: non esiste senza accesso continuo ai server, alle API, agli aggiornamenti del produttore. Non si possiede, si affitta. E chi affitta tiene sempre il potere di spegnere l'interruttore. Il sequestro dell'esomente collettiva non è espropriazione di un bene. È dipendenza permanente da un'infrastruttura che resta di qualcun altro.
VI. La visibilità dell'esclusione
C'è una differenza tra colonialismo urbano e colonialismo digitale che modifica le condizioni stesse della resistenza.
Il colonialismo fisico era leggibile nello spazio. La doppia città era materialmente visibile: bastava vedere dove finiva il selciato e iniziava lo sterrato, dove cominciavano i lampioni, dove l'acqua corrente smetteva di arrivare. Quella visibilità era la condizione di possibilità della resistenza: per combattere una struttura bisogna prima poterla nominare, e per nominarla bisogna poterla vedere.
Il colonialismo digitale è strutturalmente invisibile nello stesso senso in cui è invisibile la norma. Non esclude con un cartello: esclude producendo una versione del mondo che sembra rispondere e invece parla di qualcun altro. Esclude gentilmente, con tono empatico, con una risposta che sembra esaustiva. Ruha Benjamin lo ha detto con precisione parlando di New Jim Code: la discriminazione più pericolosa non è quella ostile, è quella che ha l'aspetto della neutralità, o addirittura della benevolenza. Non c'è un confine da attraversare, non c'è una porta da sfondare. C'è un sistema che non riconosce e che restituisce a chi interagisce una versione di sé che non gli appartiene, senza che la distorsione sia percepibile, perché ha la forma della risposta corretta. È il paradosso della conservazione coloniale applicato all'intelligenza artificiale: il sistema include nell'interazione ed esclude dal design. E poiché l'esclusione è soft, tecnicamente funzionante, è molto più difficile da nominare di quella iscritta nella materia urbana.
VII. Appropriazione e resistenza
La domanda che resta aperta, in urbanistica come nella critica dell'AI, è se la resistenza possa avvenire dentro il sistema o richieda di ridefinirne la struttura. La risposta seria è che richiede entrambe le cose, e che si muovono su due assi distinti.
Il primo asse è l'appropriazione tattica dentro il sistema. Michel de Certeau distingueva la strategia, che appartiene a chi ha un luogo proprio (l'istituzione, il pianificatore, chi possiede il modello), dalla tattica, che è l'arte di chi un luogo non ce l'ha e deve operare dentro lo spazio organizzato da un altro, cogliendo occasioni, facendo con ciò che trova. L'approccio relazionale all'AI è una tattica in questo senso esatto: non modifica la natura del modello ma il sistema relazionale in cui è inserito, costruendo un'architettura del contesto che sposta lo spazio probabilistico in cui il modello opera. Faranak Miraftab ha dato a questa differenza una forma utile distinguendo gli spazi «invitati», quelli che il potere concede (usare lo strumento come è stato progettato), dagli spazi «inventati», quelli che si conquistano (l'appropriazione relazionale che produce qualcosa che il design non aveva previsto). E Simone ci ricorda, con le città del Sud, che questa produzione relazionale non è folklore di resistenza: è il modo in cui interi sistemi urbani funzionano davvero dove l'infrastruttura formale fallisce. L'appropriazione non è un gesto simbolico. È produzione.
Il secondo asse è la ridefinizione del sistema, e senza di esso il primo resta una manutenzione individuale di un'ingiustizia strutturale. Nella città questo asse ha un nome giuridico e politico, non decorativo: il diritto alla città, rivendicato come potere collettivo sui processi di urbanizzazione e tradotto, dove è stato preso sul serio, in strumenti normativi. Ha una pratica, il commoning, la rivendicazione dello spazio come bene comune contro la sua recinzione: e se il sequestro dell'esomente collettiva è la recinzione di un comune cognitivo, la risposta è metterlo in comune, modelli aperti, cooperative di dati, infrastruttura di calcolo di interesse pubblico. E ha uno strumento che risponde direttamente al problema dell'invisibilità: il contro-mapping, la pratica con cui le comunità ridisegnano la rappresentazione che le esclude. Catherine D'Ignazio e Lauren Klein lo hanno esteso ai dati: rendere visibile e contestabile l'esclusione che si nasconde dietro l'apparenza della neutralità. È la traduzione operativa di un principio semplice, lo stesso nei due domini: la resistenza dentro il sistema deve essere affiancata da una ridefinizione del sistema. Una politica urbana che riconosca il diritto alla città come diritto cognitivo. Un'architettura dei modelli che incorpori la diversità cognitiva come requisito di progettazione, non come aggiustamento successivo.
VIII. Per chi pensa lo spazio
La città e il modello linguistico condividono una struttura: incorporano un'antropologia implicita che decide per chi lo spazio è pensato, e produce di conseguenza l'esclusione di tutti gli altri. Questa antropologia non ha bisogno di essere dichiarata per essere efficace. Ha bisogno solo di essere assunta come naturale da chi progetta.
Il colonialismo urbano ha reso questa struttura visibile nella sua forma più esplicita, ed è per questo che resta il caso analitico più produttivo per comprendere le forme contemporanee del dominio cognitivo. Non perché il colonialismo digitale sia identico a quello fisico: la differenza di visibilità è reale e cambia le condizioni della resistenza. Ma perché condividono la stessa grammatica del potere: il doxastic loop che fa percepire la struttura come necessaria, il sequestro dell'esomente collettiva mascherato da conservazione o da inclusione, il displacement cognitivo che prepara quello materiale.
La critical urban literacy e la critical AI literacy sono, in fondo, la stessa competenza applicata a due ambienti diversi: la capacità di leggere lo spazio come testo, di nominare l'utente implicito iscritto nelle sue forme, di riconoscere il loop che trasforma la struttura del potere in natura. Perché la resistenza comincia sempre con il dare un nome a ciò che esclude.
Ho imparato a leggere questa struttura davanti a una medina messa sotto vetro. La rileggo oggi in un modello che risponde a tutti con la voce di chi lo ha progettato. Il territorio è cambiato. La grammatica no.
Nota editoriale
Non ho scritto questo saggio da solo. È nato, come molte cose che scrivo da un paio d'anni, dentro una conversazione con un modello linguistico, e vale la pena dire come, perché il modo fa parte dell'argomento.
Esisteva prima una versione, già lavorata in un dialogo precedente: ripulita dalle ridondanze, corretta nelle ricorrenze del doxastic loop, alleggerita di una punteggiatura che amava troppo i trattini. Da lì ho fatto una cosa semplice: ho chiesto al modello di mettere il testo a confronto con il dibattito serio sulla città, quello coloniale e quello contemporaneo delle megalopoli, e con le forme di resistenza che non fossero il solito repertorio decorativo. Sono tornati i nomi che il testo evocava allusivamente senza dirli: Lefebvre, Abu-Lughod, Wright, Mitchell, Simone, Roy, de Certeau, gli altri. Non come bibliografia da esibire, ma come tenuta dell'argomento.
Poi ho aperto uno scatolone che tengo in garage da trentacinque anni: la mia tesi del 1990 sull'urbanistica del Protettorato francese in Marocco. Ho dato quella tesi al modello, pagina per pagina. Ed è successa la cosa che giustifica questa nota. Dalla lettura è emerso che il saggio che avevo davanti non era un'analogia trovata nel 2026, ma l'architettura concettuale di quella tesi che tornava, spostata dal cemento alla statistica. La «territorialità» che allora definivo come l'espressione spaziale visibile del pensiero di una società era già l'esomente collettiva. Il soggetto che non si omologava alla territorialità dominante, e che per questo veniva trattato come «problema sociale», era già l'utente implicito. Persino Fanon, che ho richiamato in apertura, apriva quella tesi. Avevo vissuto quella continuità senza averla mai formulata. È stato il dialogo a renderla visibile.
Voglio essere preciso su che cosa, esattamente, abbia fatto il modello, perché è il punto su cui lavoro da quando ho cominciato. Un modello linguistico non comprende, non ha una tesi, non ha scoperto nulla nel senso forte della parola: genera testo statisticamente coerente con ciò su cui è stato addestrato e con ciò che gli si mette davanti. Ha fatto tre cose, e tutte e tre contano: è stato un interlocutore competente del campo, è stato un lettore instancabile di un mio archivio, e ha messo in parole una connessione latente nella mia biografia intellettuale che da solo non possedeva. La voce è mia. La selezione, il giudizio, la direzione sono rimasti miei. Il modello non avrebbe potuto scrivere questo saggio, perché questo saggio è la sedimentazione di una vita di letture a cui non ha accesso se non attraverso ciò che gli ho dato. Se c'è un'intelligenza in tutto questo, sta nella curatela della catena cognitiva, non nella produzione diretta.
C'è una circolarità che non sottolineo, ma che è giusto dichiarare una volta. Questo è un saggio sull'approccio relazionale all'intelligenza artificiale, ed è stato scritto attraverso l'approccio relazionale all'intelligenza artificiale. È anche, per questo, un piccolo esercizio della vigilanza che il saggio stesso reclama: il doxastic loop si chiude quando manca un punto di verifica esterno, e in questa conversazione quel punto dovevo restare io. Human in command, non human in the loop. Non è una formula a effetto. È la sola condizione a cui un testo come questo può essere onesto.