Il mondo che abitiamo, sostiene Lanzoni, è già stato plasmato da scelte che non abbiamo fatto, da tecnologie che non abbiamo scelto, da strutture economiche e culturali che ci hanno formato, prima che fossimo in grado di valutarle criticamente. Non nasciamo in un mondo neutro, che poi modifichiamo. Nasciamo in un mondo già orientato, già strutturato, già carico di indicazioni, decisioni e direzioni, che tendono a riprodursi attraverso di noi senza che neppure ce ne accorgiamo.
Non nasciamo in un mondo neutro, che poi modifichiamo. Nasciamo in un mondo già orientato, già strutturato, già carico di indicazioni, decisioni e direzioni
Il tempo tecnologico che stiamo sperimentando accelera più velocemente del tempo della comprensione umana. Quando capiamo cosa sta succedendo, è già successo qualcos'altro. Viviamo sempre in ritardo rispetto agli effetti delle nostre stesse creazioni. Il soggetto che nasce oggi nasce già dentro un'infrastruttura digitale, che ha plasmato le aspettative, i desideri, le capacità cognitive di chi la abita. Non incontra la tecnologia, perché la tecnologia lo ha già incontrato prima che lui potesse scegliere. Le strutture di potere che ci anticipano non sono neutrali, ci producono e ci generano (Foucault), sono state costruite da qualcuno, con interessi e intenti precisi, in una direzione precisa. Il fatto che ci precedano non le rende naturali, le rende più difficili da vedere, ma non meno costruite e artefatte.
Lo sfasamento temporale tra ciò che produciamo e ciò che comprendiamo è forse la questione filosofica più urgente del nostro tempo. È uno sfasamento che richiama il tempo della tecnica (dell’accelerazione) di Paul Virilio quando parlava di tecnologia che inventa il proprio incidente (la nave inventa il naufragio, l'aereo il disastro aereo) prima che lo possiamo vedere, che produce il futuro già scritto che ci aspetta. Il richiamo è anche alla condizione trascendentale digitale di Mazzarella, con l'IA che si propone come struttura dentro cui pensiamo, prima ancora che scegliamo di usarla. Citando Heidegger si potrebbe dire che la struttura tecnologica non è uno strumento nel mondo, ma la condizione entro cui il mondo ci appare, che quindi ci precede e ci anticipa. Una struttura tecnologica che evidenzia il divario prometeico di Anders e racconta come la tecnica produca conseguenze che non riusciamo a immaginare prima che accadano. Di fondo è impossibile non sentire il richiamo ad Agamben per il quale il dispositivo come meccanismo cattura e orienta la soggettività prima che il soggetto si costituisca.
Il libro di Luca Lanzoni tratta di IA ma non è sull’IA. Parla di IA scegliendo il tempo (dell’IA) come il vero campo di battaglia da studiare e di riflessione condivisa. La tecnologia, le IA, non sono qualcosa da cui difenderci, ma strumenti non neutrali che ci possono aiutare a capire come le scelte vengono fatte prima che noi si possa scegliere, in cui il futuro viene scritto prima che noi si possa leggerlo. L’IA viene analizzata come un altro artefatto umano (orologio monastico, prospettiva rinascimentale, partita doppia, mappe coloniali, moduli burocratici, agenti artificiali gli artefatti trattati nel libro) le cui caratteristiche (forma, infrastruttura, ecc.) rappresentano una trasformazione qualitativa di qualcosa di molto più antico.
La distinzione che Lanzoni introduce tra previsione e predisposizione è la cosa più originale e più importante del suo progetto filosofico e letterario.
La previsione guarda avanti, calcola probabilità, stima scenari, anticipa ciò che potrebbe accadere. È ancora dentro la logica della conoscenza, di chi cerca di sapere qualcosa che altri non sanno ancora. La predisposizione è strutturalmente diversa e strutturalmente più potente. Non prevede ciò che farai, prepara il campo in cui farai qualcosa. Non ti dice dove andare, costruisce l'ambiente in cui alcune direzioni sono possibili e altre no. Non legge il futuro, lo scrive prima che arrivi. È la differenza tra un oracolo e un architetto. L'oracolo ti dice cosa succederà. L'architetto costruisce la stanza in cui ti muoverai e in quella stanza alcune cose sono (saranno) possibili e altre no, prima ancora che tu decida di fare qualcosa. In questo contesto gli algoritmi di raccomandazione oggi dominanti non prevedono cosa vuoi, predispongono un ambiente in cui certi desideri sono facili da avere e altri difficili o impossibili. I sistemi di valutazione non prevedono chi sei, costruiscono una versione di te che precede il tuo arrivo in qualsiasi contesto. Il feed non prevede cosa leggerai, predispone un campo in cui certe idee circolano e altre no.
Più che interrogarsi se le macchine penseranno al posto nostro, la domanda che pone Lanzoni è se sapremo ancora progettare il campo in cui il pensiero, la scelta e la responsabilità possono nascere. È un ribaltamento radicale del dibattito dominante sull'IA. Non chiede cosa faranno le macchine, chiede cosa dobbiamo fare noi. Non è una domanda tecnica, è una domanda politica e pedagogica nel senso più profondo: chi ha il diritto di progettare i campi in cui viviamo? Con quali criteri? Con quale legittimità? Con quale responsabilità verso chi verrà dopo? Per gli apocalittici in circolazione e non solo, la domanda sposta l’attenzione dalla catastrofe come evento futuro che le macchine produrranno, al processo già in corso attraverso cui i campi vengono predisposti senza che nessuno decida consapevolmente di predisporli.
Più che interrogarsi se le macchine penseranno al posto nostro, la domanda che pone Lanzoni è se sapremo ancora progettare il campo in cui il pensiero, la scelta e la responsabilità possono nascere.
Su questi temi e altro ho dialogato con Luca Lanzoni dando forma a una riflessione che potrebbe essere utile a coloro che decideranno, nel “campo” in cui è dato loro di trovarsi, di prendersi del tempo per leggere il suo interessantissimo libro.
Carlo Mazzucchelli - Buongiorno Luca. Direi di cominciare con il raccontarci qualcosa di te e del tuo interesse per le intelligenze artificiali. Un interesse che ha sicuramente origine da esperienze lavorative in organizzazioni complesse (oggi anche agentiche). Un interesse non passeggero e neppure superficiale, considerando il testo che hai pubblicato sulla STULTIFERANAVIS, dal titolo L'Organizzazione Agentica. La maggior parte dei libri sull'intelligenza artificiale parte dall'IA. Tu parti da molto più lontano. È una scelta metodologica o è emersa durante la scrittura? Quanto pesa in questa scelta la percezione che cultura, metodo, governance o efficienza di un’organizzazione siano tutti campi già predisposti. Campi che ereditiamo, alimentiamo, attraversiamo, spesso senza domandarci abbastanza chi li abbia preparati e per quale idea di uomo, di lavoro, di futuro siano stati costruiti. Quanto conta in questo contesto, che tu chiami soglia (IA, automazione, orgnizzazioni agentiche), la capacità per ogni essere umano di sapere dove si trova, cosa sta cedendo, cosa può ancora interrompere?
Luca Lanzoni - Ho passato decenni dentro organizzazioni complesse, e per quasi tutto quel tempo non avrei chiamato "intelligenza artificiale" quello che mi interessava. Guardavo altro: come si formano le decisioni, come una metrica finisce per orientare i comportamenti di un gruppo più di qualunque dichiarazione strategica, come un processo nato per risolvere un problema diventa col tempo il modo naturale di vedere quel problema.
Una cosa l'ho imparata presto: le decisioni importanti sono spesso già prese molto prima della riunione in cui crediamo di prenderle. Stanno nel modo in cui abbiamo formulato il problema, nelle informazioni che abbiamo portato al tavolo e in quelle che abbiamo lasciato fuori.
Questo libro non nasce da una crisi evidente. Nasce, al contrario, da ambienti che continuavano a funzionare, ma nei quali proprio ciò che funzionava aveva cominciato a sottrarsi alla domanda sul perché.
Per anni mi è bastato leggere tutto questo con le categorie dell'organizzazione, della strategia, della tecnologia. Poi è arrivata l’IA e i sistemi agentici e quelle categorie hanno smesso di bastarmi. All'inizio la domanda era: cosa può fare l'IA in un'organizzazione, cosa automatizza, cosa trasforma. Domande necessarie, e lo restano. Ma quando una macchina non produce più soltanto una risposta — interpreta una situazione, si dà un obiettivo, usa strumenti, cambia lo stato del mondo — la domanda si sposta all'indietro. Prima di chiedermi cosa farà devo chiedermi che cosa, per lei, esiste. Che cos'è una persona. Quando qualcosa è un fatto e quando è solo un'evidenza. Che differenza c'è tra poter fare una cosa e avere il diritto di farla.
Da lì viene anche la scelta del libro. Per capire l'IA non mi bastava partire dall'IA: se parti da lì puoi solo dire che è straordinaria, perché non hai niente con cui confrontarla. Sono andato a cercare le altre volte in cui una tecnica nata per risolvere un problema circoscritto ha finito per cambiare il campo in cui gli esseri umani pensavano, lavoravano, vedevano, attribuivano valore. Ho trovato l'orologio, la prospettiva, la partita doppia, la mappa, il test, il modulo. Il libro è nato quando ho smesso di vederle come storie separate.
La soglia di oggi riguarda esattamente questo. Non temo la macchina che un giorno decide al posto mio. Mi inquieta l'ipotesi più sottile: che io continui a scegliere, formalmente, dentro un campo in cui le alternative sono state preparate prima del mio arrivo. Forse la prima forma di libertà è riuscire ancora a vedere il campo come campo — riconoscere come costruito quello che aveva cominciato a sembrarci naturale.
Non temo la macchina che un giorno decide al posto mio. Mi inquieta l'ipotesi più sottile: che io continui a scegliere, formalmente, dentro un campo in cui le alternative sono state preparate prima del mio arrivo.
Carlo Mazzucchelli - L’incipit di un libro ha sempre un valore particolare. Nel tuo mi ha sorpreso il riferimento a una genealogia inaspettata che parte dall’orologio monastico come artefatto (una traccia che ha preso forma) e lo inserisce nella stessa storia “stigmergica” dell’IA. All’orologio monastico fai poi seguire una riflessione su altri artefatti come la prospettiva, la partita doppia, le mappe coloniali, l’interfaccia. l’IA, ecc. Ci puoi raccontare come sia nata questa tua intuizione che la vita collettiva si organizza attraverso tracce stabilizzate che, diventate artefatti, assumono il ruolo di orientare il nostro modo di pensare e di abitare? C’è stato un momento preciso in cui hai capito che queste tracce stessero raccontando qualcosa di unitario? C’è qualche debito che devi riconoscere a Stiegler e alla sua filosofia degli artefatti come memoria esternalizzata e alla “terza ritenzione” che per Stiegler custodisce il passato e orienta il futuro attraverso gli oggetti tecnici? Puoi articolare meglio il tuo pensiero su artefatti digitali che non si accontentano più di conservare tracce del passato, ma le leggono, le aggregano, le trasformano in previsioni, e usano quelle previsioni per preparare il campo in cui entreremo un istante dopo”?
Luca Lanzoni - Quando ho cominciato a metterli in fila non sapevo ancora cosa li tenesse insieme. Poi li ho visti come momenti di una storia molto più lunga: quella che accade quando una capacità umana viene esteriorizzata e prende forma in un sistema tecnico. La scrittura ha esteriorizzato una parte della memoria, le macchine alcune capacità fisiche, la fotografia e il cinema qualcosa del vedere e del ricordare, il computer il calcolo, le reti digitali pezzi della memoria sociale e dell'attenzione. Ora l'intelligenza artificiale comincia a esteriorizzare qualcosa di più intimo: le attività con cui produciamo forme simboliche — scrivere, interpretare, rappresentare, sintetizzare, immaginare — e parti del giudizio e dell'agire.
Esteriorizzare non vuol dire sostituire. La scrittura non ha eliminato la memoria, la fotografia non ha sostituito il vedere. Succede qualcosa di più interessante: una capacità prende forma fuori di noi e quella forma, tornando indietro, cambia il modo in cui esercitiamo la capacità da cui era nata. Qui il debito con Stiegler è esplicito: gli artefatti non sono strumenti, conservano fuori di noi qualcosa dell'esperienza umana, la stabilizzano e la consegnano a chi viene dopo. Ci precedono alla lettera.
Ed è qui che, per me, torna Aristotele. Non voglio farne un teorico dell'intelligenza artificiale, ma la distinzione tra dynamis ed energeia, tra la potenza e il suo compiersi in atto, mi sembra fertile. L'IA aumenta enormemente la nostra dynamis: oggi una persona può scrivere, tradurre, programmare, analizzare, simulare cose che fino a ieri erano fuori dalla sua portata. Solo che compare un paradosso. Possiamo produrre molto di più partecipando molto meno al processo in cui quella capacità si forma. Ottengo una pagina senza aver attraversato la fatica della scrittura, una sintesi senza aver fatto tutto il percorso dell'interpretazione, una raccomandazione senza aver percorso i passaggi del giudizio.
Non è detto che il risultato sia peggiore. Ma il valore di scrivere una pagina non sta soltanto nella pagina: qualcosa succede alla persona mentre cerca le parole. Il valore di un giudizio non sta soltanto nel verdetto: si forma nell'esitazione, nel confronto, nella possibilità di cambiare idea. È questo il lato dell'IA che mi interessa di più — non cosa produce, ma cosa modifica in noi mentre produce con o per noi.
Con gli agenti autonomi c'è un passo in più: il sistema non aspetta più una richiesta, legge una situazione attraverso la propria rappresentazione, sceglie e produce conseguenze. E allora la genealogia prende una forma molto semplice. Abbiamo cominciato lasciando tracce perché il mondo ricordasse qualcosa per noi. Adesso costruiamo sistemi che usano quelle tracce per preparare il mondo che incontreremo dopo. Il passato, o quel che ne viene trattenuto, comincia ad aspettarci davanti.
Carlo Mazzucchelli - Il tuo libro si poggia su una distinzione centrale che per me è la cosa più originale del tuo progetto, la distinzione tra previsione e predisposizione. La previsione oggi è cosa ben diversa da come era intesa nel Quattrocento. Oggi anticipare (il futuro) significa venire prima nel tempo e insieme prendere posizione prima che qualcun altro lo faccia. Ma in questo senso la previsione diventa predisposizione, a vedere il futuro prossimo non è l’umano ma la macchina, che agisce su quella visione prima che diventi presente per noi. Come scrivi lo sguardo umano è preceduto dalla propria immagine, il nostro sguardo è in qualche modo previsto, costruito, pre-calcolato, diretto verso il luogo in cui converge la previsione che le macchine fanno di esso, prima che il nostro sguardo arrivi. In pratica, se ho capito bene, noi crediamo di arrivare su una scena con il nostro sguardo, ma la scena è già lì, predisposta prima di noi, a trasformare il nostro vedere in sguardo. Sarebbe possibile raccontare questa nuova esperienza, il passaggio dalla previsione alla predisposizione, con un esempio concreto, qualcosa che aiuti il lettore a sentire la differenza sulla propria pelle, non solo a capirla intellettualmente?
Luca Lanzoni - È la distinzione che è diventata il centro del libro. La previsione appartiene all'ordine della conoscenza: sulla base di quello che so, questo probabilmente accadrà. La predisposizione fa un gesto diverso — non cerca di conoscere il possibile, interviene sulle condizioni del possibile.
Prendiamo il gesto più banale, aprire il telefono al mattino. Hai la sensazione di essere all'inizio di un'azione: adesso vedo cosa c'è. Non sei all'inizio. Quando lo schermo si accende, qualcosa ha già lavorato sul tuo futuro: ha letto cosa hai guardato, quanto ti sei fermato, cosa hai ignorato, con chi hai interagito, ha costruito una rappresentazione di te e su quella ha ordinato ciò che incontrerai.
E c'è una cosa che quel gesto non lascia vedere. Le tracce usate per ordinare il mio schermo non sono soltanto le mie: sono le mie mescolate a quelle di milioni di persone che non conoscerò mai. Il mio mattino viene preparato con il loro passato.
La previsione dice: probabilmente Luca guarderà questo. La predisposizione dice: allora mettiamo questo davanti a Luca. La differenza sembra minima, e invece è enorme. Nel primo caso cerco di sapere cosa farai; nel secondo intervengo sull'ambiente perché una possibilità diventi più probabile di un'altra.
È la differenza tra l'oracolo e l'architetto. L'oracolo prova a dirti cosa accadrà. L'architetto costruisce la stanza in cui accadrà: non ti dice dove sederti, ma decide quante sedie ci sono, dove stanno, quali porte si vedono subito, da dove entra la luce. È un potere che lavora prima della scelta.
E c'è un dettaglio che mi sembra decisivo: quando entro in quella stanza non arrivo per primo: una mia rappresentazione è già arrivata prima di me.
Carlo Mazzucchelli - Un altro concetto che ho trovato rilevante nel tuo libro è quello di “campo”. Il concetto ricorre in continuazione nel tuo testo. Ad esso associ un ambiente già predisposto da tracce (artefatti, regole, abitudini, forme, documenti, metriche, interfacce) lasciate da altri e da noi stessi. Predisporre un campo significa, se ho capito bene, esercitare potere prima che qualcuno arrivi ad abitarlo. Siamo immersi in campi predisposti da altri. Chi ha esercitato questo potere storicamente e chi lo esercita oggi? Come è mutato nel tempo il “campo” relativamente stabile dell’orologio, della griglia della prospettiva, della linea della mappa, del punteggio di un colloquio o di un test, rispetto ai campi “tecnologici” e digotali attuali che hanno cambiato la stessa natura di campo? C'è una continuità tra il monaco che suona la campana e l'ingegnere che progetta un algoritmo di raccomandazione finalizzato all’engagement immediato, a requisire l’attenzione dell’individuo anticipandola, a dare forma a nuove pratiche e abitudini? E quali sono le conseguenze (patologie, malfunzionamenti, conformismo, adattamento, ecc.) di questo mutamento del campo in azione?
Luca Lanzoni - Ho scelto la parola campo perché non volevo descrivere il potere come qualcosa che annulla la libertà. Una gabbia impedisce, un campo orienta. Dentro un campo ci si muove, ma alcune direzioni sono più facili di altre: certi comportamenti vengono premiati, altri diventano costosi, alcune possibilità si vedono subito e altre quasi scompaiono. Il campo non cancella la libertà, le dà una sua forma.
Questo è importante, perché vuol dire che non vivremo mai fuori da campi predisposti. Una lingua è un campo. Una città, una scuola, un'organizzazione, una Costituzione sono campi. La domanda non è come eliminarli: è come renderli visibili, interrogabili, modificabili. Su questo trovo ancora attualissima un'intuizione di Heidegger — la tecnica non è un insieme di strumenti che si mettono tra noi e il mondo, porta con sé un modo di far apparire il mondo, di renderlo disponibile in una certa forma. Un algoritmo non calcola e basta: rende alcune cose più visibili e altre meno.
La stigmergia aggiunge una dimensione ulteriore. Il campo spesso non ha un autore unico, si sedimenta: migliaia di decisioni locali, ognuna magari ragionevole, producono insieme una forma che nessuno aveva progettato per intero.
Quindi sì, tra il monaco che suona la campana e l'ingegnere che progetta un algoritmo c'è continuità: entrambi depositano nel campo una traccia che orienterà il comportamento di altri. Ma c'è una differenza che cambia tutto. La campana suona uguale per tutti e non cambia in base a come reagisce chi l'ha sentita. Un algoritmo sì. Il campo digitale diventa responsivo e ricorsivo: non ci precede perché è stato costruito prima di noi, impara di continuo ad arrivare prima di noi.
Da lì nasce una forma di potere difficile da riconoscere, perché non somiglia a un ordine. Si può imparare a desiderare quello che il campo rende più facile desiderare.
Carlo Mazzucchelli - Tra gli artefatti che citi e che non sono mai solo dei semplici strumenti, qual è quello che ti ha sorpreso di più mentre lo studiavi, quello in cui hai trovato qualcosa che non ti aspettavi, quello che più di altri ha preparato il mondo a venire? La partita doppia come artefatto che produce il capitalismo è una tesi che Sombart aveva già abbozzato. Come si colloca il tuo lavoro rispetto a quella tradizione e cosa aggiunge? Le mappe coloniali come tecnologia del possesso prima ancora che della descrizione è una lettura che deve molto agli studi postcoloniali. Come dialoga il tuo approccio con quella tradizione? Questi artefatti “storici” hanno agito lentamente, si sono sedimentati in un tempo ancora umano. Cosa succede oggi con artefatti digitali che vanno veloci e sono in costante accelerazione evolutiva nella preparazione di sempre nuovi campi che stanno formando una vera e propria infrastruttura nella quale gli umani sembrano essere intrappolati dall’interno?
Luca Lanzoni - La cosa che non mi aspettavo, studiando Pacioli, è che la partita doppia nasca come un'operazione di memoria e insieme come una difesa. Nei libri entra quello che è accaduto; il futuro resta fuori. Poteva essere previsto, temuto, progettato, ma apparteneva a una categoria diversa dal fatto, e la contabilità serviva anche a tenere fermo quel confine. L'artefatto che oggi contribuisce a scrivere il futuro nasce come il custode più severo della distinzione tra fatto e ipotesi.
Mi ha colpito più degli altri anche perché tocca da vicino molti anni della mia vita professionale. Numeri, bilanci, capitale, rendimento, budget, valutazioni non sono stati per me oggetti teorici: sono stati il linguaggio quotidiano dentro cui ho visto formarsi decisioni, priorità, investimenti.
Non mi interessa sostenere che la partita doppia abbia inventato il capitalismo — è una tesi che non reggerebbe. Mi interessa qualcosa di più generale: una rappresentazione non si limita a descrivere la realtà, può contribuire a produrre la realtà che poi diventa capace di rappresentare.
Il confine ha cominciato a inclinarsi quando il mercato ha assunto un ruolo centrale nella rappresentazione del valore. Con il mark-to-market e poi con il fair value, aspettative, scenari, flussi futuri, tassi di sconto e probabilità entrano nei libri e producono valore nel presente. Non c'è niente di male nella finanza, è una condizione dell'economia moderna. Cambia qualcosa quando il linguaggio finanziario smette di essere uno dei linguaggi dell’impresa e diventa il criterio con cui l’impresa finisce per giudicare anche ciò che finanziario non è. Perché ciò che fatica a entrare nella misura progressivamente rischia di perdere peso nelle decisioni: cultura, fiducia, apprendimento, qualità delle relazioni, capacità di attraversare un periodo difficile, investimenti che daranno frutto molto più avanti.
Per questo non credo che lo short-termism sia solo una debolezza morale dei manager, come se bastassero persone più illuminate. È un effetto di campo. Se il futuro è già incorporato nella valutazione di oggi, se il management viene giudicato sulla capacità di confermare quella traiettoria, se ogni scostamento viene letto come perdita di valore, allora una decisione che darà beneficio fra dieci anni ma peggiora i prossimi trimestri diventa strutturalmente difficile. Il futuro, una volta scritto nei numeri, diventa un creditore del presente, e l'organizzazione passa una parte crescente del proprio tempo a raggiungere il futuro che il campo ha già contabilizzato per lei.
È una delle forme di predisposizione più evidenti che conosca. Ed è il motivo per cui il capitolo Dare e avere, per me, non parla di contabilità: parla del momento in cui uno strumento costruito per rappresentare il mondo comincia a costruire il mondo che rappresenta. Che è esattamente il problema che ritroviamo oggi nei sistemi algoritmici.
Carlo Mazzucchelli - Dici che oggi qualcosa sta cambiando, che gli artefatti non custodiscono più il passato ma anticipano il futuro. Come fai a distinguere questo cambiamento da tutti i cambiamenti precedenti? Non si è sempre detto che ogni nuova tecnologia era diversa da tutte le precedenti? C'è un momento storico preciso in cui per te avviene il salto, in cui gli artefatti smettono di essere custodi e diventano anticipatori? O è un processo graduale senza punto di rottura? Il feed, il profilo, il punteggio, l'algoritmo: tra i quattro artefatti contemporanei che citi nel libro qual è quello che ti preoccupa di più, e perché?
Luca Lanzoni - Non credo che esista un momento preciso in cui tutto cambia, e diffido di chi descrive la propria epoca come una cesura assoluta. Però qualcosa di nuovo sta succedendo, e riguarda il rapporto tra gli artefatti e il tempo.
Per secoli gli artefatti ci hanno preceduto perché venivano dal passato: nascevamo dentro lingue che non avevamo inventato, istituzioni che non avevamo costruito, categorie, procedure, mappe, metriche lasciate da altri. Custodivano tracce, sedimentavano forme, rendevano il passato disponibile al presente. Adesso alcuni cominciano ad aspettarci nel futuro. Questa, per me, è la soglia.
Le tracce che lasciamo non vengono più soltanto conservate: vengono lette, aggregate, trasformate in ipotesi su quello che potremmo fare, e quelle ipotesi servono a preparare il campo in cui entreremo un istante dopo. Il movimento cambia direzione. Per molto tempo abbiamo lasciato tracce perché qualcosa di ciò che era accaduto sopravvivesse nel futuro. Oggi quelle tracce vengono usate per costruire rappresentazioni del mondo e preparare il futuro che ci verrà incontro.
Non è la velocità la discontinuità vera, anche se la velocità conta. È che l'artefatto ha smesso di limitarsi a custodire ciò che è stato. Con gli agenti la soglia si fa ancora più delicata, perché il sistema può agire dentro quel futuro anticipato, sulla base della rappresentazione che si è costruito.
Dei quattro artefatti che citi — feed, profilo, punteggio, algoritmo — quello che mi inquieta di più è il profilo. Non perché sia falso: il problema può essere esattamente il contrario. Un profilo può essere accuratissimo, conoscere le nostre regolarità, le preferenze, le decisioni prese, i percorsi seguiti, ed essere abbastanza preciso da orientare quello che vedremo, le opportunità che ci arriveranno, il modo in cui altri sistemi ci leggeranno.
E qui il profilo mostra la sua natura vera: non è un ritratto, è una posizione in una distribuzione. Quello che mi viene messo davanti non deriva soltanto da quello che ho fatto io, deriva da quello che hanno fatto le persone che mi somigliano abbastanza. Il mio futuro viene preparato con il passato di sconosciuti.
Nel diritto esiste un nome per una cosa del genere: il precedente. Una decisione presa in un caso simile che comincia a vincolare i casi successivi senza che nessuno l'abbia scelta — una forma di stigmergia applicata al giudizio. Ma il precedente giudiziario è pubblico, è motivato, si può citare e soprattutto si può ribaltare. Il precedente statistico non è niente di tutto questo: non lo posso leggere, non lo posso contestare, non lo posso rovesciare. Vincola senza essere mai stato scritto.
C'è poi un'asimmetria che Grassé non poteva prevedere. Nel termitaio la traccia sta nel mondo e ogni termite può leggerla. Qui depositiamo tutti e leggono solo pochi.
Il rischio comincia quando quella rappresentazione del passato diventa la condizione del futuro. Può essere abbastanza vera da precedermi. Non abbastanza vera da esaurirmi.
Carlo Mazzucchelli - La domanda finale è se sapremo ancora progettare il campo in cui il pensiero, la scelta e la responsabilità possono nascere? È una domanda retorica alla quale hai già una risposta o è una domanda aperta che il libro non risolve deliberatamente? Chi ha il diritto di progettare quei campi? È una questione tecnica, politica, filosofica o tutte e tre insieme? E chi ha oggi il potere reale di farlo? Il tuo libro parla di responsabilità. Ma la responsabilità verso chi, verso i contemporanei o verso chi verrà dopo? E come si esercita una responsabilità verso qualcuno che non esiste ancora? E se solo un Dio ci potesse salvare? E se il Dio salvatore fosse quello che molti tecnocrati oggi identificano nell’IA?
Luca Lanzoni - È una domanda davvero aperta. Se avessi la risposta avrei scritto un manuale, non questo libro.
Quello di cui sono sicuro è che non serve cercare un campo neutro, perché non esiste: ogni architettura rende qualcosa più facile e qualcos'altro più difficile. La questione è progettare campi interrogabili, contestabili, reversibili, interrompibili.
Negli ultimi anni abbiamo imparato a parlare di trasparenza, accountability, explainability, governance e sicurezza. Sono concetti essenziali, ma lavorando intorno ai sistemi agentici ho cominciato a pensare che arrivino tardi. Prima della regola c’è il mondo che quella regola presuppone. Se un sistema confonde la persona con il suo profilo, l'evidenza con il fatto, una correlazione con una causa, la capacità tecnica con l'autorizzazione, il problema è nato prima della decisione.
Per questo sono arrivato a pensare che l'ontologia abbia, in questi sistemi, quasi una funzione costituzionale. Una Costituzione non decide le singole azioni: stabilisce chi sono i soggetti riconosciuti, quali poteri hanno, quali limiti incontrano, a quali condizioni un atto è legittimo. Un'ontologia ben costruita fa qualcosa di analogo — stabilisce il mondo in cui l'agente potrà riconoscere entità, eventi, relazioni, trasformazioni.
Solo che neanche l'ontologia salva nessuno, perché qualcuno deve progettarla. E la domanda torna politica: chi ha il diritto di decidere quali distinzioni il sistema considererà reali? Tecnica, politica e filosofia diventano inseparabili.
Sulla responsabilità verso chi verrà dopo: essere responsabili verso persone che non esistono ancora significa anche non saturare il loro campo. Lasciare margini, conservare reversibilità, proteggere la possibilità dell'interruzione.
Non rendere inevitabile tutto quello che siamo capaci di rendere efficiente.
Non ogni attrito è un difetto: a volte l'attrito è il luogo in cui la responsabilità torna visibile — un passaggio da autorizzare, una decisione da motivare, qualcuno che può ancora dire no.
E qui rispondo anche all'ultima parte della tua domanda. Mi preoccuperebbe molto leggere l'intelligenza artificiale come il Dio tecnologico che dovrebbe salvarci. Chiederle di salvarci dalle conseguenze della tecnologia significa affidarle non solo il compito di ottimizzare un campo, ma il potere di stabilire quale campo meriti di esistere. Una macchina può imparare dal mondo che le consegniamo. Non può garantire che quel mondo sia degno di essere ripetuto. Quella domanda resta nostra, perché riguarda ciò che scegliamo di rendere possibile.
Carlo Mazzucchelli - Tu sei un autore della Stultifera Navis, una nave che naviga controcorrente rispetto alla cultura digitale dominante, lontana dagli algoritmi, avulsa alla predisposizione di campi digitali, fuori dall'economia dell'attenzione. Un progetto basato sul dono invece che sul mercato. Eppure, forse anche la Stultifera Navis è un artefatto nel senso che al termine assegni nel libro, un campo predisposto per rendere possibile un certo tipo di pensiero, non conforme e mai omologato, controcorrente e capace di lasciare tracce diverse da quelle a cui oggi sono abituati tutti coloro che abitano i tanti campi digitali disponibili, in primis le IA. Come leggi questo tipo di progetto alla luce della tua tesi? Che tipo di campo potrebbe rappresentare la Stultiferanavis e con quali effetti?
Luca Lanzoni - Certo che lo è. E mi piace che tu me lo chieda, perché impedisce alla predisposizione di diventare una categoria moralistica. Predisporre non è di per sé negativo: una biblioteca è un campo predisposto, una scuola lo è. Anche Il tempo che ci precede è un artefatto nel senso in cui uso la parola, una traccia che prova a predisporre un campo in cui certe domande diventino visibili. La domanda non è se predisporre. È cosa rendiamo possibile predisponendo.
Stultifera Navis mi sembra interessante perché prova a predisporre un campo con una grammatica diversa da quella dell'economia dell'attenzione. Non tutto deve produrre una reazione immediata, non tutto deve essere ridotto a engagement, non tutto deve giustificarsi con una transazione. Resta spazio per il dono, per una lettura che non chieda una reazione immediata, per qualcosa che possa restare aperto. È questo che mi interessa: un campo che non acceleri necessariamente verso una risposta. Un pensiero ha bisogno di tempo per non coincidere subito con la prima risposta disponibile; e un testo denso può anche fallire, annoiare, chiedere fatica, ma quell'attrito è parte del suo valore.
C'è poi un aspetto che oggi pesa più di ieri. Anche Stultifera lascia tracce, e quelle tracce verranno lette non solo dagli esseri umani ma dai sistemi che mediano sempre di più l'accesso alla cultura. Non siamo responsabili soltanto delle macchine che costruiamo: lo siamo anche della qualità delle tracce che lasciamo nel mondo che quelle macchine leggeranno. Se il digitale fosse fatto solo di testi ottimizzati per catturare attenzione, finiremmo per consegnare soprattutto quella rappresentazione di noi.
Forse navigare controcorrente è questo. Non uscire dal mare: lasciare nel mare una corrente diversa.
Carlo Mazzucchelli - Infine, una domanda personale, se vuoi risponderci: nel tuo quotidiano, nella tua vita concreta, c'è qualcosa che pratichi per resistere alla predisposizione, per mantenere aperto lo spazio in cui le tue scelte siano davvero tue, e ti si aprano sempre nuovi possibili entro i quali praticare le tue scelte e prendere le tue decisioni? Esiste ancora un campo di questo tipo? E potremmo chiamarlo campo de-coincidente?
Luca Lanzoni - Non ho una tecnica per sottrarmi alla predisposizione, e diffiderei di me stesso se dicessi il contrario. Uso gli stessi dispositivi di tutti, vivo dentro organizzazioni, uso l'intelligenza artificiale ogni giorno. Non guardo questo mondo da fuori.
Cerco però di tenermi qualche luogo in cui il campo perde per un istante la sua evidenza: leggere piano, scrivere, camminare, suonare. E negli ultimi anni una cosa più delle altre: dialogare. Questo libro è nato dal dialogo molto più di quanto capissi mentre lo scrivevo — dalle conversazioni con Jan e con alcuni amici con cui negli anni ho condiviso domande sulle organizzazioni, sulla tecnologia, sulla leadership e, sempre di più, sul tempo.
In quelle conversazioni mi capita spesso di tornare a una parola. Non per l'etimologia curiosa, ma per cercare quello che quella parola custodiva prima che l'abitudine la consumasse. Da lì è tornato anche il piacere di leggere il latino e il greco: non per nostalgia, ma perché andare alla radice di una parola vuol dire scoprire che il suo significato di oggi è solo una delle possibilità che ha avuto. A un certo punto ho capito che quell'esercizio e il libro cercavano la stessa cosa: il momento precedente. La parola prima che diventi formula, la metrica prima di essere scambiata per realtà, la risposta prima che faccia dimenticare la domanda.
Una conversazione vera è forse il campo meno predisponibile che conosca. Se ti ascolto davvero non so cosa dirai, e soprattutto non so cosa penserò io dopo averti ascoltato. È quasi il contrario di un sistema di raccomandazione: quello usa ciò che sono stato per offrirmi qualcosa di compatibile con me, un amico ogni tanto mi restituisce qualcosa che con me non è compatibile per niente. Ed è per questo che mi cambia.
Campo de-coincidente è un'espressione bellissima, e la intenderei così: un campo in cui resti possibile non coincidere del tutto con la rappresentazione che il mondo, o noi stessi, abbiamo costruito di noi. Un libro può esserlo. Un'amicizia. Una parola riscoperta. Un testo di duemila anni fa che cambia il modo in cui guardi una tecnologia nata ieri.
La predisposizione ha bisogno delle nostre regolarità: legge le tracce, cerca pattern, usa quello che siamo stati per anticipare quello che faremo. Con un'avvertenza che mi tolgo malvolentieri: anche la sorpresa viene contabilizzata. Se faccio qualcosa di imprevisto non esco dal campo, divento il dato che servirà a predisporre il campo di qualcun altro. Per questo la libertà non può restare soltanto un gesto individuale: torna a essere la domanda di prima, chi progetta il campo. Arendt diceva che la libertà non è soltanto scegliere tra possibilità già date, è la capacità di cominciare qualcosa. Nell'epoca della previsione mi sembra la cosa più importante che si possa dire.
Una persona non coincide mai del tutto con le tracce che ha lasciato, e forse essere liberi vuol dire conservare la possibilità di diventare qualcuno che quelle tracce, da sole, non avrebbero potuto prevedere. Significa proteggere quello scarto sottile tra ciò che siamo stati e ciò che possiamo ancora diventare. Forse è proprio lì che l’intelligenza artificiale ci riporta alla domanda più antica: quando capacità che consideravamo intimamente umane cominciano a esistere anche fuori di noi, siamo costretti a chiederci di nuovo che cosa significhi essere umani.