C'è una domanda che la maggior parte di noi non si pone quasi mai, perchè finchè le cose funzionano non è necessario porla: come faccio a sapere quello che so?
Non è una domanda epistemologica nel senso tecnico del termine. È una domanda pratica, urgente, e sempre più difficile da rispondere. Quando sento che un vaccino è sicuro, o che l'economia sta crescendo, o che una certa politica ha prodotto certi effetti, non ho verificato personalmente nessuna di queste affermazioni. Le accetto (o le rifiuto) in base a una catena di fiducia: mi fido di chi le ha prodotte, o mi fido di chi mi dice che chi le ha prodotte è affidabile. Quella catena è l'infrastruttura invisibile su cui si regge la conoscenza collettiva. E questa infrastruttura oggi è in crisi.
Questo saggio nasce dall'osservazione di un paradosso. Non abbiamo mai avuto accesso a così tanta informazione, né strumenti così potenti per verificare le affermazioni di chiunque e accedere alla conoscenza accumulata dall'umanità, eppure il disaccordo sui fatti (non sulle interpretazioni, non sui valori, ma sui fatti) è diventato endemico.
Il primo saggio di questo mio percorso propedeutico, Il ritorno del conflitto, mostrava come la distruzione sistematica delle strutture intermedie avesse liberato meccanismi di conflitto che quelle strutture tenevano a bada. Il secondo, Vivere nell'eccezione, mostrava le conseguenze psicologiche: l'ansia ontologica, la crisi identitaria, il collasso della fiducia come infrastruttura sociale. Questo saggio aggiunge il registro mancante: la crisi epistemica.
Come si conosce il presente quando le istituzioni che certificavano la conoscenza sono delegittimate, quando l'ambiente informativo è progettato per catturare l'attenzione piuttosto che produrre comprensione, quando un sistema di intelligenza artificiale risponde a qualsiasi domanda con tono di certezza indipendentemente dalla propria affidabilità?
La risposta a questa domanda, come si vedrà, è inseparabile dalle crisi descritte nei saggi precedenti.
L'infrastruttura invisibile
Iniziamo con un esperiemento mentale. Quante delle cose che ritieni di sapere hai verificato direttamente? Non quante potresti verificare in linea di principio, ma quante hai effettivamente controllato tu stesso, con i tuoi occhi, con i tuoi strumenti, con la tua esperienza diretta? La risposta, per chiunque rifletta onestamente, è: pochissime.
Questa non è ignoranza. È la condizione normale di qualsiasi essere umano che viva in una società complessa. Nessuno può verificare direttamente la composizione di un farmaco, la dinamica di un ecosistema, le cause di una crisi finanziaria, la sicurezza di un'infrastruttura. Sappiamo queste cose (nella misura in cui le sappiamo) attraverso catene di fiducia delegata: mi fido del medico, che si fida della ricerca clinica, che è stata certificata da un sistema di peer review, che è sostenuto da istituzioni universitarie, che sono accreditate da organismi internazionali. La conoscenza non è un fatto individuale. È un'infrastruttura collettiva.
Alvin Goldman (1999) ha dedicato decenni a sviluppare quella che chiama epistemologia sociale: la disciplina che studia non come gli individui conoscono, ma come le società producono, certificano e trasmettono conoscenza. La tesi centrale è semplice e radicale: la conoscenza collettiva non emerge spontaneamente dall'aggregazione delle conoscenze individuali. Richiede istituzioni specifiche (università, riviste scientifiche, ordini professionali, sistemi giuridici di valutazione della prova) che svolgono funzioni precise: certificare chi ha competenza su cosa, correggere gli errori, distinguere la conoscenza affidabile dall'opinione arbitraria.
Queste istituzioni sono l'equivalente epistemico di ciò che Il ritorno del conflitto chiamava strutture intermedie. Come i sindacati, le chiese e le associazioni di quartiere mediano il conflitto politico e costruiscono solidarietà sociale, le istituzioni epistemiche mediano il disaccordo cognitivo e costruiscono conoscenza condivisa1. Come le strutture intermedie, sono invisibili finchè funzionano, e la loro distruzione non è indolore.
La domanda non è se queste istituzioni siano imperfette. Lo sono, in modo documentato e sistematico. La domanda è cosa succede quando vengono delegittimate senza che nulla le sostituisca.
La risposta storica all'imperfezione di un'istituzione epistemica è sempre stata la stessa: costruire meccanismi di correzione interni al sistema. La peer review corregge la scienza individuale. Il dibattito pubblico corregge il giornalismo. I processi d'appello correggono i tribunali. Questi meccanismi sono lenti, costosi, imperfetti. Ma producono qualcosa di essenziale: la possibilità di distinguere il sapere dall'opinione. Quando l'istituzione viene delegittimata in blocco (non riformata, non rifiutata) quel meccanismo di correzione scompare. Non rimane un sapere migliore e più democratico. Rimane l'opinione senza argini.
Il collasso dell'expertise
La sfiducia negli esperti è diventata un tema di conversazione comune, spesso presentata come una patologia culturale da correggere attraverso una migliore comunicazione scientifica. Questo inquadramento sbaglia il livello del problema. La crisi dell'expertise non è principalmente un problema di comunicazione: è un problema sistemico che ha due radici distinte e convergenti.
La prima radice è interna al sapere stesso. La specializzazione estrema (che è il meccanismo che ha reso possibile il progresso scientifico degli ultimi due secoli) ha prodotto un effetto collaterale che raramente viene discusso: la competenza genuina è diventata sempre più circoscritta, mentre il credito sociale riconosciuto all'esperto dall'esterno è rimasto invariato, o è cresciuto. L'esperto autentico sa di sapere molto su qualcosa di molto specifico, e di non sapere quasi niente su quasi tutto il resto. Il pubblico, però, tende a trasferire la credibilità da un dominio all'altro: il virologo che parla di economia, il fisico che parla di geopolitica, l'economista che parla di salute pubblica, godono di un'autorità che la loro competenza specifica non giustifica.
Questa asimmetria crea una trappola per tutti i soggetti coinvolti. L'esperto che eccede il proprio dominio di competenza (spesso in buona fede, spesso su sollecitazione dei media) accumula credibilità sociale che non corrisponde ad affidabilità epistemica. Quando sbaglia (come inevitabilmente accade fuori dal proprio dominio) il danno non è circoscritto alla sua reputazione individuale: si estende all'intera categoria, all'istituzione che lo ha ospitato, alla funzione sociale dell'expertise stessa. La credibilità è un bene comune fragile: si accumula lentamente e si consuma rapidamente.
La seconda radice è esterna, politica. Sheila Jasanoff (Jasanoff, 1990, 2004) ha mostrato con precisione come la scienza non sia mai stata separata dalle strutture di potere che la legittimano. Le istituzioni scientifiche producono conoscenza, ma la loro autorità sociale dipende da un riconoscimento politico e culturale che non è automatico. Quando quelle strutture di riconoscimento vengono intaccate (attraverso la delegittimazione politica deliberata, attraverso la scoperta di conflitti di interessi reali, attraverso il fallimento di previsioni su cui si erano costruite politiche pubbliche) la crisi si trasmette all'expertise che queste strutture sostenevano.
Il punto cruciale che Jasanoff permette di vedere è questo: la delegittimazione dell'expertise non è principalmente un fenomeno culturale spontaneo. È spesso il risultato di operazioni deliberate. Naomi Oreskes e Erik Conway (Oreskes & Conway, 2010) hanno documentato con dettaglio storico come l'industria del tabacco prima, e quella dei combustibili fossili poi, abbiano sviluppato strategie sistematiche per produrre dubbio su conoscenze scientifiche consolidate: non per confutarle (non avevano argomenti per farlo) ma per creare l'impressione che il dibattito scientifico fosse aperto quando non lo era. L'obiettivo non era convincere il pubblico che la scienza avesse torto: era convincerlo che non si potesse sapere2. La confusione epistemica, non la contronarrazione, era il prodotto cercato.
Questo meccanismo (la produzione deliberata di incertezza come strumento politico) ha avuto un effetto che i suoi promotori probabilmente non avevano pianificato integralmente: ha normalizzato il dubbio sistematico come risposta all'expertise. Quando ogni affermazione scientifica viene presentata come controversa, quando ogni istituzione viene descritta come catturata da interessi particolari, quando ogni esperto viene sospettato di agenda nascosta, il risultato non è un pubblico più critico e più esigente. È un pubblico incapace di distinguere il dubbio giustificato dall'incredulità sistematica. E quella distinzione (tra scetticismo epistemicamente produttivo e rifiuto epistemicamente paralizzante) è esattamente la capacità che una democrazia ha bisogno di mantenere per funzionare.
Il risultato di queste due radici convergenti non è, come si potrebbe sperare, un pubblico più autonomo epistemicamente. È un pubblico che, avendo perso la fiducia nelle istituzioni di certificazione della conoscenza, si rivolge ad alternative: la propria intuizione, la propria rete di appartenenza, fonti che confermano ciò che si è già inclini a credere. Forme di conoscenza che hanno la coerenza interna dell'ideologia, non l'affidabilità calibrata dell'expertise. E vale la pena dirlo esplicitamente: la sfiducia nelle istituzioni non è solo un ostacolo emotivo-sociale. È un ostacolo che svuota dall'interno le condizioni di possibilità di qualsiasi commons cognitivo, perchè la produzione collettiva di sapere presuppone il riconoscimento reciproco come pari. Ed è esattamente quel riconoscimento che la frammentazione della conoscenza erode prima di tutto il resto.
Bolle e balcanizzazione: la geografia della conoscenza frammentata
Se il collasso dell'expertise descrive ciò che si è perso, la balcanizzazione epistemica descrive ciò che si è formato nel vuoto. Non il caos. Il caos sarebbe più gestibile. Ma qualcosa di più insidioso: ambienti epistemici chiusi, internamente coerenti, reciprocamente impermeabili.
Thi Nguyen (2020) ha proposto una distinzione che è diventata centrale per capire questo fenomeno. Un'echo chamber non è semplicemente un ambiente in cui mancano voci alternative. Quella è una bolla epistemica, e la sua correzione è relativamente semplice: esporre le persone a informazioni che non hanno. Un'echo chamber è strutturalmente diversa: non mancano voci alternative, ma sono presenti meccanismi attivi che le discreditano sistematicamente prima ancora che possano essere valutate. Chi è dentro un'echo chamber non soffre di mancanza di informazione. Ha acquisito criteri per non considerare certe fonti, certi metodi, certi tipi di argomentazione. La correzione esterna diventa quasi impossibile non per irrazionalità, ma per razionalità interna al sistema di credenze3.
La distinzione è importante perchè cambia completamente il tipo di intervento necessario. Se il problema è la bolla, basta esporre le persone a informazioni diverse. Se il problema è l'echo chamber, l'esposizione a informazioni diverse non funziona, e in alcuni casi, come ha mostrato la ricerca di Christopher Bail e colleghi (2018), può addirittura aumentare la polarizzazione. Chi riceve informazioni da una fonte che ha già classificato come inaffidabile non aggiorna le proprie credenze: rinforza la propria identità di gruppo attraverso l'opposizione.
Questa dinamica trova conferma empirica nei lavori di Walter Quattrociocchi e colleghi (2016) condotti su grandi dataset di Facebook: gli utenti tendono a consumare contenuti omogenei con le proprie credenze anche quando contenuti alternativi sono ugualmente accessibili. La selettività non è prodotta dall'algoritmo. Precede l'algoritmo. È un comportamento attivo di filtraggio che le piattaforme amplificano ma non generano. Il che rende il problema strutturalmente più profondo di quanto la narrativa dominante sul “filtro algoritmico” suggerisca.
Questa osservazione ha un'implicazione che vale la pena esplicitare, perchè riguarda direttamente i limiti di certe proposte alternative. Il problema dei commons cognitivi digitali non è solo l'enclosure esterna, la privatizzazione della conoscenza da parte di piattaforme e corporations. È anche una domanda interna già balcanizzata che lavora contro la condivisione epistemica. Non basta aprire l'accesso se la domanda è già frammentata. Il framework istituzionale che Elinor Ostrom (1990) aveva sviluppato per i beni comuni (potente e fondato empiricamente) era costruito su comunità relativamente piccole, stabili, in cui i membri si conoscevano direttamente e condividevano obblighi reciproci. Erano, in altri termini, le strutture intermedie che questo mio percorso di studio descrive come distrutte. Trasportare quel framework ai commons digitali globali è teoricamente plausibile, ma presuppone condizioni sociali che oggi non si danno.
Ciò che Nguyen non sviluppa pienamente, ma che il contesto presentato permette di osservare, è che la balcanizzazione epistemica non è un fenomeno dei social media. I social media l'hanno accellerata e resa visibile, ma le sue radici sono nella distruzione delle strutture intermedie. In una parrocchia, in un sindacato, in un'associazione professionale, si era esposti a persone con cui si condividevano pratiche e obblighi reciproci, ma non necessariamente credenze (Putnam, 2000). Quella esposizione forzata (non scelta, non algoritmica, prodotta dalla prossimità fisica e dall'appartenenza condivisa) era un meccanismo epistemico, non solo sociale. Impediva che un singolo asse di disaccordo diventasse totalizzante.
Quando quelle strutture vengono distrutte, ciascuno costruisce il proprio ambiente informativo per affinità elettiva. Non è una scelta consapevole: è la risposta razionale alla libertà di scelta in assenza di obblighi che la temperino. Il risultato non è solo la polarizzazione affettiva, ma qualcosa di più profondo: la divergenza delle premesse di fatto. Non solo valori diversi, ma realtà diverse. Non solo priorità politiche diverse, ma fatti diversi su cui costruirle.
Questa condizione ha un nome tecnico nella letteratura di filosofia dell'epistemologia sociale: incomunicabilità epistemica. Non impossibilità di comunicare nel senso fisico, ma impossibilità di condividere le premesse minime che renderebbero produttivo un disaccordo. La democrazia non richiede consenso sui valori. Anzi, presuppone il disaccordo sui valori come condizione normale. Ma richiede un minimo di condivisione fattuale. Quando questa capacità si erode, il conflitto politico non è più mediabile attraverso il confronto. È mediabile solo attraverso il potere.
La post-verità come condizione strutturale
Nel vocabolario pubblico degli ultimi anni, post-verità è diventata una parola inflazionata. Usata per descrivere chiunque creda a cose che non si condividono, e quindi priva di capacità analitica. Vale la pena tornare a cosa significa il termine nella formulazione più precisa che ne ha dato Lee McIntyre (2018), perchè quella precisione è necessaria per capire con cosa si ha a che fare.
La post-verità non è (principalmente) il trionfo della menzogna sulla verità. Le menzogne sono sempre esistite, e le società hanno sempre avuto meccanismi (imperfetti, contestati, ma funzionanti) per distinguerle dalle affermazioni vere (Vosoughi et al., 2018). La post-verità è qualcosa di diverso: è la condizione in cui la distinzione tra verità e menzogna perde rilevanza operativa come criterio per accettare o rifiutare un'affermazione. Non è che la gente creda a cose false, anche se questo spesso accade. È che sempre più persone hanno smesso di usare la corrispondenza con i fatti come criterio primario per valutare se credere a qualcosa.
Se non è la verità il criterio, cosa lo è? La coerenza con l'identità del proprio gruppo. L'utilità strumentale per i propri obiettivi. La carica emotiva dell'affermazione. La credibilità della fonte nei termini della propria rete di fiducia. Nessuno di questi criteri è irrazionale in sé: sono criteri che usiamo tutti, implicitamente, ogni volta che non abbiamo modo di verificare direttamente qualcosa. Il problema è quando diventano gli unici criteri, sostituendo completamente la domanda: questa cosa è vera?
La connessione con il trauma sistemico descritto nel saggio Vivere nell'eccezione è qui diretta. Quando le istituzioni hanno tradito le proprie promesse in modo documentato e ripetuto (quando l'expertise si è rivelata catturata da interessi particolari, quando le previsioni degli esperti si sono sistematicamente rivelate sbagliate, quando la fiducia nelle istituzioni è stata strumentalizzata piuttosto che onorata) smettere di usare la verità istituzionale come criterio primario non è irrazionalità. È la risposta adattativa di chi ha imparato che fidarsi di certe fonti è costoso. La post-verità non è una patologia cognitiva individuale. È la conseguenza razionale di un ambiente epistemico in cui la fiducia è stata sistematicamente tradita4.
Ciò che McIntyre aggiunge, e che è forse il contributo più originale della sua analisi, è la distinzione tra la post-verità come condizione e la post-verità come strategia. Come condizione, è il prodotto involontario delle dinamiche descritte. Come strategia, è uno strumento deliberato di destabilizzazione politica. Chi produce deliberatamente confusione su questioni di fatto non sta sbagliando a comunicare la verità. Sta perseguendo un obiettivo politico specifico: un ambiente in cui nessuno si fida di nessuno è un ambiente in cui il potere non deve rispondere a nessuno.
La post-verità come condizione è il problema. La post-verità come strategia è la sua industrializzazione. E come per ogni sistema complesso, la distinzione tra i due livelli tende a dissolversi: quando la condizione è diffusa abbastanza, la strategia diventa inutile, perchè il lavoro di destabilizzazione si alimenta da solo.
Vale la pena dirlo in modo esplicito, perchè il punto ha implicazioni che vanno oltre la diagnosi. Un ambiente in cui nessuno riconosce le autorità epistemiche degli altri è un ambiente in cui le forme di produzione collettiva del sapere non possono formarsi, indipendentemente da chi ne detiene la proprietà. La crisi della fiducia non è un problema che si risolve riformando la governance delle piattaforme o aprendo l'accesso alla conoscenza. Questi interventi sono necessari, ma insufficienti, perchè il danno è più a monte: è nella capacità stessa di riconoscere un interlocutore come epistemicamente legittimo.
L'infosfera e il capitale semantico
C'è un modo in cui la crisi epistemica potrebbe essere fraintesa: come una crisi di quantità, risolvibile con più informazione corretta. Luciano Floridi ha dedicato gran parte del suo lavoro a mostrare perchè questo fraintendimento sia non solo sbagliato ma controproducente.
Il concetto centrale che Floridi (2014) introduce è quello di infosfera: l'ambiente informativo complessivo in cui siamo immersi, che non è semplice canale attraverso cui scorrono informazioni preesistenti, ma un ambiente che co-produce la realtà in cui abitiamo. Come l'ecosistema fisico, può essere sano o degradato, e la sua degradazione ha conseguenze reali sull'agentività collettiva, così anche i suoi effetti degradanti non sono lineari: superata una certa soglia critica, i meccanismi di recupero smettono di funzionare.
L'infosfera contemporanea è satura. Non nel senso ovvio che ci sono troppe informazioni (è sempre stato difficile elaborare tutto ciò che era disponibile) ma nel senso che la struttura dell'ambiente informativo è cambiata qualitativamente. La velocità di circolazione, il volume, la frammentazione, l'assenza di contesto, e soprattutto il principio organizzativo (l'ottimizzazione per l'engagement piuttosto che per la comprensione) hanno prodotto un ambiente in cui la quantità di stimoli informativi supera sistematicamente la capacità di elaborazione (Rosa, 2013).
In questo contesto Floridi introduce un secondo concetto, più profondo: il capitale semantico. Non l'accesso all'informazione (che non è mai stato così abbondante) e non la consapevolezza dei fatti (su cui si è più divisi che mai) ma la capacità collettiva di produrre significato. Di connettere informazioni in narrazioni coerenti che orientano l'azione. Di distinguere ciò che è rilevante da ciò che non lo è. Di integrare nuove informazioni in una comprensione del mondo che permetta di agire in modo orientato.
Il capitale semantico è diverso dall'informazione perchè non è una quantità che si accumula: è una capacità che si costruisce attraverso pratiche. Ha bisogno di contesto, tempo e comunità per funzionare, perché il significato non è una proprietà individuale, ma il prodotto di pratiche interpretative collettive.
La tesi di Floridi è che la crisi epistemica contemporanea non sia fondamentalmente una crisi di informazione, ma una crisi di capitale semantico. Il paradosso è preciso: il sovraccarico informativo produce non più conoscenza ma meno significato.
La connessione con la distruzione delle strutture intermedie si fa qui più chiara, e più urgente di quanto sembri a prima vista. Il capitale semantico non si produce individualmente: si produce nelle pratiche comunitarie. Una comunità di lavoro elabora insieme il significato di ciò che fa. Una comunità religiosa elabora insieme il significato dell'esperienza. Un'associazione professionale elabora insieme il significato delle proprie pratiche e dei propri standard. Erano queste pratiche collettive di produzione di significato (non solo l'accesso all'informazione) che le strutture intermedie fornivano. La loro distruzione non ha lasciato individui con più libertà di costruire il proprio significato. Ha lasciato individui in un'infosfera satura senza gli strumenti collettivi per orientarsi dentro di essa.
Il collettivo come produttore di sapere non è un dato della natura: è un'acquisizione fragile che va continuamente riprodotta da istituzioni specifiche. Questa è forse la lezione più importante che emerge dall'insieme di questo mio percorso, ma anche quella che più direttamente mette in discussione certe soluzioni troppo ottimistiche. Non basta che la conoscenza sia per natura relazionale e collettiva: perchè quella natura si realizzi, servono le condizioni istituzionali che la rendevano possibile. E quelle condizioni, oggi, sono in stato avanzato di erosione.
Il risultato è ciò che Floridi chiama povertà semantica in mezzo all'abbondanza informativa: una condizione in cui si è esposti a più stimoli informativi che mai, e si dispone di meno capacità che mai di trasformarli in comprensione orientante. Non è ignoranza. È disorientamento di un tipo nuovo, prodotto dall'eccesso piuttosto che dalla mancanza.
L'intelligenza artificiale come nuovo mediatore epistemico
In questo scenario entra l'intelligenza artificiale. Non come causa della crisi epistemica (le sue radici strutturali sono molto precedenti) ma come il fattore che più di ogni altro rischia di ridefinirla in modo irreversibile.
Per capire cosa stia accadendo, occorre descrivere con precisione il ruolo che sistemi di AI stanno assumendo nell'ecosistema epistemico. Sempre più persone, di fronte a domande su cui non hanno competenza diretta, si rivolgono a sistemi di AI generativa. Questa pratica è comprensibile, e in parte giustificata: l'AI è accessibile, disponibile, priva dell'arroganza che spesso caratterizzava le interazioni con l'expertise tradizionale, capace di sintetizzare velocemente grandi quantità di informazione. In un ambiente in cui la fiducia nelle istituzioni epistemiche è crollata, l'AI offre qualcosa di apparentemente attraente: risposta senza accountability istituzionale, senza gerarchie di credenziali, senza le frizioni che rendevano costoso l'accesso all'expertise tradizionale.
Il problema non è tecnico. Non si risolve migliorando la qualità delle risposte. Il problema è strutturale: riguarda il tipo di relazione epistemica che si instaura tra chi usa un sistema di AI e il sistema stesso.
L'expertise tradizionale (quando funzionava) non forniva solo risposte. Forniva risposte con una struttura di accountability: chi aveva detto cosa, su quale base, con quale margine di incertezza, attraverso quale processo di validazione. Quella struttura era costosa, lenta, spesso frustrante. Ma permetteva una cosa essenziale: la valutazione critica della fonte. I sistemi di AI generativa producono risposte senza quella struttura. Non nel senso che nascondano le proprie fonti, ma nel senso che il processo attraverso cui producono un output è opaco in un modo più profondo. Non si può chiedere a un sistema di AI perchè ha detto quello che ha detto nel senso in cui si può chiedere a un esperto umano di giustificare la propria affermazione.
C'è qui un paradosso che vale la pena esplicitare. I sistemi di AI sono adottati con maggiore entusiasmo da chi ha meno fiducia nelle istituzioni epistemiche tradizionali. Ma valutare criticamente l'output di un sistema di AI richiede esattamente la competenza epistemica che quelle stesse istituzioni avevano il compito di costruire e certificare. Chi non si fida dell'expertise tradizionale, e si rivolge all'AI come alternativa, si trova in una posizione in cui non ha gli strumenti per valutare quando fidarsi dell'AI e quando no. La fiducia cieca si trasferisce da un'istituzione a un sistema, senza che le basi della fiducia siano cambiate.
Il secondo problema strutturale è la personalizzazione. I sistemi di AI, costruiti per essere utili all'utente individuale, tendono a produrre output che soddisfano le aspettative di chi pone la domanda. In un contesto di balcanizzazione epistemica già avanzata, un sistema che produce risposte personalizzate sulle aspettative di chi pone la domanda rischia di diventare il meccanismo più potente mai costruito per rinforzare le echo chambers5. Le piattaforma social presentano contenuti di pari; il sistema di AI si presenta come fonte. L'effetto di rinforzo, in queste condizioni, rischia di essere qualitativamente diverso, non solo quantitativamente maggiore.
Vale la pena aggiungere, a questo punto, una precisazione che il dibattito tende a trascurare. Il problema della concentrazione proprietaria dell'AI (pochi grandi modelli controllati da poche corporations) è reale e rilevante (Zuboff, 2019). Ma è secondario rispetto al problema epistemico appena descritto. Anche un'AI open source, accessibile a tutti e senza barriere di prezzo, produce gli stessi effetti di balcanizzazione se usata come oracolo individuale in un ambiente di capitale semantico impoverito. La forma dell'interazione (la relazione epistemica che si instaura tra l'utente e il sistema) conta più della proprietà del sistema. E quella forma dipende da pratiche culturali e pedagogiche che nessuna riforma della governance può sostituire.
Floridi ha argomentato che il valore epistemico non sta nell'informazione ma nel processo attraverso cui viene prodotta, contestata, revisionata (Floridi, 2014). La conoscenza non è un prodotto che si consuma: è una pratica che si esercita6. Una risposta generata da un sistema che non argomenta, che non si assume responsabilità epistemica delle proprie affermazioni, è qualitativamente diversa da una conoscenza prodotta attraverso pratiche sociali di validazione, indipendentemente dalla sua accuratezza superficiale. Se le pratiche epistemiche collettive vengono sostituite dall'interrogazione di un sistema che produce risposte senza queste strutture, il capitale semantico non si accumula. Si consuma.
Detto questo (e va detto chiaramente) l'AI è anche qualcosa d'altro. Può essere uno strumento per ricostruire parti dell'infrastruttura epistemica collettiva, se integrata in pratiche epistemiche che mantengono le strutture di accontability e di contestazione. Può abbassare le barriere di accesso a competenze che erano distribuite in modo profondamente iniquo. Queste potenzialità sono reali. Non sono automatiche. Dipendono da scelte di design, di governance, di pratiche d'uso che lo scenario attuale non favorisce.
La biforcazione è aperta. Un'AI che personalizza l'ambiente informativo di ciascuno, che produce risposte senza strutture di accontability, che sostituisce le pratiche epistemiche collettive con l'interrogazione individuale di un oracolo, accelera la balcanizzazione e il collasso del capitale semantico. Un'AI usata come strumento per aumentare la propria capacità critica, per accedere a prospettive diverse, per costruire comprensione su basi più solide (in un contesto di pratiche epistemiche che restano collettive) potrebbe contribuire a qualcosa di diverso. Quale delle due traiettorie prevarrà non è scritto nella tecnologia: è scritto nelle istituzioni, nelle politiche, nelle pratiche culturali che la circondano.
Abitare l'interregno: pratica epistemica in condizioni avverse
Ciò che resta da indicare sono le condizioni minime per abitare l'interregno senza perdere la capacità di conoscere, e quindi di agire in modo orientato. Non soluzioni (la diagnosi delineata fin qui non autorizza ottimismi facili) ma quattro principi operativi: orientamenti per una pratica epistemica consapevole in un ambiente che lavora sistematicamente contro di essa.
Il punto di partenza è un'osservazione di Hugo Mercier e Dan Sperber, che rovescia il modo in cui di solito pensiamo alla ragione umana. La ragione, nella loro ricostruzione, non si è evoluta per trovare la verità individualmente: si è evoluta per argomentare socialmente, per produrre e valutare ragioni in contesti di interazione (Mercier & Sperber, 2017). Questa è una notizia in parte buona: significa che siamo capaci, in condizioni adeguate, di riconoscere argomenti migliori di quelli che avevamo prodotto inizialmente. Non perché la ragione individuale sia affidabile, ma perché la dimensione sociale del ragionamento è nella nostra natura. Non possiamo uscirne, ma possiamo scegliere a quali contesti sociali di ragionamento partecipare.
Coltivare l'expertise di secondo livello
In un ambiente in cui non è possibile verificare direttamente la maggior parte delle informazioni rilevanti, la capacità cruciale non è sapere molte cose. È saper valutare chi sa. Goldman (2001) pone questa competenza al centro della sua epistemologia sociale: in un mondo altamente specializzato, i non-esperti sono costantemente chiamati a valutare la credibilità di esperti rivali senza poter accedere direttamente ai contenuti su cui quella credibilità si fonda. Chiamo questa competenza meta-cognitiva expertise di secondo livello: non l'illusione di poter fare a meno degli esperti, ma la capacità di saper scegliere a chi affidarsi e su quali basi7.
Questa capacità non si sviluppa automaticamente. Richiede esposizione deliberata a modelli di ragionamento espliciti, a pratiche di valutazione della prova, alla comprensione di come funzionano le istituzioni epistemiche che si è chiamati a valutare. Tutto questo non è l'obiettivo di nessun sistema educativo contemporaneo, che tende a produrre conoscenza di primo livello (fatti, concetti, procedure) piuttosto che competenze di secondo livello: come si sa quello che si sa, come si riconosce quando una fonte è affidabile, come si distingue il disaccordo legittimo dall'oscuramento deliberato.
I sistemi di AI generativa costituiscono, paradossalmente, un terreno in cui queste competenze possono essere esercitate o sistematicamente erose, a seconda di come vengono utilizzati. La ricerca empirica documenta entrambe le traiettorie: l'uso frequente e non riflessivo di strumenti AI è associato a un declino significativo delle capacità di pensiero critico, mediato dall'aumento del cognitive offloading (Gerlich, 2025); al contrario, l'interazione iterativa e consapevole (in cui l'utente raffina, contesta e valuta gli output) produce forme di pensiero meta-cognitivo di secondo ordine (Gonsalves, 2024). La differenza non è tecnica. È nella postura con cui ci si avvicina al sistema.
Owen Matson (2025) descrive questa postura come palpazione: la capacità di leggere non solo i contenuti prodotti dall'AI, quanto i punti in cui il pensiero viene appiattito, l'esitazione levigata, la difficoltà resa invisibile. Non è propriamente una proposta pedagogica la sua, ma descrive con precisione ciò che l'expertise di secondo livello richiede nell'interazione con qualsiasi fonte opaca: non la fluenza nel comando o nel controllo, ma la sensibilità alle condizioni in cui quei contenuti riorganizzano l'emergenza del pensiero. Un sistema che risponde con tono di certezza indipendentemente dalla propria affidabilità costringe chi lo usa consapevolmente a esercitare esattamente questa sensibilità: ad individuare dove l'intuizione viene preclusa, dove la ruvidità viene levigata, dove la difficoltà viene gestita e resa invisibile.
L'ecologia dell'ambiente informativo
Il secondo principio operativo segue dalla diagnosi di Floridi: l'ambiente informativo non è neutro. È un ambiente che ci forma, nel bene e nel male, e la scelta di quali ambienti informativi abitare è una scelta che ha conseguenze epistemiche reali.
Questo non significa ignorare l'informazione scomoda, né costruire la propria bolla di conferma in direzione opposta. Significa qualcosa di più preciso: distinguere tra esposizione a informazione e comprensione di quella informazione. Il flusso continuo di notizie (progettato per catturare l'attenzione, non per costruire comprensione) produce la sensazione di essere informati mentre erode la capacità di elaborare ciò che si riceve. La comprensione profonda richiede lentezza, contesto, struttura narrativa che connetta i fatti in schemi significativi. Queste caratteristiche sono incompatibili con il ritmo dell'infosfera ottimizzata per l'engagement.
Luca De Biase ha mostrato come questo non sia un effetto collaterale involontario. La "strategia della disattenzione" è una logica produttiva che genera esternalità negative sulle risorse comuni: come l'inquinamento industriale degrada l'ambiente senza che nessun singolo attore ne risponda pienamente, così la produzione industriale di messaggi ottimizzati per l'attenzione degrada la capacità collettiva di distinguere informazione metodologicamente fondata da comunicazione manipolatoria (De Biase, 2009; 2012). La conseguenza che chiude il ragionamento è strutturale: se la conoscenza non è un bene che si accumula individualmente ma il prodotto di pratiche cooperative che richiedono infrastrutture condivise, un ambiente ottimizzato per l'engagement non è semplicemente inefficiente: erode attivamente quelle infrastrutture, perché i suoi incentivi premiano la frammentazione sull'integrazione, la velocità sulla comprensione, la risposta emotiva sull'elaborazione condivisa (De Biase, 2018).
Le infrastrutture cooperative della conoscenza non emergono da sole in queste condizioni. Vanno costruite deliberatamente, come si costruisce qualsiasi bene comune che il mercato non ha incentivo a produrre. La cura dell'ambiente informativo non è igiene individuale: è la precondizione perché pratiche epistemiche collettive possano esistere.
Il disaccordo come pratica epistemica
Il terzo principio è il più difficile, e il più controcorrente. Se Mercier e Sperber hanno ragione nel sostenere che il ragionamento funziona meglio in contesti sociali di confronto, allora la pratica epistemica più importante non è il pensiero critico individuale (che rimane vulnerabile ai bias che tutti condividiamo) ma l'esposizione deliberata a interlocutori capaci di sfidare le proprie credenze.
Giulia Bistagnino (2018) ha mostrato con precisione che questo non è scontato nemmeno in teoria. Il dibattito filosofico contemporaneo ha a lungo tentato di risolvere il problema del disaccordo politico in democrazia attraverso due strategie convergenti: la ragione pubblica rawlsiana, che neutralizza il disaccordo cercando premesse condivise al di là delle differenze, e il modus vivendi, che lo gestisce rinunciando del tutto alla ricerca di chi ha ragione. Entrambe le strategie, sostiene Bistagnino, commettono lo stesso errore: trattano il disaccordo come un problema da eliminare piuttosto che come una risorsa da coltivare. La sua proposta alternativa (il compromesso di principio) è costruita su un presupposto diverso: che il disaccordo genuino, fondato sul riconoscimento reciproco della razionalità delle parti, non sia l'ostacolo alla produzione di conoscenza condivisa, ma la sua condizione. Non il disaccordo tribale dei social media, in cui l'obiettivo è prevalere sull'interlocutore. Ma qualcosa di strutturalmente diverso: la presenza di qualcuno che conosce l'argomento da una prospettiva genuinamente diversa, qualcuno capace di produrre argomenti che non si è già attrezzati a confutare, e con cui si condivide abbastanza terreno comune per rendere produttivo il confronto.
È questa esigenza reciproca che trasforma il disaccordo da scontro identitario in pratica epistemica, ed è esattamente il tipo di disaccordo che emergeva come sottoprodotto della vita associata nelle strutture intermedie. In assenza di quelle strutture, il disaccordo produttivo richiede costruzione deliberata.
La ricostruzione di istituzioni epistemiche di scala intermedia
Il principio più ambizioso, e insieme il più direttamente connesso alla diagnosi strutturale di questo mio percorso, è la ricostruzione di istituzioni epistemiche di scala intermedia. Non le grandi istituzioni nazionali o internazionali che hanno perso credibilità. Ma qualcosa di diverso: comunità di pratica, gruppi di lettura, reti professionali con criteri di validazione interni, spazi in cui le pratiche epistemiche collettive possano essere esercitate a scala umana.
Etienne Wenger (1998) ha dedicato il suo lavoro teorico a descrivere precisamente questa forma istituzionale. Le comunità di pratica, nella sua ricostruzione, non sono club di affinità né reti di scambio: sono aggregazioni in cui la conoscenza viene prodotta collettivamente attraverso la partecipazione a pratiche condivise, la negoziazione continua di significati, e la costruzione di un'identità comune che si definisce anche attraverso i conflitti8. La loro caratteristica cruciale non è l'accordo interno, ma la presenza di standard condivisi di valutazione: criteri che permettono di distinguere il contributo competente da quello incompetente, l'argomento rilevante da quello irrilevante.
Mauro Magatti e Chiara Giaccardi (2014) aggiungono la dimensione che Wenger lascia in parte implicita: il problema non è solo come queste istituzioni funzionano quando esistono, ma come possono nascere in un contesto in cui le condizioni che le rendevano spontanee sono venute meno. La loro proposta di generatività sociale indica una direzione: la comunità epistemica di scala intermedia non si pianifica, si pratica. E la pratica, se abbastanza radicata, produce le forme che la sostengono.
Oggi quelle condizioni non ci sono più. Wenger descrive come queste comunità funzionano quando esistono; Magatti e Giaccardi dicono che nascono dalla pratica. Ma la pratica richiede contesti che oggi devono essere costruiti intenzionalmente, uno per uno, contro la direzione degli incentivi strutturali. Non è un appello alla virtù individuale: è il riconoscimento che, senza un'infrastruttura politica e culturale che renda sistematicamente possibile questa ricostruzione, le indicazioni che questo capitolo propone restano gesti di resistenza locale in uno scenario di deterioramento globale.
Epilogo: tre registri, una sola crisi
C'è un filo che attraversa l'intera trilogia, e che forse è diventato visibile solo ora che il terzo atto è scritto.
Il ritorno del conflitto mostrava come la distruzione delle strutture intermedie avesse liberato tre meccanismi che quelle strutture tenevano a bada: la distinzione amico-nemico senza argini di Schmitt, il divario elité-masse senza mediazione di Strauss, la caccia al capro espiatorio senza freni comunitari di Girard. Il conflitto non è diventato più intenso perchè la natura umana è peggiorata: è diventato totale perchè i contenitori sono stati rimossi.
Vivere nell'eccezione mostrava le conseguenze di quella distruzione sul piano psicologico: l'ansia ontologica come collasso delle mappe cognitive, la crisi identitaria prodotta dal vuoto delle comunità dissolte, il collasso della fiducia come infrastruttura sociale, il sovraccarico informazionale come pressione aggiuntiva su sistemi già al limite. E proponeva il nome preciso per quella condizione: trauma sistemico, inteso non come evento acuto ma come condizione permanente di instabilità strutturale.
Questo saggio ha aggiunto il registro mancante. La stessa distruzione che ha prodotto conflitto totale e trauma sistemico ha eroso l'infrastruttura epistemica attraverso cui una società conosce sé stessa. Le istituzioni epistemiche che certificavano la competenza, distribuivano l'autorità cognitiva, costruivano terreno comune di fatto (l'equivalente epistemico dei corpi intermedi) erano parte dello stesso sistema che è stato deliberatamente svuotato. La crisi dell'expertise, la balcanizzazione epistemica, la post-verità come condizione strutturale, la povertà semantica nell'abbondanza informativa: sono le traduzioni epistemiche della stessa crisi che nei saggi precedenti si leggeva in termini politici e psicologici.
La convergenza non è accidentale. Conflitto, trauma ed epistemologia non sono tre problemi paralleli. Sono tre registri della stessa condizione: la dissoluzione delle strutture che mediano i rapporti tra individui, la costruzione di identità collettive, e la produzione di conoscenza condivisa. Nessuno dei tre può essere affrontato indipendentemente dagli altri due, perchè ciascuno alimenta e aggrava gli altri: la balcanizzazione epistemica intensifica il conflitto tribale, il conflitto tribale degrada ulteriormente l'ambiente epistemico, il trauma sistemico erode le risorse cognitive necessarie per orientarsi in un ambiente già degradato.
L'intelligenza artificiale, in questo quadro, non è né la causa né la soluzione. È il fattore che, a seconda di come viene integrato nelle pratiche sociali ed epistemiche, può accelerare il collasso o contribuire (in condizioni molto specifiche) a rallentarlo. Quella biforcazione è aperta, ma lo spazio in cui si decide non è tecnico. È politico, culturale, istituzionale. Ed è esattamente lo spazio che le strutture intermedie avrebbero dovuto presidiare.
Rimane la domanda che i saggi precedenti si erano posti e non avevano potuto risolvere: cosa è possibile fare in questo chiaroscuro? La risposta (scomoda, onesta, necessaria) è che ancora non esistono soluzioni all'altezza della diagnosi. Coltivare l'expertise di secondo livello. Trattare l'ambiente informativo come un bene comune che richiede cura. Praticare il disaccordo strutturato con interlocutori che sfidano genuinamente le proprie credenze. Partecipare alla costruzione di istituzioni epistemiche di scala intermedia.
Nessuna di queste azioni da sola è sufficiente. Tutte sono necessarie. Non perchè garantiscano un esito, ma perchè senza di esse l'esito è già deciso.
L'interregno (quel chiaroscuro in cui il vecchio mondo sta morendo e il nuovo tarda a comparire) non è una parentesi. È il contesto in cui bisogna imparare a stare, a conoscere, ad agire. Con la consapevolezza che sapere in condizioni avverse è già, di per sé, una forma di autentica resistenza.
Bibliografia
Bail, C. A., Argyle, L. P., Brown, T. W., et al. (2018). Exposure to opposing views on social media can increase political polarization. Proceedings of the National Academy of Sciences, 115(37), 9216–9221. https://doi.org/10.1073/pnas.1804840115
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623. https://doi.org/10.1145/3442188.3445922
Bistagnino, G. (2018). Compromessi di principio. Il disaccordo nella filosofia politica contemporanea. Carocci.
Coeckelbergh, M. (2020). AI ethics. MIT Press.
De Biase, L. (2009). Ecologia dell'attenzione. Link. Idee per la televisione. https://blog.debiase.com/paper/ecologia-dellattenzione/
De Biase, L. (2012). Ecologia dell'informazione. blog.debiase.com. https://blog.debiase.com/paper/ecologia-dellinformazione/
De Biase, L. (2018). La conoscenza della cooperazione. La quantità di informazione non basta. blog.debiase.com. https://blog.debiase.com/2018/03/19/la-conoscenza-della-cooperazione-la-quantita-informazione-non-basta/
Edelman. (2025). Edelman Trust Barometer 2025. Edelman. https://www.edelman.com/trust/trust-barometer
Flaxman, S., Goel, S., & Rao, J. M. (2016). Filter bubbles, echo chambers, and online news consumption. Public Opinion Quarterly, 80(S1), 298–320. https://doi.org/10.1093/poq/nfw006
Floridi, L. (2014). The fourth revolution: How the infosphere is reshaping human reality. Oxford University Press.
Fricker, M. (2007). Epistemic injustice: Power and the ethics of knowing. Oxford University Press.
Gerlich, M. (2025). AI tools in society: Impacts on cognitive offloading and the future of critical thinking. Societies, 15(1), 6. https://doi.org/10.3390/soc15010006
Goldman, A. I. (1999). Knowledge in a social world. Oxford University Press.
Goldman, A. I. (2001). Experts: Which ones should you trust? Philosophy and Phenomenological Research, 63(1), 85–110. https://doi.org/10.1111/j.1933-1592.2001.tb00093.x
Gonsalves, C. (2024). Generative AI's impact on critical thinking: Revisiting Bloom's Taxonomy. Journal of Marketing Education. https://doi.org/10.1177/02734753241305980
Guess, A., Nyhan, B., & Reifler, J. (2018). Selective exposure to misinformation: Evidence from the consumption of fake news during the 2016 U.S. presidential campaign. European Research Council, 9(3), 1–9.
Hughes, J., Jewson, N., & Unwin, L. (Eds.). (2007). Communities of practice: Critical perspectives. Routledge.
Jasanoff, S. (1990). The fifth branch. Harvard University Press.
Jasanoff, S. (2004). States of knowledge. Routledge.
Kahan, D. M. (2016). The politically motivated reasoning paradigm, part 1: What politically motivated reasoning is and how to measure it. Emerging Trends in the Social and Behavioral Sciences. https://doi.org/10.1002/9781118900772.etrds0417
Magatti, M., & Giaccardi, C. (2014). Generativi di tutto il mondo, unitevi! Feltrinelli.
Matson, J. O. (2025). Toward an epistemic AI literacy. PESA Agora. https://pesaagora.com/columns/toward-an-epistemic-ai-literacy/
McIntyre, L. (2018). Post-truth. MIT Press.
Mercier, H., & Sperber, D. (2017). The enigma of reason. Harvard University Press.
Nguyen, C. T. (2020). Echo chambers and epistemic bubbles. Episteme, 17(2), 141–161. https://doi.org/10.1017/epi.2018.32
Oreskes, N., & Conway, E. M. (2010). Merchants of doubt. Bloomsbury Press.
Ostrom, E. (1990). Governing the commons: The evolution of institutions for collective action. Cambridge University Press.
Proctor, R. N. (2008). Agnotology: A missing term to describe the cultural production of ignorance (and its study). In R. N. Proctor & L. Schiebinger (Eds.), Agnotology: The making and unmaking of ignorance (pp. 1–33). Stanford University Press.
Putnam, R. D. (2000). Bowling alone. Simon & Schuster.
Quattrociocchi, W., Scala, A., & Sunstein, C. R. (2016). Echo chambers on Facebook. SSRN. https://doi.org/10.2139/ssrn.2795110
Rosa, H. (2013). Social acceleration. Columbia University Press.
Sperber, D., Clément, F., Heintz, C., Mascaro, O., Mercier, H., Origgi, G., & Wilson, D. (2010). Epistemic vigilance. Mind & Language, 25(4), 359–393. https://doi.org/10.1111/j.1468-0017.2010.01394.x
Taddeo, M., & Floridi, L. (2018). The debate on the moral responsibilities of online service providers. Science and Engineering Ethics, 22(6), 1575–1603. https://doi.org/10.1007/s11948-015-9745-2
Vosoughi, S., Roy, D., & Aral, S. (2018). The spread of true and false news online. Science, 359(6380), 1146–1151. https://doi.org/10.1126/science.aap9559
Weidinger, L., Mellor, J., Rauh, M., et al. (2021). Ethical and social risks of harm from language models. DeepMind. https://arxiv.org/abs/2112.04359
Wenger, E. (1998). Communities of practice. Cambridge University Press.
Zuboff, S. (2019). The age of surveillance capitalism. PublicAffairs.
Synthetic Notes
[1] L'analogia strutturale tra istituzioni epistemiche e corpi intermedi è euristicamente potente, ma nasconde una differenza rilevante. Le strutture intermedie mediano il conflitto tra persone che condividono già un contesto di vita; le istituzioni epistemiche hanno storicamente operato su scala molto più ampia, spesso nazionale o internazionale, e la loro autorità è dipesa da meccanismi di delega molto più astratti (credenziali, accreditamento, peer review). Identificare le due categorie rischia di trascurare che la crisi delle istituzioni epistemiche ha dinamiche proprie (accelerazione della specializzazione, conflitti di interesse nei finanziamenti della ricerca, cattura regolatoria) che non si esauriscono nella logica della distruzione dei corpi intermedi. Miranda Fricker (2007) ha sviluppato il concetto di ingiustizia epistemica per descrivere come certi soggetti vengano sistematicamente screditati come fonti di conoscenza: una dimensione di potere interna alle istituzioni epistemiche che il frame dei "corpi intermedi" non cattura.
[2] La tesi di Oreskes e Conway è storicamente ben fondata sui casi documentati, ma il saggio la usa per sostenere un'affermazione più ampia: che la produzione deliberata di incertezza abbia normalizzato il dubbio sistematico come risposta all'expertise in generale. Questo salto dalla documentazione di campagne settoriali specifiche alla diagnosi di una trasformazione culturale diffusa richiede cautela. Robert Proctor (2008), che ha coniato il termine agnotologia per lo studio della produzione deliberata di ignoranza, distingue tra ignoranza come prodotto di campagne intenzionali e ignoranza come effetto strutturale di sistemi complessi: le due forme coesistono ma hanno logiche diverse. Attribuire l'intera crisi dell'expertise alla seconda causa rischia di oscurare quanto la sfiducia verso gli esperti abbia radici autonome nel modo in cui gli esperti stessi hanno comunicato l'incertezza, gestito i conflitti di interesse interni, o errato sistematicamente in previsioni di alto profilo (si pensi alle proiezioni economiche pre-2008).
[3] La distinzione di Nguyen tra bolla epistemica ed echo chamber è concettualmente utile, ma la letteratura empirica sulla sua diffusione reale è molto più controversa di quanto il saggio lasci intendere. Studi su larga scala condotti su dati di consumo effettivo di informazione (Guess et al., 2018; Flaxman et al., 2016) mostrano che la maggior parte degli utenti online è esposta a contenuti trasversali alle proprie convinzioni, e che le vere echo chamber nel senso tecnico di Nguyen sono meno diffuse di quanto la narrazione dominante suggerisca. Il problema potrebbe essere meno di segregazione dell'esposizione e più di asimmetria nell'elaborazione: le persone vedono contenuti diversi ma li processano selettivamente. Questa distinzione ha implicazioni pratiche significative: se il problema è principalmente cognitivo e non strutturale, le soluzioni basate sulla diversificazione forzata dell'esposizione (che il saggio implicitamente critica) potrebbero avere più valore di quanto il frame dell'echo chamber suggerisca.
[4] Descrivere la post-verità come "conseguenza razionale" è una mossa normativa rilevante, non una descrizione neutrale. La tesi è che chi non usa la verità come criterio primario stia rispondendo razionalmente a segnali ambientali reali, e che la responsabilità ricada quindi sulle istituzioni che hanno tradito la fiducia. Questa lettura ha una validità, ma trascura una letteratura psicologica consistente che mostra come bias cognitivi fondamentali (conferma, ragionamento motivato, valutazione della fonte per identità di gruppo) operino indipendentemente dall'affidabilità storica delle istituzioni e precendano qualsiasi "tradimento" (Kahan, 2016; Mercier & Sperber, 2017). La razionalità adattativa descritta nel testo e i bias cognitivi strutturali non si escludono, ma enfatizzarne solo uno produce diagnosi parziali: il primo suggerisce che riformare le istituzioni risolva il problema; il secondo suggerisce che la crisi avesse radici anche indipendenti.
[5] L'affermazione che i sistemi di AI "tendano a soddisfare le aspettative di chi pone la domanda" merita qualificazione. I modelli linguistici di grandi dimensioni sono addestrati con procedure di allineamento (RLHF e varianti) che esplicitamente cercano di ridurre il comportamento adulatorio (sycophancy), con risultati parziali ma documentati. L'effetto di rinforzo delle credenze preesistenti esiste, ma dipende fortemente dal modo in cui la domanda è formulata, dalle impostazioni del sistema, e dal comportamento dell'utente: un sistema interrogato con domande aperte e critiche produce output molto diversi da uno interrogato con domande retoricamente orientate. La formulazione del saggio rischia di naturalizzare un comportamento che è in parte una scelta di design e in parte una variabile d'uso, oscurando la possibilità (che il saggio stesso riconosce altrove) di usi epistemicamente produttivi. Bender et al. (2021) e Weidinger et al. (2021) offrono analisi più sfumate dei rischi epistemici dell'AI che distinguono tra effetti strutturali del modello ed effetti d'uso.
[6] La distinzione di Floridi tra informazione e conoscenza come pratica è filosoficamente fondata, ma la sua applicazione ai sistemi di AI è più controversa di quanto il saggio suggerisca. Una parte della letteratura sull'epistemologia dell'AI (Coeckelbergh, 2020; Taddeo & Floridi, 2018) argomenta che i sistemi di AI possano svolgere un ruolo genuino nelle pratiche epistemiche collettive, non come oracoli sostitutivi, ma come strumenti che amplificano capacità cognitive umane in modi analoghi a come la scrittura o la stampa lo hanno fatto. Questa posizione non nega i rischi descritti nel saggio, ma sposta il punto di valutazione dalla natura del sistema alle condizioni d'uso e di integrazione istituzionale. Il saggio oscilla tra questa posizione più sfumata (la "biforcazione aperta" descritta nel paragrafo successivo) e una caratterizzazione della conoscenza-AI come strutturalmente deficitaria: la tensione tra le due posizioni rimane irrisolta.
[7] Il concetto di expertise di secondo livello si sovrappone parzialmente a quello di vigilanza epistemica sviluppato da Sperber et al. (2010): una suite di meccanismi cognitivi attraverso cui gli esseri umani valutano l'affidabilità delle fonti e la plausibilità di ciò che viene loro comunicato. La differenza rilevante è che Sperber et al. descrivono meccanismi in larga misura spontanei, presenti anche nei bambini piccoli, e orientati alla protezione dall'inganno. L'expertise di secondo livello, per come viene utilizzata all'interno del saggio, indica invece una competenza acquisita deliberatamente, orientata non solo a filtrare la disinformazione ma a valutare le strutture istituzionali e i processi attraverso cui la conoscenza viene prodotta e certificata. È una forma deliberatamente coltivata, e non automatica, di quella stessa vigilanza.
[8] La teoria delle comunità di pratica di Wenger è uno dei quadri teorici più influenti nell'educazione e nella gestione della conoscenza organizzativa, ma ha ricevuto critiche rilevanti che il saggio non considera. Primo: il modello descrive comunità che condividono già una pratica consolidata, ed è meno utile per capire come nuove pratiche epistemiche emergano in assenza di quel punto di partenza, il problema esatto che il saggio affronta. Secondo: la dimensione del potere interna alle comunità di pratica è sottorappresentata nel modello originale; chi definisce cosa conta come "partecipazione legittima periferica" e chi viene sistematicamente escluso dal centro della pratica sono questioni che la critica femminista e postcoloniale della teoria ha evidenziato (Hughes et al., 2007). Terzo: la proposta di Magatti e Giaccardi sulla "generatività sociale" che il saggio affianca a Wenger è un contributo normativo di filosofia sociale, non un programma di ricerca empiricamente testato. Presentare i due come diagnosi complementari converge verso una proposta di ricostruzione che ha più il carattere di un orizzonte desiderabile che di una strategia praticabile.