In una società dove il copilota dell'AI sembra diventare permanente, sempre più decisioni professionali vengono prese senza che sia più possibile indicare con precisione dove finisca il contributo umano e dove cominci quello della macchina. Un medico consulta un modello generativo prima di formulare una diagnosi differenziale; un avvocato utilizza un assistente AI per esplorare giurisprudenza, organizzare argomentazioni, redigere bozze; un manager elabora scenari strategici dialogando con un sistema conversazionale; un ricercatore costruisce ipotesi attraverso una sequenza di interazioni con strumenti che sintetizzano, suggeriscono, correlano.
Questi sistemi influenzino il pensiero? Gli strumenti cognitivi hanno sempre influenzato il pensiero. La scrittura stessa, osservava Platone nel Fedro, appariva come una tecnologia ambigua: un supporto della memoria e, nello stesso tempo, una possibile causa di indebolimento della memoria vivente.
Ciò che sembra nuovo è altrove; per lunghi secoli abbiamo potuto immaginare la cognizione come un’attività sostanzialmente individuale. Certo, socialmente situata, culturalmente modellata, linguisticamente mediata e tuttavia riconducibile, in ultima istanza, a un soggetto identificabile.
Cognizione e Individuo: qualcuno pensava, decideva, argomentava, sbagliava.
Questa immagine, già messa in discussione dalle teorie della cognizione distribuita, oggi mostra crepe più profonde. Il pensiero professionale contemporaneo tende a emergere da configurazioni ibride nelle quali interagiscono esseri umani, sistemi artificiali, infrastrutture informative, pratiche organizzative, standard, procedure, ambienti collaborativi e piattaforme digitali. La decisione appare sempre meno come il prodotto di una mente isolata e sempre più come l’esito provvisorio di un’ecologia cognitiva.
Forse stiamo entrando in una fase storica in cui il problema fondamentale non consiste più soltanto nel governare gli algoritmi ma potrebbe consistere nel governare le condizioni entro cui sistemi di cognizione distribuita producono giudizi, decisioni e azioni.
La distinzione non è marginale anche se per oltre un decennio il dibattito sulla governance dell’intelligenza artificiale si è concentrato prevalentemente sulle proprietà dei modelli: accuratezza, robustezza, fairness, trasparenza, explainability, accountability. Un’attenzione comprensibile poiché quando emergono nuove tecnologie, il primo impulso consiste quasi sempre nel tentare di renderle intelligibili.
L’Explainable AI nasce precisamente da questa esigenza: comprendere, almeno parzialmente, perché un sistema abbia prodotto una certa raccomandazione o classificazione. Analogamente, i dispositivi di accountability algoritmica cercano di attribuire responsabilità, definire obblighi, documentare processi decisionali.
Ma questo non spiega tutto. Si consideri una situazione ormai ordinaria dove un professionista consulta ripetutamente un assistente generativo nel corso di una giornata lavorativa. Formula domande, riceve suggerimenti, riformula, scarta alcune proposte, ne integra altre, modifica progressivamente il proprio orientamento iniziale. Alla fine assume una decisione formalmente attribuibile a sé stesso.
Che cosa, esattamente, dovrebbe essere spiegato? L’algoritmo? Il prompt? La sequenza delle interazioni? Le pratiche organizzative che hanno incentivato l’uso dello strumento? Le pressioni temporali? Gli standard professionali? L’insieme delle fonti informative disponibili? Oppure il modo in cui tutte queste componenti si sono reciprocamente influenzate?
L’idea di una supervisione umana (human oversight) mostra qui una certa fragilità concettuale. Spesso essa viene evocata come garanzia residuale: la macchina suggerisce, l’essere umano controlla.
Ma cosa significa realmente controllare un processo cognitivo distribuito, quando la formazione stessa del giudizio avviene attraverso continue interazioni con sistemi artificiali?
Il supervisore può trovarsi nella posizione paradossale di dover valutare conclusioni elaborate attraverso processi che hanno contribuito a trasformare il suo stesso spazio interpretativo. In altre parole, il problema non riguarda soltanto il controllo dell’output ma la trasformazione delle condizioni cognitive che rendono possibile quel controllo.
Le teorie della cognizione distribuita, sviluppate negli ultimi decenni, forniscono qui una lente utile. Esse suggeriscono che i processi cognitivi non risiedano esclusivamente nelle menti individuali ma emergano da reti di relazioni tra soggetti, artefatti, ambienti e pratiche sociali.
Un cockpit aeronautico costituisce un esempio classico: la sicurezza del volo non dipende unicamente dalle capacità cognitive del pilota, ma dall’interazione tra equipaggio, strumenti, checklist, procedure, infrastrutture di comunicazione, sistemi automatici e cultura organizzativa.
L’intelligenza generativa sembra estendere questa logica ben oltre contesti altamente specializzati. Ciò che un tempo rappresentava un’eccezione organizzativa tende a diventare una condizione ordinaria della cognizione professionale.
Da questo punto di vista, parlare di copilota permanente non è soltanto una metafora commerciale ma descrive una mutazione antropotecnica: la progressiva normalizzazione di partner cognitivi artificiali incorporati nel lavoro quotidiano.
Non sappiamo ancora con precisione quali effetti sistemici produrrà questa trasformazione. Sarebbe prematuro formulare diagnosi definitive; alcuni studi suggeriscono miglioramenti di produttività, ampliamento delle capacità esplorative e riduzione di determinate barriere cognitive. Altri segnalano rischi di dipendenza cognitiva, automazione eccessiva della fiducia, appiattimento interpretativo.
Probabilmente entrambe le dinamiche coesisteranno ma ciò che appare già plausibile è che l’adozione massiva di sistemi generativi modifichi progressivamente l’ecologia attentiva degli ambienti professionali: i modi in cui l’attenzione viene distribuita, le forme della ricerca informativa, i criteri di plausibilità, le pratiche di verifica, persino il dubbio.
Ogni infrastruttura cognitiva tende a esercitare una forma di gravità epistemica. Alcune idee diventano più accessibili di altre; certi percorsi interpretativi risultano più probabili; specifiche modalità di ragionamento vengono incentivate quasi impercettibilmente. Non dovremmo focalizzarci solo sull’errore fattuale ma dovremmo iniziare a osservare la possibile formazione di monoculture cognitive.
Se milioni di professionisti utilizzano strumenti costruiti su architetture simili, addestrati su corpora parzialmente sovrapposti, ottimizzati secondo metriche comparabili e integrati negli stessi ecosistemi organizzativi, è legittimo chiedersi se non possano emergere forme di convergenza interpretativa su larga scala.
Il rischio non consiste necessariamente nell’omogeneità assoluta. Più realisticamente, potrebbe manifestarsi come una lenta erosione della biodiversità cognitiva.
Alcune ipotesi interpretative potrebbero essere generate con maggiore frequenza; altre, meno compatibili con i pattern statistici dominanti, potrebbero diventare progressivamente invisibili. La differenziazione epistemica, quell’insieme di attriti, resistenze e disaccordi che spesso rende possibile la revisione critica, potrebbe ridursi.
Naturalmente esiste anche il controfattuale opposto sicché è possibile immaginare che sistemi generativi ben progettati aumentino, anziché diminuire, il pluralismo cognitivo. Un assistente artificiale potrebbe esporre il decisore a prospettive eterodosse, ampliare il repertorio interpretativo, favorire il dissenso argomentato. In questo scenario, la diffusione dell’AI rappresenterebbe una straordinaria infrastruttura di diversificazione cognitiva.
Non sappiamo quale delle due traiettorie prevarrà. Forse nessuna delle due in forma pura. Probabilmente assisteremo a configurazioni ibride, differenziate per contesto istituzionale, cultura organizzativa e modalità d’uso.
Tuttavia, proprio questa incertezza suggerisce la necessità di nuovi strumenti concettuali. Uno di questi potrebbe essere — il condizionale è essenziale — ciò che potremmo chiamare Governance Cognitiva Osservabile.
L’espressione non designa una teoria consolidata né tantomeno una tecnologia specifica o un insieme definito di pratiche organizzative. Conviene considerarla, almeno per ora, come un costrutto esplorativo: un costrutto teorico, un programma di ricerca ancora largamente da costruire e sottoporre a verifica empirica.
L’ipotesi di fondo è relativamente semplice; se i processi decisionali rilevanti emergono sempre più da sistemi di cognizione distribuita, potrebbe diventare necessario rendere osservabili, entro limiti normativi rigorosi, alcune operazioni cognitive che contribuiscono a tali decisioni, affinché possano essere discusse, valutate, corrette e, quando necessario, contestate.
Osservabili: non trasparenti in senso assoluto, non completamente spiegabili e neppure integralmente formalizzabili.
L’osservabilità, qui, richiama piuttosto la possibilità di rendere espliciti alcuni passaggi cognitivamente significativi all’interno di processi correggibili.
Una formulazione operativa, inevitabilmente provvisoria, potrebbe essere la seguente: la Governance Cognitiva Osservabile consiste in una forma di governance socio-tecnica che rende alcune operazioni cognitive rilevanti per una decisione esplicitamente tracciabili, valutabili e correggibili attraverso criteri, responsabilità e poteri di intervento definiti.
In forma più sintetica: osservabilità cognitiva più criteri normativi, responsabilità, autorità di intervento e meccanismi di feedback.
Una definizione di questo tipo richiede però numerose precisazioni, perché il rischio di equivoci è considerevole.
La Governance Cognitiva Osservabile non coincide con la metacognizione poiché quest’ultima riguarda la capacità dei soggetti di riflettere sui propri processi mentali. La GCO, se il concetto dovesse dimostrarsi utile, opererebbe a livello socio-tecnico e istituzionale.
Non coincide nemmeno con l’explainability algoritmica. Rendere interpretabile un modello non equivale a rendere osservabile il processo cognitivo distribuito nel quale quel modello è inserito.
Non coincide con l’audit procedurale o con la compliance normativa poiché è possibile soddisfare tutti gli obblighi documentali previsti e, nello stesso tempo, mantenere processi cognitivi sostanzialmente opachi.
Soprattutto, la GCO non dovrebbe essere interpretata come una forma di sorveglianza cognitiva.
Osservare operazioni cognitive rilevanti per una decisione non significa osservare menti, identità, tratti psicologici o caratteristiche individuali. L’oggetto dell’osservazione non sarebbe la persona in quanto tale, ma alcune dinamiche cognitive incorporate in processi decisionali suscettibili di correzione istituzionale.
Il confine, va riconosciuto, è delicato perché proprio qui emergono i rischi più seri.
Il primo potrebbe essere definito compliance theater. Le organizzazioni contemporanee mostrano una notevole capacità di produrre documentazione senza modificare realmente i propri processi decisionali. Nulla impedisce che anche la Governance Cognitiva Osservabile degeneri in un ulteriore strato burocratico: registri, checklist, indicatori, report. Molta osservabilità nominale. Poca capacità effettiva di apprendimento.
Il secondo rischio ha a che fare con il monitoraggio. Una nozione sufficientemente vaga di governance cognitiva potrebbe essere utilizzata per giustificare pratiche invasive di monitoraggio individuale. Tracciamento sistematico delle attività mentali, profilazione cognitiva, valutazione permanente dei comportamenti epistemici: scenari che richiamano forme sofisticate di controllo sociale piuttosto che dispositivi di responsabilità democratica.
Non è difficile immaginare derive di questo tipo e per questa ragione, qualsiasi futuro sviluppo del concetto dovrebbe fondarsi su limiti normativi estremamente stringenti. In assenza di tali limiti, la Governance Cognitiva Osservabile rischierebbe di trasformarsi nel proprio contrario.
Esiste poi un terzo rischio: la burocratizzazione del pensiero. Quando un sistema di governance diventa eccessivamente formalizzato, i soggetti possono smettere di esercitare giudizio autonomo, delegando alle procedure il compito di pensare. Il risultato sarebbe paradossale: introdurre meccanismi destinati a preservare la qualità della cognizione distribuita e ottenere, invece, un’ulteriore erosione della sovranità cognitiva.
Infine, vi è il pericolo dell’inflazione concettuale. La storia delle scienze sociali è costellata di concetti promettenti progressivamente dilatati fino a perdere capacità esplicativa. Se la Governance Cognitiva Osservabile finisse per indicare indistintamente qualunque pratica di coordinamento cognitivo, cesserebbe rapidamente di essere utile.
Forse il criterio minimo dovrebbe essere più modesto: il concetto conserva valore solo se permette di identificare fenomeni che altre categorie — explainability, accountability, audit, decision intelligence — non riescono oggi a descrivere adeguatamente.
Resta allora la domanda iniziale. Chi governa il pensiero quando il pensiero diventa distribuito?
La risposta più prudente, almeno oggi, è che nessuno lo governa pienamente e forse nessuno dovrebbe.
I sistemi di cognizione distribuita sono troppo complessi, situati e dinamici per essere integralmente progettati o controllati. Pretendere una governabilità totale significherebbe probabilmente sacrificare proprio quelle caratteristiche — pluralismo, creatività, dissenso, capacità di deviazione — che rendono la cognizione collettiva epistemicamente feconda.
Ciò non implica rinunciare alla governance ma, probabilmente, significa spostarne il baricentro.
L’interrogativo decisivo dell’era dell’AI potrebbe non essere: come governare sistemi artificiali sempre più potenti? A mio avviso sarebbe più opportuno capire come rendere osservabili, discutibili e correggibili i processi attraverso cui esseri umani, macchine, istituzioni e infrastrutture imparano progressivamente a pensare insieme.
Non sappiamo ancora se la Governance Cognitiva Osservabile rappresenti una strada percorribile; è possibile che il concetto si riveli insufficiente, o persino fuorviante. Richiederà certamente lavoro teorico, confronto interdisciplinare e validazione empirica prima di poter aspirare a qualcosa di più di un’ipotesi.
Ma forse l’ipotesi merita di essere formulata perché quando la cognizione diventa infrastrutturale, ciò che entra in gioco non è soltanto la qualità delle decisioni.
Entrano in gioco le condizioni stesse entro cui una società conserva la capacità di correggere i propri errori.