Da qualche tempo scrivo meno di intelligenza artificiale, e la ragione non sta nel tema, che anzi pesa ogni mese di più sulle organizzazioni, sulle scuole, sulle istituzioni, ma nel dibattito che gli si è stratificato intorno, diventato così prevedibile da risultare noioso. Uso la parola con precisione. Parlo di una noia che non somiglia alla ripetizione fisiologica di ogni tecnologia destinata a diventare pervasiva, perché coincide con qualcosa di più serio: un abbassamento della qualità del pensiero proprio nel luogo in cui ci si aspetterebbe il contrario.
Da tre o quattro anni la rappresentazione si ripete con pochissime varianti. Ogni settimana qualcuno annuncia una rivoluzione, qualcun altro la fine del lavoro, un terzo scopre un modello, un prompt o una catena di agenti abbastanza articolata da convincersi di aver compreso il futuro della specie; intanto i modelli cambiano nome, i costi scendono, le valutazioni salgono, i data center assorbono capitali ed energia, i governi scrivono strategie, i consulenti producono slide e gli influencer producono meraviglia. Sotto questo movimento continuo le domande che contano sono rimaste quasi ferme. Chi decide? Chi verifica? Chi risponde di una decisione quando emerge da una catena di passaggi tra persone e macchine? Quanto sapere possiamo esternalizzare prima di smettere di sapere? Come si governa una tecnologia che moltiplica le risposte più in fretta di quanto impariamo a formulare domande?
Le conosciamo da anni, e che non siano state risolte sorprende poco, perché problemi di questa natura chiedono tempo lungo. Colpisce piuttosto che abbiamo smesso perfino di discuterle, e che al loro posto sia cresciuto un folklore tecnologico con le sue figure, i suoi riti e le sue paure, una specie di medioevo cognitivo installato dentro una delle epoche tecnicamente più sofisticate della storia. Uso anche questa parola con cautela, sapendo quanto il Medioevo storico sia stato più ricco della caricatura che ne hanno fatto i secoli successivi; più avanti proverò a pagare il debito che la metafora contrae.
Intanto la metafora regge, e i primi a comparire sono gli stregoni. Custodiscono la formula: il prompt perfetto, le ventisette parole che sbloccano il modello, il metodo che decuplica la produttività, la sequenza di agenti che manda avanti l'impresa mentre il titolare dorme, il workflow che entro il trimestre renderà superflua metà dell'organizzazione. Ogni epoca ha avuto le sue pozioni; la nostra le disegna come diagrammi pieni di frecce. Prompt, agenti e flussi di lavoro sono strumenti, e come tali vanno presi sul serio. L'errore comincia quando la destrezza nell'uso di uno strumento viene scambiata per comprensione del fenomeno, allo stesso modo in cui saper costruire un foglio Excel non ha mai significato capire l'economia.
Da qui nasce un'inflazione di autorità percepita che ha poco a che fare con la democratizzazione dell'accesso, la quale resta una delle cose migliori accadute in questi anni. L'accesso però è una condizione, mentre la comprensione è un lavoro, e nel momento in cui un'interfaccia conversazionale consente a chiunque di produrre in pochi secondi un discorso sulla conoscenza, sul lavoro o sul destino della specie, la distanza tra le due cose smette di vedersi.
Accanto agli stregoni stanno i profeti, per i quali ogni release inaugura un'era, ogni benchmark segna una soglia antropologica e ogni demo contiene l'embrione di una mente generale. Il lessico tecnologico ha assorbito quello religioso con una facilità che dovrebbe insospettirci: rivelazioni, soglie, singolarità, entità che supereranno l'uomo e si miglioreranno da sole. Di fronte a loro, speculari, gli inquisitori annunciano la dannazione con la stessa grammatica, perché l'intelligenza artificiale, a seconda del giorno, distruggerà il lavoro, la scuola, la creatività, la democrazia, la verità e forse l'umanità intera. Dentro quell'elenco ci sono rischi seri, e chi si occupa di automazione, concentrazione di potere, dipendenza infrastrutturale o erosione delle competenze lo sa bene. Il problema sta nella forma del discorso: la catastrofe viene evocata prima di essere spiegata, esattamente come il miracolo, e le due figure si rivelano varianti dello stesso gesto, che consiste nell'attribuire a qualcosa che non comprendiamo un potere superiore per poi decidere se venerarlo o temerlo.
Chiamerei tutto questo superstizione, una superstizione aggiornata che al posto degli amuleti usa i benchmark e legge il futuro nelle demo dei laboratori invece che nelle viscere degli animali. Vale la pena chiedersi che cosa confonda, precisamente. Una prima lettura, di impianto funzionale, direbbe che confondiamo la capacità di agire con l'intelligenza: questi sistemi producono risultati efficaci senza aver bisogno di capire nulla, e l'errore sta nel proiettare una mente là dove c'è una prestazione, sicché il compito diventa governare un agire che si è separato dal comprendere. Una seconda lettura va più a fondo e più di traverso, perché sostiene che la comprensione appartenga all'esperienza di un soggetto che sente il significato di ciò che conosce, e che nessuna quantità di calcolo contenga quell'interiorità; in questo caso l'errore diventa ontologico, e la superstizione consiste nel dimenticare che cosa siamo prima ancora che cosa sono le macchine. Le due letture sgonfiano lo stesso idolo da lati opposti e divergono su un punto decisivo, cioè su che cosa perdiamo quando deleghiamo: una funzione che potremmo riorganizzare, oppure una forma di presenza che, una volta disabituata, fatica a tornare. Tenerle entrambe aperte mi sembra oggi più onesto che scegliere, anche perché la scelta cambia radicalmente il modo in cui progettiamo il lavoro con questi sistemi.
Nel titolo ho messo anche le streghe, che finora sono rimaste fuori scena, e la loro assenza racconta qualcosa. Nell'immaginario che abbiamo ereditato la strega era soprattutto un sapere non autorizzato: la levatrice, l'erborista, chi conosceva per pratica ciò che le istituzioni non avevano ancora codificato. Le streghe del Medioevo AI mi sembrano gli outsider competenti, cioè il tecnico che vede che cosa accade davvero quando un modello entra in un processo, l'insegnante che osserva la scrittura dei suoi studenti cambiare mese dopo mese, il ricercatore laterale che fa domande scomode senza avere un prodotto da vendere né un'apocalisse da annunciare. Stregoni e inquisitori li ignorano con la stessa indifferenza, perché non portano né miracoli né dannazioni, e il rogo che li attende è quello, silenzioso a fuoco lento, dell'irrilevanza.
Qui però devo fare i conti con la mia posizione. Chi scrive contro stregoni e inquisitori rischia di diventare l'inquisitore degli stregoni, e il fatto che io lavori su questi temi da trent'anni, molto prima che diventassero conversazione pubblica, mi offre qualche anticorpo senza garantirmi l'immunità. Anche l'anzianità può trasformarsi in amuleto, in una formula che dispensa dal verificare, e la sola difesa che conosco consiste nel sottoporre le mie tesi allo stesso trattamento che riservo a quelle degli altri.
Lo stesso trattamento va riservato al paradosso che mi interessa di più. Abbiamo costruito strumenti capaci di amplificare enormemente l'elaborazione cognitiva individuale, eppure la loro diffusione non ha migliorato in modo automatico la qualità del ragionamento collettivo, e in qualche caso sembra averla peggiorata. Mai è stato così facile produrre un testo, una strategia, un'analisi o una spiegazione plausibili, e in questa abbondanza vedo il segnale da prendere sul serio: un'inflazione di plausibilità in cui la moneta del verosimile, stampata senza limiti, perde valore d'acquisto e trascina con sé la fiducia in tutto ciò che somiglia a un argomento. Quando produrre risposte costa quasi nulla, il valore migra verso ciò che non si lascia stampare, ossia la capacità di formulare una domanda, di riconoscere un pattern e distinguerlo da una coincidenza, di reggere un dubbio abbastanza a lungo da confrontare ipotesi diverse, di accorgersi che una risposta elegante è semplicemente sbagliata, e infine di assumersi il peso di una decisione. Il vantaggio cognitivo dei prossimi anni potrebbe allora spettare a chi saprà pensare meglio mentre la usa, più che a chi saprà usarla meglio.
A questo punto il debito con il Medioevo va saldato, perché la metafora si rovescia. L'università medievale aveva istituzionalizzato una pratica che noi abbiamo quasi perso: la quaestio disputata. Si partiva da una domanda formulata con esattezza; si esponevano per prime le ragioni contrarie alla tesi che si intendeva sostenere, nella loro forma più forte; solo dopo veniva la risposta del maestro, che doveva poi tornare su ciascuna obiezione e scioglierla una per una. Il dubbio, lì dentro, aveva una procedura, un tempo e un luogo. I nostri sistemi generativi offrono la risposta senza la quaestio e il respondeo senza gli argomenti contrari, e noi li accogliamo con un sollievo che assomiglia molto a una rinuncia. Il medioevo cognitivo in cui viviamo ha preso dal Medioevo le streghe e i roghi e ne ha scartato l'unica tecnologia davvero decisiva, quella della disputa, sicché a guardarlo bene appare meno medievale di quanto servirebbe.
Negli ultimi anni abbiamo investito moltissimo nell'intelligenza delle macchine e pochissimo nell'ecologia cognitiva dentro la quale le usiamo, cioè nella qualità delle relazioni che si stabiliscono tra persone e sistemi artificiali nel lavoro quotidiano. Un'organizzazione può possedere i modelli migliori e diventare cognitivamente più fragile, aumentare la produttività apparente mentre perde competenza, automatizzare le decisioni fino al punto in cui nessuno sa più ricostruire perché vengano prese, accumulare conoscenza formale mentre si assottiglia la sua capacità di giudizio. Il rischio che trovo più serio si presenta senza macchine ribelli: consiste in esseri umani che smettono, lentamente e quasi con gratitudine, di esercitare proprio le funzioni che li rendevano capaci di governare le macchine, in una dipendenza cognitiva che matura nel momento in cui disponiamo degli strumenti più potenti mai costruiti per amplificare il pensiero.
Forse per questo il dibattito mi annoia, perché se ne parla continuamente e si ha la sensazione di pensare sempre meno, come se velocità, output e automazione avessero occupato lo spazio che spettava alla comprensione, al giudizio e alla responsabilità. La domanda che mi sembra meritare una disputa, oggi, riguarda meno ciò che le intelligenze artificiali sapranno fare e più il tipo di esseri umani che stiamo diventando mentre impariamo a usarle. Potremmo scoprire, con una certa ironia, che dopo aver investito cifre che fatichiamo perfino a pronunciare per costruire macchine sempre più capaci, il problema più difficile ancora da risolvere sia rimasto quello più antico.
Imparare a pensare.