Un paio di anni fa un professore d’informatica mi ha raccontato una singolare vicenda accaduta durante una sua lezione: con l’intenzione di incuriosire i suoi allievi, decise di estrarre dalla borsa un vecchio floppy disk e chiese ai ragazzi che cosa fosse quell’oggetto. La risposta fu davvero sorprendente, perché i ragazzi lo descrissero come la stampa in 3D dell’icona “salva” che siamo soliti cliccare sui nostri computer. Trovare divertente questo fraintendimento, originato dal non avere condiviso le medesime esperienze, è probabilmente la prima reazione, ma a ben vedere questa piccola storia può aiutarci a riflettere su una condizione che è diventata ormai pervasiva: interagire con sistemi che manipolano significanti senza comprendere il reale significato. Questo scenario, che pare non inquietare il sonno di chi ne apprezza la mera dimensione utilitaristica, sta modificando in modo rilevante alcuni aspetti fondamentali della nostra attività cognitiva, inducendo milioni di persone a surfare allegramente in superficie, dimenticandosi del mare profondo che ci appartiene e da cui proveniamo.
Forse è utile ricordare che questa condizione è stata al centro di un famoso, e anche controverso, esperimento. Nel 1980, molti anni prima che il Web diventasse di pubblico dominio, quando di intelligenza artificiale parlavano solo gli specialisti, il filosofo John Searle ideò e propose l’esperimento della cosiddetta “Stanza Cinese”. L’obiettivo di Searle era dimostrare che la manipolazione di simboli, seguendo regole formali, può produrre risultati efficaci ma non equivale alla reale comprensione. In sintesi, la manipolazione formale di simboli, come avviene nei computer, non è sufficiente a produrre la semantica, e quindi la comprensione del contenuto mentale dei simboli. Chi vede in quell’esperimento, al di là delle diverse interpretazioni, una precisa linea di distinzione tra pensiero e calcolo, tra esperienza e simulazione, non inizia nemmeno a cercare corrispondenze tra una mente biologica e una ipotetica “mente sintetica”. Per quanto i moderni LLM siano capaci di superare il test di Turing, affascinare i loro utenti, confondere e sedurre le persone producendo derive percettive antropomorfe, quella linea di confine rimane netta.
Nel giro di pochissimo tempo, dunque, milioni di persone hanno rinunciato a scrivere come hanno sempre fatto, per interpellare una macchina che ti restituisce in pochi secondi un insieme di frasi formalmente corrette e che hanno un significato. Ma quale significato? E soprattutto di chi? Domande ritenute da sempre fondamentali, sembrano essere diventate un problema marginale. La macchina funziona molto bene e noi ci avviamo a “funzionare” sempre meglio con essa: velocità e produttività sono gli elementi distintivi, irrinunciabili per cavalcare lo spirito del tempo, anche a prezzo di contenuti sempre più simili e di una “voce” originale che si fa sempre più flebile. Come si può immaginare di ripetere pedissequamente nel tempo questo atto e restarne immuni?
L’idea di cognizione incarnata che, in vari modi, si è fatta strada attraverso il pensiero di Merleau-Ponty, Husserl, Varela, Thompson, Lakoff, Gallese e molti altri autori, dovrebbe ricordarci che senza corpo non c’è significato. Come possiamo pensare di attingere a parole generate da un calcolo statistico senza perdere nel tempo quel radicamento sensomotorio da cui provengono? Non rischiamo, in questo senso, di essere molto simili a coloro che detengono il potere di queste tecnologie, quando affermano di non potersi fermare perché comunque gli altri continuerebbero ad avanzare? È per paura di non essere all’altezza degli altri, emarginati, diversi, che alla fine ci adeguiamo?
Da tempo volevo tornare su questo argomento a cui ho dedicato un articolo più ampio (Il grande gioco dei caleidoscopi linguistici) qui sulla nave. Il desiderio era animato anche da un dubbio, o meglio, una necessità di chiarimento. Ho chiuso quell’articolo con una nota in calce che riporto: “nessuna parola di questo testo è stata scritta o pensata con un LLM”. Se da un lato questa affermazione si presentava come del tutto coerente con i contenuti di quell’articolo, non mi sfuggiva tuttavia il rischio che quelle parole potessero essere interpretate come una manifestazione di arroganza o comunque come la ricerca di una purezza in odore di superiorità morale. Rischio accettato, mi sento più libero di spiegare che per me quelle parole avevano il valore di un invito, di una proposta. L’analisi del paper di Luciano Floridi sulla “scrittura a distanza”, che è presente nel mio articolo, mette in luce alcuni dei limiti e dei rischi che lo stesso autore ammette nel suo testo, ma non nelle sue conferenze, dove principalmente mette in guardia da un uso superficiale di questi strumenti e dagli inevitabili risultati mediocri che ne conseguono, illustrando invece la loro complessità e la quantità di lavoro e tempo che è necessario dedicarvi. Ricordandoci, infine, che comunque questi strumenti rappresentano il futuro della scrittura: “…un giorno di questi qualcuno guarderà indietro e si chiederà: ma tutti quei testi li avete fatti a mano?”
I Large Language Model, se usati in modo consapevole e con spirito critico, possono amplificare quelle possibilità di studio e ricerca che molti di noi accolsero entusiasticamente con l’avvento di Internet: l’idea di accesso a una biblioteca infinita. Tali strumenti possono agevolare il lavoro di ricerca ma devono necessariamente essere affiancati da altre fonti di documentazione, perché non ci si può affidare nello studio a una probabilità statistica e a una mancanza di accesso alle fonti. Resto invece estremamente critico quando questi strumenti diventano il confidente, il counselor, lo psicologo, l’amico, il ghostwriter, la “stampella” a un pensiero che ha abdicato al suo ruolo, ecc. Gli effetti negativi di questa adesione acritica sono già ampiamente visibili. Ho notato invece recentemente e con piacere, il diffondersi di interventi (molti da parte di persone giovani) che denunciano una certa noia nell’accorgersi di leggere testi scritti tutti nello stesso modo, come se il “palato”, prima ancora di un filtro razionale, riuscisse a cogliere la piattezza del segnale.
Chiudo con una immagine e un ricordo. La prima riguarda appunto un’immagine, una scintilla che mi ha invogliato a scrivere questo articolo. Silvia Lazzaris, una giovane giornalista che si occupa di divulgazione scientifica, durante un suo intervento su Lucy, racconta che nel corso di una visita a un museo, a un certo punto, ha cominciato a perdere interesse nel leggere i cartelli descrittivi a fianco delle opere. Quelle parole per lei “avevano perso peso”, con l’avanzare del sospetto che quei testi non fossero opera di un autore umano ma di un LLM. È una immagine “sensoriale” estremamente efficace, che ci rinvia al contempo a quel concetto di gravitas che per gli antichi romani significava autorevolezza.
Il ricordo risale invece a molti anni fa e ci riporta al punto da cui siamo partiti. Durante una visita a un villaggio indigeno negli Altos de Chiapas, una donna intenta al lavoro sul suo telaio, sollevò lo sguardo e chiese a una ragazza che era con noi quale fosse il senso dell’immagine stampata sulla sua maglietta: una sorta di triangolo circondato da tre piccoli semicerchi con all’interno, stilizzata, una figura umana. La ragazza, sorridendo, rispose che non lo sapeva e che si trattava probabilmente di un disegno casuale e che comunque non era la ragione per cui l’aveva acquistata. Ricordo con precisione lo stupore e poi il lieve imbarazzo sul volto di quella donna, che non replicò, e ritornò al lavoro sul suo telaio, dove ogni singolo simbolo che produceva in quel tessuto aveva per lei un significato preciso e una storia.
Parole senza identità e autorevolezza, è questo il destino che ci attende?