La memoria di un tempo in cui tutti gli uomini parlavano la stessa lingua è presente nei miti fondativi di molte civiltà. Il più noto per noi è il racconto biblico della Torre di Babele, ma narrazioni simili, nelle quali per volontà divina le lingue verranno confuse tra loro, le ritroviamo tra gli Indiani Nord Americani, nelle culture precolombiane del Sud America e in India. Comune a questi miti è anche l’idea che tutto avvenne come punizione divina nei confronti della hybris, la superbia dell’uomo che aveva osato sfidare il cielo, e con esso il suo mistero.
Elogio di Babele è il titolo di una conferenza tenuta da James Hillman all’Università di Siena nel 1999. In quell’intervento il grande psicanalista interpreta il mito attribuendo un significato decisamente positivo alla moltiplicazione delle lingue, in opposizione all’idea di un codice univoco e assoluto. Centrale, nel ragionamento di Hillman, la ricchezza contenuta nelle infinite sfumature dei tanti linguaggi, manifesti impliciti di differenti visioni del mondo. Linguaggi “situati”, portatori di una loro identità.
Ricordando i miti che hanno in comune la costruzione di “una torre che arrivi a toccare il cielo”, afferma:
“si tratta sempre di manifestazioni di hybris, di superbia”. Ma la punizione divina in quei racconti non annienta gli uomini, provoca la loro dispersione. “È per impedire l’atto di hybris, per impedire l’uniformità che si crea la diversità. La dispersione per tutta la terra della lingua e della sua ubicazione.”
Ma non si tratta solo di storia antica, Hillman si addentra in altri richiami simbolici che individuano nel “peccato” del codice unico una manifestazione della volontà di potenza, e il suo pensiero va alla tecnologia. Alla fine degli anni ’90 internet muoveva, almeno per il grande pubblico, i suoi primi passi. A parte i primi motori di ricerca, nulla di quanto sviluppato allora era paragonabile agli strumenti attuali, eppure le sue parole ci fanno intravedere il riflesso di quegli antichi miti:
“La lingua di Internet non ha ubicazione. La lingua universale della rete unifica, eliminando la collocazione spaziale, e con questo si arriva alla perdita di senso del luogo, la perdita di idiomi, di toponimi, di dialetti, di inflessioni, di vernacoli, di slang. Si perde la particolarità immaginifica della lingua che appartiene ai luoghi. È un elemento su cui riflettere, immersi come siamo in tante poderose spinte verso l'uniformità, nella scienza e nell'economia, negli affari, nella politica.”
E infine cita Orwell:
“Il linguaggio della nuova tecnologia era già stato immaginato da George Orwell nel suo 1984, e fu lui a definirlo Neolingua in opposizione alla Archeolingua, che viene ironicamente derisa per ciò che lo scrittore individua come “vaghezza e inutilità di significato”. Il fine della Neolingua è quello di restringere il margine di errore. Ogni concetto di cui possiamo aver bisogno sarà espresso precisamente da una sola parola, con un significato rigidamente definito e tutti i significati accessori tagliati fuori, dimenticati. Anno dopo anno, sempre meno parole, e il margine di consapevolezza sempre più ridotto. Orwell stava prevedendo, in modo estremamente dettagliato, una malattia endemica dell'anima del mondo. Credere che la comunicazione richieda una lingua universale, abbreviata, significa ridurre la comunicazione a mera informazione, trasformando l'informazione e il messaggio in dati. Ma non è questa la lezione che ci viene da Babele. Babele ci dice che l'unità produce una torre.”
L'automazione del linguaggio
Per conoscere, studiare, descrivere, indagare, criticare o, semplicemente, parlare del linguaggio, non abbiamo altro che il linguaggio. Che sciocchi, per moltissimo tempo abbiamo creduto che questo inestricabile loop fosse una trappola, un limite invalicabile, ma un po’ ce ne compiacevamo, orgogliosi di ascoltare l’eco della nostra voce all’interno di quella caverna senza fondo. Siamo profondi, imperscrutabili, inconoscibili, e chi ha voluto esplorare quell’abisso alla fine si è ritrovato, come in un disegno di Escher, di fronte a uno specchio al punto di partenza. Poi qualcuno ha smesso di pensare e ha cominciato a contare: tra le infinite combinazioni possibili, quante di queste avranno un senso? Lasciatemi leggere tutto quanto è stato scritto, si proprio tutto. Abbiamo i mezzi, la memoria, la potenza di calcolo. Vedrete che ogni domanda troverà una risposta. Oggi abbiamo tutte le risposte, ma forse non sappiamo più chi siamo.
Ho provato più volte a porre la stessa domanda a diversi LLM (aprendo una nuova sessione a distanza di pochi minuti), i risultati non sono mai uguali. Se la domanda è di natura complessa, e non meramente informativa, può capitare che le risposte siano molto distanti tra loro: nella valutazione, nel pensiero, nei riferimenti concettuali, nella logica che le guida, ma sempre ben disposte, scorrevoli, sintatticamente corrette, piacevoli da leggere, perfino belle ed eleganti. L’analogia con il caleidoscopio mi è sembrata a questo punto facile, quasi ovvia. Una piccola scossa, un prompt, ed ecco apparire una nuova configurazione. Da bambini ammiravamo con sincero stupore le infinite combinazioni di colori che quel piccolo strumento ci regalava, e poco ci importava che non fosse un artista a proporci quelle immagini, ma solo un tubo, una manciata di pezzetti di vetro colorati, e un paio di specchi disposti in modo da creare magiche simmetrie, totalmente casuali.
L’analogia proposta non cerca ovviamente rigorose corrispondenze, ma può servire a riflettere. I grandi modelli linguistici non muovono pezzi di vetro, muovono parole, e quelle parole per noi hanno un senso, non solo, hanno una utilità. Sono il sedimento ricomposto di tutto il nostro sapere. Così, più prosaici di quando eravamo bambini, ma sempre disposti a lasciarci sedurre, quelle parole in poco tempo sono diventate: amico, confidente, esperto, consigliere, professore, avvocato, consulente, amante, terapeuta, ecc. E poco importa che nessuna di quelle figure abbia formulato le risposte, quelle parole funzionano, e questo basta.
Per molti anni di A.I. hanno parlato solo gli specialisti poi, all'improvviso, l'A.I. ha toccato il linguaggio e da quel giorno è esploso il dibattito. Anche solo questo dovrebbe indurci a pensare che le domande più profonde legate a questi cambiamenti non riguardano l'A.I., ma noi stessi. L’attrazione formidabile che questi strumenti esercitano sulla maggior parte delle persone, non si spiega solo con la loro straordinaria efficienza, ci racconta di un bisogno più profondo, di una debolezza umana che si sta manifestando in modo molto forte in questa fase delicata della nostra storia. Di un atteggiamento simile nei confronti della tecnica ci aveva parlato a suo tempo Günther Anders, nel suo L’uomo è antiquato (1956), descrivendo come “vergogna prometeica” lo stato d’animo di chi si sente ormai inferiore al potere delle macchine da lui stesso create. Una condizione di spaesamento e paura che oggi non è più riconducibile a una “tecnica prometeica” ma, secondo una definizione proposta da Massimo Cacciari, a una “tecnica faustiana”, dove l'essere umano non è più solamente soggetto, ma inevitabilmente anche oggetto delle imponenti trasformazioni in atto.
Nel delicato, e ancora instabile equilibrio che caratterizza l’interazione con questi strumenti, non è difficile immaginare un certo turbamento. A volte consapevolmente avvertito, spesso celato nell’eccitazione che si prova sotto l’effetto di un doping cognitivo, sorretti da un instancabile ghostwriter. Suppongo che molti non amino esplorare questa nuova dimensione (è bene ricordare sempre che ha poco più di tre anni) dando voce a un disagio soggettivo di natura esistenziale, valgano allora, in questo caso, le categorie che menti più razionali e oggettive hanno prodotto: “epistemia”; “pareidolia semantica”; “esomente”; “sycophancy”; “confirmation bias amplification”.
Ciò che accomuna in ogni caso tutte queste definizioni, è qualcosa che sta tra l’illusione, l’inganno, la dolce seduzione e l’aiuto (mai disinteressato). Se queste caratteristiche fossero attribuite a una persona, la morale comune, l’etica e i valori con cui siamo stati formati, non darebbero vita a un quadro molto lusinghiero. Ma nei confronti della macchina abbiamo, evidentemente, opinioni diverse. Siamo anche disposti, a fronte di una straordinaria comodità, ad accettare l’aleatorietà delle risposte e l’impossibilità di accedere alle fonti da cui quelle risposte provengono, rispetto a più faticose, ma senz’altro più rigorose, ricerche sul web.
La velocità con cui sono state accolte queste nuove tecnologie, considerate ormai indispensabili per abitare uno spazio comune da cui non ci si può sottrarre, credo abbia indebolito lo sguardo critico. Può far sorridere, ma se collocassimo nel vecchio mondo analogico la situazione sopra descritta, potremmo riassumerla come la scelta di interpellare un vecchio saggio, conosciuto per le sue vastissime conoscenze, estremamente premuroso e gentile, tanto da non rifiutare mai una risposta, ma ormai un po’ smemorato, incapace di ricordare dove ha letto certe cose, e che in qualche caso si confonde. Dimenticandoci che a pochi isolati dalla nostra abitazione c’è un’ottima biblioteca dove poter fare ricerche.
Al di là di tutto la diffusione di questi strumenti è enorme. La facilità di accesso, la comodità d’uso, e un’adesione prevalentemente utilitaristica, poco interessata a interrogarsi sulle possibili conseguenze, ne hanno determinato il grande successo. Un atteggiamento più prudente sembrano averlo, giustamente, le aziende, preoccupate per la mancanza di certezza nel giudizio in vista di una possibile autonomia decisionale. Ma una così massiccia adesione pone la più importante delle domande: questa tecnologia cambia in modo significativo l’ambiente cognitivo, lo spazio in cui si forma il pensiero, quali saranno le conseguenze? È ancora presto per rispondere a questa domanda, ma una cosa è certa, per il mondo della scuola, e della formazione in generale, è la più importante delle questioni da affrontare.
Distant writing: “l’abbassamento di voce”
“Figlioli, dovete combattere per trovare la vostra voce, più tardi cominciate a farlo più grosso è il rischio di non trovarla affatto. Thoreau dice: Molti uomini hanno vita di quieta disperazione. Non vi rassegnate a questo, ribellatevi, non affogatevi nella pigrizia mentale, guardatevi intorno, osate cambiare, cercate nuove strade.”
L’ammonimento del professor Keating ai suoi allievi, nell’Attimo fuggente di Peter Weir, risuona perfetto nell’introdurre questo tema, non riesco a trovare parole migliori. Dead Poets Society, il titolo originale del film, induce infatti a chiedersi se quella “malattia endemica dell'anima del mondo”, come ci ricordava James Hillman, non sia proprio legata all’estinzione dello sguardo poetico, sostituito dall’avanzare dell’iperprosa, come la definisce un altro grande del pensiero, Edgar Morin.
“La vita umana è tessuta di prosa e di poesia. La poesia non è un genere letterario, è anche un modo di vivere nella partecipazione, nell'amore, nel fervore, nella comunione, nell'esaltazione, nel rito, nella festa, nell'ebbrezza, nella danza, nel canto, che effettivamente trasfigurano la vita prosaica fatta di compiti pratici, utilitaristici, tecnici. […] Oggi, in questa fine di millennio, l'iperprosa è avanzata, con l'invasione della logica della macchina artificiale in tutti i settori della vita, l'ipertrofia del mondo tecno-burocratico, le esplosioni del tempo insieme cronometrato, sovraccarico e stressato, a svantaggio del tempo naturale di ciascuno. Il tradimento e il crollo della speranza poetica nel trionfo universale della fraternità ha steso una grande coltre di prosa sul mondo. […] In queste condizioni l'invasione dell'iperprosa rende necessaria una potente controffensiva di poesia. (Terra-Patria 1994, p.180/182)
Ma torniamo al nostro tema: l’automazione del linguaggio ha fatto nascere la “Distant writing”. Teorizzata da Luciano Floridi in un articolo comparso su SSRN, pare aver avuto subito un grande successo. Difficile dire se per genuina convinzione o, più malignamente, per aver fornito un perfetto e autorevole alibi a chi prima preferiva nascondere il contributo del proprio ghostwriter digitale.
Per capire in cosa consiste ci affidiamo alle parole dell’autore (tra breve capiremo che questa frase potrebbe essere corretta con: ci affidiamo alle parole del responsabile del progetto)
“La scrittura a distanza si riferisce a una pratica di creazione letteraria in cui gli autori umani fungono principalmente da progettisti narrativi, mentre i modelli linguistici di grandi dimensioni (LLM) svolgono l’effettivo lavoro di scrittura.” Si distingue, afferma Floridi, dalla scrittura “ravvicinata”, quella tradizionale (“ordinaria” nel testo originale), poiché posiziona l’autore “non come produttore diretto del testo, ma come architetto delle possibilità narrative, “responsabile” di specificare requisiti, affordance e vincoli, e di curare i contenuti generati dall’LLM.”
Seguono poi numerosi esempi, analogie che dovrebbero aiutare il lettore a comprendere che il ruolo del “meta-autore”, che progetta ma non produce direttamente il testo, non si configura come una novità, potendo individuare questa separazione anche in tempi passati: nella pittura, nella musica, nell’architettura e nella moda. Si arriva quindi al famoso esempio del colonnato del Bernini (famoso perché pedissequamente riproposto da molti articoli, post e podcast dedicati a questo tema).
E qui diventa obbligatorio chiedersi: davvero possiamo accettare di paragonare le colonne del Bernini alle nostre parole, al linguaggio? “Il Bernini non ha né realizzato né posizionato le 284 colonne di Piazza San Pietro, eppure si tratta indubbiamente del Colonnato del Bernini.” Trattare quindi il linguaggio come qualsiasi altro “oggetto” separato da noi? Qui il lavoro di Floridi non convince, perché rischia di applicare quell’idea di separazione, che ha spesso utilizzato per affermare che l’A.I. nasce dal divorzio tra l’intelligenza e la capacità di agire, a qualcosa che per sua natura non può essere diviso.
Pensiero e linguaggio sono un amalgama inscindibile che affonda le sue radici nella nostra evoluzione. La scrittura non è traduzione del pensiero in parole, è il luogo stesso dove il pensiero si forma. Chi ha dedicato tempo alla scrittura lo sa: non si scrive ciò che si pensa, si pensa scrivendo. Floridi stesso sembra avvertire questo problema quando, in una sezione del suo articolo dedicata a “La scrittura a distanza e il futuro della produzione letteraria”, scrive:
“Se la scrittura diventa wrAlting, quindi principalmente una questione di progettazione piuttosto che di esecuzione, cosa ne sarà dell'intimo rapporto tra linguaggio e pensiero che ha caratterizzato l'espressione umana? Se tutti sono architetti e nessuno è muratore, come influirà questo sul nostro rapporto con i processi legati alla riflessione, alla comprensione o al pensiero creativo? Per millenni ci siamo abituati a pensare attraverso la scrittura. Cosa accadrà quando penseremo attraverso il wrAlting?
Ma chi si aspetta risposte non le troverà. Sono domande che restano sospese, nessuno spazio dedicato a valutare possibili rischi e conseguenze. L’affermarsi di questo scenario viene dipinto come inevitabile, tanto da immaginarsi un futuro in cui la scrittura “ordinaria” diverrà marginale:
“Un giorno, ci si chiederà come le generazioni passate abbiano potuto scrivere tutti i loro testi senza che i modelli di linguaggio di grandi dimensioni (LLM) facessero la maggior parte del lavoro. Si considererà la scrittura un po’ come noi oggi pensiamo al cucire i propri vestiti o al coltivare la propria verdura: fattibile, ma non una pratica comune. La scrittura curata potrebbe diventare un'abilità eccezionale piuttosto che la norma, paragonabile al pane fatto in casa in un mondo di prodotti di massa.”
Leggendo attentamente il paper di Floridi si percepisce chiaramente l’interesse e la fiducia che l’autore nutre verso questo metodo, tanto da aver condotto lui stesso un elaborato esperimento letterario (Encounters) teso a dimostrare le illimitate possibilità narrative precluse alla scrittura ordinaria. Si comprende anche la grande complessità del processo se attuato nella sua interezza. In una recente intervista, comparsa su A.I. News, Luciano Floridi dichiara il suo impegno per scrivere Encounters, un intreccio narrativo composto da venti storie :
“Ho fatto un calcolo veloce: circa 40 ore di lavoro per storia, centinaia di prompt. Il momento artigianale non va sottovalutato. È uno sciocco chi pensa che questi strumenti viaggino da soli, è il contrario. Sono strumenti potentissimi che, per essere utilizzati al meglio, richiedono moltissimo tempo e capacità.”
Si scopre anche, oltre all’estrema laboriosità del processo, un inevitabile prezzo da pagare per chi si accosta a questo tipo di scrittura. È l’autore infatti a spiegarci, tramite la nozione di “dataprint”, come i diversi LLM abbiano una loro “firma stilistica”:
“… ritmi e strutture identificabili che caratterizzano i testi generati da modelli specifici, indipendentemente dai parametri stilistici stabiliti nei prompt. […] È evidente che Il termine “voce”, spesso utilizzato per descrivere gli autori umani, costituirebbe un antropomorfismo inappropriato, ma ne ha un significato affine”
E qui sembra chiaro, senza voler forzare il pensiero di Floridi, che le illimitate possibilità narrative, legate prevalentemente agli aspetti compositivi nella costruzione dell’intreccio, determinino una perdita della “voce” autorale. Insomma, per quante ore di lavoro e prompt possiamo essere disposti a mettere in gioco, il modello pare resistere nel mantenere inalterata la sua “firma stilistica”. Non si tratta di un particolare secondario, perché i modelli disponibili sono in numero limitato. Il rischio di produrre nel tempo quell’uniformità nel linguaggio, paventata da James Hillman, appare a questo punto del tutto reale. Per quanto riguarda poi il monito del professor Keating, “Figlioli, dovete combattere per trovare la vostra voce”, se l’utilizzo di questi strumenti diventerà pratica comune, non è facile immaginare un futuro capace di raccogliere quel consiglio.
L’automazione del linguaggio, come abbiamo ricordato, è una pratica molto recente. È abbastanza normale, quindi, che i tentativi di descrivere questo processo risentano di quanto, nell’ambito del linguaggio e della scrittura, è avvenuto da sempre. Fa riflettere tuttavia la definizione di “scrittura ravvicinata” e “distante”. Il bisogno di attingere a metafore legate allo spazio fisico che ci circonda, per descrivere un processo che si sviluppa all’apice della rivoluzione digitale, ci avverte di quanto il tentativo di oggettivare il linguaggio, di spingere quindi al di fuori di noi qualcosa che in realtà intimamente ci appartiene, si scontri con l’inevitabile loop dell’autoreferenzialità. Paul Watzlawick, un autore che tanto ha dato agli studi sulla comunicazione, ha evocato magistralmente questa condizione titolando uno dei suoi migliori saggi: Il codino del Barone di Munchhausen. Non possiamo salvarci dalla palude in cui rischiamo di sprofondare, creando un esterno, che non esiste, a cui appigliarci.
Quale sarà il futuro di questi strumenti, che sono comunque destinati a generare grandi trasformazioni in una delle attività che hanno segnato la storia della nostra civiltà, è difficile dirlo. Il testo di Luciano Floridi immagina una marginalizzazione della scrittura tradizionale. Se è lecito affermare questo, non credo sia azzardato ipotizzare che anche la “vera” scrittura a distanza sarà un’attività riservata a una minoranza, e forse una conferma la troviamo proprio nelle parole dell’autore:
“C’è una narrativa che va demistificata. L’idea che basta spingere il bottone, in realtà è il contrario. È come mettere qualcuno senza patente di guida per un’automobile ordinaria in un’auto di Formula 1. L’automobile è potentissima, ma bisogna saperla guidare.”
A questo punto, lo scenario che si potrebbe delineare assomiglierebbe a una curva di distribuzione gaussiana, dove sia la scrittura tradizionale sia la scrittura a distanza diventerebbero fenomeni marginali. I grandi numeri si concentrerebbero attorno ai valori medi, rappresentati da coloro che utilizzeranno questi modelli limitandosi a formulare poco più che un singolo prompt, affidando tutto il resto alla macchina.
E ora, cercando di farsi perdonare per aver utilizzato una funzione di calcolo come metafora di un possibile sviluppo, è proprio al calcolo che dobbiamo tornare, per ricordarci che questo modo di guardare il mondo non può essere applicato a qualunque cosa. Trattare la produzione letteraria con il pathos di un entomologo di fronte a un coleottero trafitto dallo spillone, significa avviarsi a costruire un perfetto esempio di quella iperprosa, descritta da Edgar Morin, intenta a piegare il nostro destino in una precisa direzione.
Dove gli angeli non esitano più
“Quanto è difficile per noi restare umani, qualunque cosa accada? Nella notte più buia il linguaggio ci chiede di cosa siamo fatti”. Sono alcune delle parole pronunciate da Han Kang, in occasione del ricevimento del Premio Nobel per la letteratura nel 2024. Un invito a non scordarci mai di quale profondità può essere capace la scrittura. Il linguaggio, secondo l’autrice, ci collega gli uni agli altri: “La letteratura, che si fonda sul linguaggio, possiede inevitabilmente una sorta di calore corporeo. E, altrettanto inevitabilmente, leggere e scrivere letteratura vuol dire opporsi a ogni atto che distrugga la vita.”
Salvaguardare la parola, la scrittura, il linguaggio, come atti profondamente umani, non significa rifiutare la tecnologia, ma essere consapevoli di cosa andiamo a “toccare” quando ci accostiamo al linguaggio e al pensiero. Strutture profonde, complesse, di cui sappiamo ancora troppo poco. Essere stati capaci di manipolarle, ottenendo risultati pratici indubbiamente straordinari, non significa averle comprese.
Non sarebbe saggio avere più cautela e prudenza, interrogandosi sui possibili effetti su larga scala di questi strumenti? Esattamente l’opposto di quanto fatto da Sam Altman quando ha deciso di rendere disponibile la prima versione di ChatGPT (30 nov. 2022). Mossa astuta e cinica, perfetta per continuare a raccogliere gli enormi finanziamenti necessari. Non era difficile, infatti, prevedere il clamore e il potere seduttivo che il suo gioiello avrebbe generato: la macchina magica, capace di rispondere a qualunque domanda, che ti libera dalla fatica di pensare.
Per questa ragione il pensiero è andato a Gregory Bateson e a quel suo ultimo lavoro, uscito postumo attraverso il prezioso lavoro di sua figlia, Mary Catherine Bateson. Il titolo italiano, Dove gli angeli esitano, trasmette in questo caso meglio dell’originale Angels Fear, quel sentimento che Bateson descriveva accostandosi a quella “dimensione integrale dell’esperienza” a cui dava il nome di sacro. Era un terreno, come racconta la figlia nell’introduzione, a cui Bateson si avvicinava con grande trepidazione, consapevole di quanto fosse difficile trasmettere quella visione di “unità della natura” evitando le derive meccanicistiche da un lato e quelle soprannaturali dall’altro. Una saggezza contenuta nel verso originale di Alexander Pope, che ispirò quel suo ultimo lavoro e che racchiude anche lo spirito di questa nostra lunga riflessione:
“Ché gli stolti si precipitano là dove gli angeli esitano a posare il piede.”
Riferimenti Bibliografici
James Hillman, Elogio di Babele Università di Siena 17 novembre 1999
Günther Anders, L’uomo è antiquato Bollati Boringhieri 2007
Edgar Morin, Terra Patria Raffaello Cortina 1994
Luciano Floridi, Scrittura a distanza: la produzione letteraria nell'era dell'intelligenza artificiale
Paul Watzlawick Il codino del Barone di Munchhausen Feltrinelli 1989
Han Kang, Nella notte più buia il linguaggio ci chiede di cosa siamo fatti Adelphi 2025
Gregory Bateson, Mary Catherine Bateson, Dove gli angeli esitano Adelphi 1989
* Nessuna parola di questo testo è stata scritta o pensata con un LLM