Un aspetto del dibattito sull’intelligenza artificiale, aspetto ormai saturo, è sempre stato quello intorno al domandarsi se mai l’IA possa avere una coscienza. Alcuni addirittura sostengono che l’abbia già. Da qui il conseguente dibattito su conseguenze e pericoli che ciò potrebbe avere.
Con questo articolo vorrei invece spostare l’obiettivo su un aspetto ancora più importante dell’avere o meno una coscienza ovvero quello relativo alla sensibilità culturale e interculturale. Si può ovviamente sostenere che quest’ultima derivi dall’avere una coscienza e questo ragionamento ci può stare. Ma poiché non stiamo parlando di esseri umani ( a molti dei quali, per inciso, la sensibilità fa peraltro difetto) ma di macchine, vorrei tenere i due aspetti separati. In altre parole: ammesso e non concesso che un LLM o un’IA possa avere un giorno una coscienza, io sostengo che non potrà mai avere una sensibilità (inter)culturale e quindi non potrà mai diventare “umana”. E perciò è opportuno interrompere da subito il consultare, ad esempio, chatbot per traduzioni da altre lingue oppure spiegazioni su qualche argomento in particolare e anche smettere di pensare che in un futuro prossimo utilizzeremo robots per la cura delle persone o altro. Per carità, che si continui pure a farlo ma si sappia che non porterà a nulla tutto ciò, se non ad una profonda alienante solitudine nichilista. È più saggio dismettere l’antropomorfismo dell’IA.
E perché queste tecnologie non avranno mai questa sensibilità? Perché la sensibilità serve a tradurre e interpretare la realtà, la quale, per sua natura, cambia costantemente e varia a seconda dei soggetti che vi interagiscono, mentre queste macchine impongono una realtà standardizzata, omologata, oggettiva (ma non neutrale) solo rispetto a stereotipi, pregiudizi e generalizzazioni culturali di matrice occidentale. Si vuole scientifica mentre è solo probabilistica. L’IA automatizza la realtà che l’ha nutrita. La “lingua” dell’IA poi è una lingua modellata su un preciso calco che può rappresentare al massimo la realtà da cui emerge, ossia quella occidentale americanizzata ossia anglofona. Ma è solo quella e non tutta la realtà del mondo! Sul resto della quale ha invece delle lacune enormi. La competenza vera, e non quella che si richiede all’intelligenza artificiale, è una performance collocata nel mondo, è azione sociale condotta con la lingua che legge la realtà circostante come si presenta in quel preciso momento.
Insomma, tanto per cambiare qui si tratta di colonialismo, in una sua versione che prende il nome di tecno-colonialismo. Un esempio vergognoso di questo riguarda l’implementazione di tutte queste tecnologie (compresi i dati biometrici) per affrontare la questione migratoria ai confini con il sud globale, dove i migranti vengono essenzialmente schedati e usati come cavie ma soprattutto dove queste tecnologie non possono “leggere” la differente realtà di ogni migrante (background culturale, sociale, politico ecc.) perché mancano appunto di sensibilità interculturale. Lasciando stare complicate questioni politiche, basta anche solo pensare a come ognuno di noi è stato colonizzato e “occupato” da un esercito digitale. Io non ricordo infatti che qualcuno abbia bussato alla mia porta per chiedermi se volessi o non volessi queste tecnologie e il loro controllo, sui miei dati tanto per dirne una. Voi? Me le sono ritrovate già pronte e imposte. L’unica libertà che abbiamo è naturalmente la scelta di usarle oppure no ma va da sé che questi usurpatori hanno avuto mano libera nel creare un sistema coercitivo che ne impone l’utilizzo, pena l’esclusione. Una forma di schiavitù bella e buona dove ad essere in catene non sono i nostri polsi ma la nostra mente. Chi sarà il nostro William Wilberforce?
L’IA impone se stessa uguale in tutto il mondo a scapito di tutte le sfumature e le differenze culturali e sociali che esistono e che non potrà mai tradurre perché manca di sensibilità che solo un essere vivente può sviluppare. È un colonialismo epistemico.
Chi si rivolge a un LLM o simili non potrà ma avere un apprendimento significativo perché quest’ultimo deve essere basato sull’esperienza; deve comportare una partecipazione globale della personalità del soggetto; deve essere automotivato; deve essere valutato direttamente dal soggetto. E dove la diversità è un punto di forza. Tutti aspetti che mancano a queste tecnologie (e come potrebbe essere altrimenti?).
Ciò che si vede dipende da come si guarda disse qualcuno ma se lo sguardo è sempre il solito, intriso di preconcetti numerici diventa uno sguardo vuoto e cattivo.
Nella vita quotidiana siamo più visti che ascoltati ma se si perde la capacità di guardare come possiamo tradurre la realtà? Guardare uno schermo non è la stessa cosa anche perché molto spesso quello che lo schermo restituisce è materiale preconfezionato, e ciò che viene dato per scontato può ostacolare o rendere difficile la comunicazione. Lo sguardo interculturale invece è uno sguardo prima dentro se stessi. È guardare se stessi mentre si guarda l'altro cercando di vedere entrambi dalla medesima distanza. L’altro inteso come persona e non come schermo.
Cultura è saper organizzare la realtà che, come detto in precedenza, cambia costantemente. Cultura non può essere rigurgitare il già noto oppure offrire traduzioni automatiche in tutte le lingue del mondo senza avere nessuna comprensione del contesto culturale e sociale di ciò che si vuole tradurre.
Anche in presenza di una coscienza, l’IA non sarà mai umana perché mancherà sempre delle ABILITÀ RELAZIONALI ossia il saper osservare, le capacità di straniamento e decentramento (un terzo punto di vista che ci guarda), il saper sospendere il giudizio, il relativizzare se stessi, il saper ascoltare attivamente, il saper comprendere e comunicare emotivamente, il saper negoziare i significati. Un robot non saprà mai gestire la dimensione affettiva, la dimensione linguistico-cognitiva, la dimensione metacognitiva, la dimensione culturale-interculturale, la dimensione socio-relazionale. Il suo non essere mai umana è sicuramente una grossa preoccupazione perché mancando di tutte quelle abilità, non avrà scrupoli ad eliminare ciò che non riconosce, cioè noi. Purtroppo bisogna dire che anche tanti umani stanno perdendo questa sensibilità perché stanno ciecamente andando dietro a queste tecnologie. È una follia che andrebbe fermata. Pensiamo solo al linguaggio o al pensiero. Ci sono già milioni di persone che parlano e pensano usando la lingua fintamente neutrale dei chatbot. La imitano più o meno inconsciamente. Individui che dimenticano la consapevolezza che la lingua non è solo comunicazione ma è soprattutto conoscenza, rappresentazione, interpretazione, espressione di sè e del mondo. Individui che si appiattiscono e mortificano l’umano perché non capiscono che la competenza è una realtà mentale e comprende le grammatiche che generano la comprensione e la produzione linguistica ed extralinguistica e sviluppano vari tipi di conoscenze: linguistiche, extraverbali, pragmalinguistiche e interculturali.
Ultimamente hanno parlato di un umanoide che avrebbe battuto il tempo di Bolt sui 100 metri. La prima reazione è stata: E ALLORA??? Cosa volevano dimostrare? Che le macchine sono più veloci di noi? E ALLORA??? L’ho trovato patetico. Ci stanno preparando alle olimpiadi del futuro in cui gli esseri umani bivaccheranno pigri e pingui davanti alla tv a vedere atleti robotizzati competere nelle varie discipline? Atleti che non manifesteranno nessuno dei sentimenti che accompagnano lo sport ovvero delusione, eccitazione, rabbia, consolazione, rispetto ecc.?
Nello stucchevole dibattito sulla tecnologia, quelli che continuano a dire che ogni rivoluzione tecnologica del passato ha avuto a che fare con luddisti e critici mi fanno pena perché a loro sfugge un fattore fondamentale che il grande Emanuele Severino aveva già messo in evidenza molto tempo fa nei suoi scritti: la trasformazione della tecnica da mezzo a fine. Anche treni, macchine e aerei vanno più veloci degli esseri umani ma quelli sono esempi di progresso tecnologico come mezzo. Ho invece l’impressione che oggi la tecnica/tecnologia sia diventata il fine e l’essere umano il mezzo, con il conseguente rischio della sua estinzione.
Un algoritmo non potrà mai comprendere a pieno un essere umano. Trovo di una violenza sconvolgente il fatto che ci si provi o il fatto che qualcuno crede che sia possibile. Se non interveniamo subito, ci ritroveremo espulsi.