Scatole nere esimenti. Le intelligenze artificiali alla luce delle scienze umane

C'è qualcosa nelle cosiddette Intelligenze Artificiali che non vogliamo vedere, per poter continuare a non vedere.

Ciò che non vogliamo vedere è chiaro alla luce delle scienze umane. Ma diventa oscuro se le scienze umane si inginocchiano di fronte alla cultura di cui quelle illusorie apparenze che ci siamo abituati a chiamare Intelligenze Artificiali sono il frutto più maturo.

Diversi passaggi della storia della scienza portano a questo infausto esito. Basta qui accennare brevemente ai principali.

Brevissima storia della cultura digitale

Leibniz, nella scia di Cartesio, invita a seguire la via della formalizzazione matematica. Il calcolo dovrà sostituire l'imperfetto linguaggio umano: ecco già deprivate le scienze umane, allo stesso tempo, di materiale d'osservazione e di linguaggi restitutivi: solo di ciò che è descrivibile in termine logico-formali è scientificamente rilevante.

Quo facto, quando orientur controversiae, non magis disputatione opus erit inter duos philosophos, quam inter duos computistas. Sufficiet enim calamos in manus suraere sedereque ad abbacos, et sibi mutuo (accito si placet amico) dicere: Calculemus!¹

Bertrand Russel tradusse così:

If controversies were to arise, there would be no more need of disputation between two philosophers than between two accountants. For it would suffice to take their pencils in their hands, to sit down to their slates, and say to each other, “Let us calculate”.

“Characteristica universalis”, così chiamava Leibniz questa algebra logica, questo linguaggio destinato a governare ogni ricerca scientifica.

A Russell piace tradurre pencil: lui i calcoli li faceva a mente e a mano. Ma Leibniz parla di abbacos, abbiamo tutti i motivi per intendere la parola latina non nel senso di 'tavolino', ma nel senso di 'tavoletta per calcolare': tavoletta coperta di polvere spostata secondo regole precise con una bacchetta.

L'immagine, rivista oggi, ci mostra dunque due tecnici informatici, entrambi esperti conoscitori delle macchine di cui ognuno di loro dispone, intenti a colloquiare tramite uno specifico linguaggio, agibile solo tramite la macchina. Solo ciò che è calcolabile è degno di essere preso in considerazione. E più precisamente: solo ciò che è calcolabile tramite una macchina è degno di essere preso in considerazione

Di fronte a questa assiomatica scelta, buona parte di quel campo che possiamo chiamare 'scienze umane' appare svalutato a priori, inteso come un perdersi in chiacchiere.

Accade però che la calcolabilità sia messa in discussione, nel 1930, da Kurt Gödel. Gödel dimostra che in ogni teoria matematica esiste una formula che non può essere dimostrata. Dunque, ogni descrizione di un sistema è incompleta. Il puro e perfetto linguaggio universale della scienza sognato da Leibniz non è base sufficiente ed esaustiva per la ricerca scientifica. "Nessun calcolo può decidere un problema filosofico", chiosa Wittgenstein.²

Ma ecco che allora subito, sei anni dopo Gödel, interviene Turing tappando la falla. La soluzione, ancora una volta, è logico-formale. Turing propone di sostituire alla calcolabilità la computabilità. Quale è la differenza? Si rinuncia scientemente a cercare e a dar valore ciò che non è calcolabile, contentandosi di ciò che è computabile. Cosa è computabile? E' computabile ciò che può essere "written down by a machine".

La macchina che Turing immagina è costituita essenzialmente da un programma - possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare. Viviamo oggi racchiusi in questa trappola. Siamo invitati ad accettare come immagine del mondo ciò che è visibile attraverso la computazione. Rinunciando a ciò che la computazione non riesce a vedere. Siamo anche invitati, tramite accurata propaganda, a dimenticare questo originario limite. Nel momento poi in cui si inizia a considerare confrontabili l'intelligenza artificiale -frutto più elevato della computazione- e l'intelligenza umana, i limiti della computazione finiscono per essere imposti a noi umani.

Un altro passaggio significativo verso quella cultura digitale che si riassume nell'immagine della trionfante immagine dell'Intelligenza Artificiale, e nella conseguente svalutazione delle scienze umane, prende le mosse da Darwin.

Ma è un darwinismo povero e duro: nell'evoluzione non sono ammesse biforcazioni, pause ed accelerazioni, non è ammesso che una specie sappia trasformarsi per adattarsi all'ambiente, e sappia adattare a sé l'ambiente. Così la storia umana, con la propria capacità di elevarsi sopra la natura trasformandola, deve essere necessariamente sminuita. La specie umana stessa non fa che eseguire un algoritmo già scritto, il codice che governa l'evoluzione. La storia si identifica con il progresso. Il frutto del pensiero umano è trasferito a macchine. Non conta chi pensa: è l'evoluzione che pensa sé stessa, il pensiero è ospitato di volta in volta dall'ente temporaneamente più evoluto.

Un terzo passaggio appare punto di incontro tra la via di Cartesio e di Leibniz, la via del Darwinismo ridotto a determinismo, e la via computazionale di Turing. Si arriva così a

neuroscienze, scienze cognitive, sociobiologia. Di fronte a queste discipline le scienze umane qualitative, empiriche, etnografiche, vicine alla storia e all'arte e alla letteratura, sembrerebbero sbaragliate.

Ed invece appare evidente come neuroscienze, scienze cognitive, sociobiologia non costituiscono certo le uniche vie attraverso la quale l'essere umano può essere studiato. Bisogna ricordare che neuroscienze e scienze cognitive non contemplano in realtà l'essere umano: separano la mente dal corpo, considerando in fondo, seguendo Cartesio, il corpo umano un'estensione irrilevante di una entità chiamata mente. Entità che però né scienziati né filosofi hanno saputo definire con precisione.

Bisogna anche ricordare che queste discipline si basano su una metafora fondativa: l'analogia tra mente umana e computer.

Accettata questa riduzione, l'osservazione e lo studio dell'essere umano sono svolte tramite schemi tali da permettere una parallela osservazione del funzionamento della macchina digitale. Si finisce così per descrivere l'intelligenza umana non osservando l'intelligenza umana, ma proponendo a priori categorie definite in modo tale da permettere di poter dimostrare che la macchina digitale è intelligente. L'intera epistemologia resta così chiusa in un approccio ricorsivo: guardo all'essere umano e vedo un computer.

Abbiamo sotto gli occhi la pletorica produzione di cultori di una sorta di neoscienza o neofilosofia dei tempi digitali, frutto dei passaggi sopra menzionati. Testi fondati sull'assunto che la Digital Disruption sia una discontinuità epocale, tanto da rendere vane le chiavi di lettura che risalgono al secolo scorso, e che non pongono il computer al centro della scena.

Possiamo chiederci: di fronte a tutto ciò, qual'è il compito della sociologia? Lo studioso, il ricercatore sociale, non è obbligato ad adottare necessariamente formalismi computazionali; non è obbligato a collaborare ad uno svilimento, ad una svalutazione di ciò che è umano.

Piuttosto che seguire i neofiti nel loro arrampicarsi sui vetri per affermare il concetto di agency, dove essere umano e macchina pari sono, conviene proseguire la strada delle scienze umane - dove è l'essere umano a studiare consapevolmente sé stesso. Conviene tornare alla storia delle scienze umane. Conviene tornare a leggere i testi classici.

E' sufficiente qualche esempio.

La luce dei classici

Erroneamente crediamo che ci sia tecnica solo dove c'è strumento o macchina.

Per capire il senso della tecnica dobbiamo partire invece dal modo con cui usiamo il nostro corpo. Il corpo è il primo strumento dell'uomo, o meglio: il primo oggetto tecnico.

Per questo dobbiamo tornare a leggere un testo chiave: la conferenza dettata da Marcel Mauss nel 1934: Les Techniques du corps.³

Mauss mostra che noi umani conosciamo ed usiamo tecniche pur senza saperle descrivere formalmente. Ci ricorda anche che tecniche universali imposte ad ogni cultura umana sono una forzatura. E ci fa riflettere su come tecniche siano imposte oggi in virtù di pura irrispettosa autorità, distruttrice di culture e differenze.

Siamo certamente di fronte oggi a sistemi socio-tecnici. Sistemi organizzativi dove esseri umani e macchine sono mutuamente implicati, strutturalmente accoppiati. Molto meglio di tanti testi recenti descrivono i sistemi sociotecnici le opere di autori ormai classici, eppure attualissimi.

Joan Woodward in Industrial Organization ci invita ad osservare le differenze tra una tecnologia e un'altra, ci mostra come da una specifica tecnologia nasce una cultura, ci ricorda che esiste una best way per trovare l'equilibrio tra sistemi tecnologici e lavoro umano.⁴

Ma innanzitutto, con la sua minuziosa attenzione per il lavoro sul campo, per l'osservazione partecipante nel singolo luogo di lavoro, ci ricorda che studiare un sistema socio-tecnico significa mantenere, nel momento in cui si osserva l'organizzazione complessa emergente dall'interazione umani-macchine non dimentica mai di essere umana. Non si vergogna di essere umana.

Nel gioco interattivo socio-tecnico parteggia per l'essere umano. Potrebbe sembrare ovvio; ma non lo è. Chi nei tempi digitali parteggia per l'essere umano è accusato di antropocentrismo.

Agli inizi degli Anni Sessanta del secolo scorso, agli albori dell’era digitale, ci si trova a dover dare un nome al codice tramite il quale il programmatore istruisce la macchina: ecco apparire il software. Di conseguenza si afferma il concetto di realtà virtuale, nel senso di realtà “non fisicamente esistente ma fatta apparire via software”. Si apre allora la stagione dei progetti di esperienze immersive proposte agli esseri umani come alternative alla loro vita reale. O come miglioramento dell'esperienza: si parla infatti di augmented reality: esperienze nelle quali, si sostiene, si arricchisce il mondo reale con informazioni percettive generate al computer.

Fiumi di pagine sono state scritte sull'argomento. Ma possiamo ben lasciarle da parte per tornare a riflettere, seguendo Peter Berger e Thomas Luckmann sulla Social Construction of Reality.⁵ L'essere umano "abita un mondo che per lui è 'reale', e 'sa', con diversi gradi di sicurezza, che questo mondo possiede tali e quali caratteristiche". Perché noi esseri umani e cittadini contribuiamo a costruire il mondo in cui abitiamo. La realtà è una costruzione sociale. Mentre le piattaforme e i metaversi che ci vengono offerti non sono frutto di costruzione sociale, sono frutto del lavoro, nel chiuso di un laboratorio, di tecnici, spinti oltretutto nella loro ricerca da committenti non certo disinteressati. Esiste dunque un progetto che Berger e Luckmann ci permettono di smascherare alla sua radice: la pretesa di 'esperti' di sapere, al posto degli esseri umani, cosa è meglio per loro. Il cittadino, il cui primo diritto in fondo consiste nella partecipazione all'edificazione del mondo in cui abita, è ridotto a mero utente di mondi già costruiti, regolati da leggi che l'abitatore è costretto ad accettare passivamente.

Immagini

Macchine che guardano dall'alto

Una pagina pubblicitaria apparsa in Germania nel 1933 mostra in perfetta sintesi, ancora del tutto attuale, le pretese implicite nell'Intelligenza artificiale.

Su uno sfondo grigio, un grande occhio osserva dal cielo le cose del mondo: esseri umani, sistemi sociali e socio-tecnici. La pupilla richiama l’ingranaggio di una macchina: oggi sarebbe stata disegnata in modo da richiamare l'immagine di un circuito integrato o di una rete neurale. Oggi, non a caso, al luogo-mai-detto in cui sono conservate le informazioni, ombre delle umane conoscenze, è dato il nome di cloud. L'occhio-nuvola guarda dall'alto il mondo, detta regole, controlla, governa.

All'immagine già di per sé inequivocabile si aggiunge la parola: Übersicht. Über: sopra, sovrastante, superiore. Sicht: vista, sguardo, chiarezza.

L'occhio illumina dal cielo il profilo di un enorme edificio, che può apparire al contempo sia il profilo di un insediamento urbano, sia il profilo di una fabbrica. A lato dell’edifico un’alta ciminiera spande fumo nel cielo, a significare fervente attività, totalmente amministrata dalla macchina. Dietro l’edificio e la ciminiera una scheda perforata, per dirci che l'occhio conosce e governa attraverso i dati. Unica differenza determinata dai novanta anni trascorsi è la potenza della macchina: al posto dei pochi dati che una scheda può ospitare sta oggi la sterminata massa di Big Data, frutto di osservazione costante della macchina sul mondo.

Si legge al piede dell'immagine: mit Hollerith Lochkarten. Per mezzo della scheda perforata della macchina Hollerith. Possiamo dire oggi: per mezzo dell'Intelligenza Artificiale fondata sui Big Data. Qualche breve cenno di storia mostra come questa rilettura -novant'anni dopo nulla è sostanzialmente cambiato- sia perfettamente motivata.

Herman Hollerith nasce nel 1860 a Buffalo, nello Stato di New York. Il padre è un emigrato tedesco. Herman studia ingegneria. Lavora al censimento del 1880. Il Census Office è in origine una organizzazione temporanea che si attiva ogni dieci anni, in occasione del censimento. Il giovane Hollerith ha di che riflettere. L’elaborazione dei dati del censimento, affidata al lavoro manuale di computisti addetti ad inserire i dati in tabelle, è destinata a durare anni.

Come Hollerith sa bene, le schede perforate vengono da lontano, sono in uso dalla fine del Settecento, e vantano già applicazioni di gran successo al lavoro di fabbrica: caso esemplare i telai Jacquard. Ma ora Hollerith trova il modo di utilizzare le punched cards per l’inserimento in tabelle -tabulazione- dei enormi masse di dati. L’8 gennaio 1889 il suo brevetto -una macchina tabulatrice elettrica- è ufficialmente registrato. Dal 9 dicembre 1888 le sue prime macchine sono istallate presso l’United States Department of War. Hollerith machines sono quindi usate per tabulare i dati del censimento 1890. 43 macchine permettono ai 500 addetti di svolgere in due anni il lavoro che avrebbe altrimenti richiesto sette anni.

Ci si rende presto conto che, così come la macchina Hollerith tratta i dati relativi ad una popolazione umana, può trattate i dati relativi ai clienti di una compagnia di assicurazione, e -via via generalizzando- i dati relativi ad un qualsiasi prodotto che entra ed esce da magazzini, così come i dati di un carro merci su una linea ferroviaria.

Macchine Hollerith fanno così il loro ingresso nel back office di grandi magazzini, aziende elettriche e del gas, industrie chimiche e farmaceutiche, acciaierie, compagnie petrolifere e, in particolare, nel trasporto ferroviario.

Nel 1910 Hollerith concede licenza dei suoi brevetti per la Germania a Willy Heidinger, commerciante di macchine addizionatrici, che fonda Berlino la Deutsche Hollerith Maschinen Gesellschaft, DeHoMaG.

Un anno dopo Hollerith vende la Tabulating Machine Company a Charles Flint, questi a sua volta la vende a Thomas J. Watson. Fusioni con altre aziende del settore portano nel 1924 ad una nuova denominazione: International Business Machines Corporation, IBM.

Thomas J. Watson, l’imprenditore che guida l’IBM, è anche Presidente dell’International Chamber of Commerce, ICC. D’accordo con Goebbels, fa in modo che il Nono Congresso dell’ICC -28 giugno-3 luglio 1937- abbia luogo a Berlino.

Alla seduta inaugurale partecipa Hitler, accompagnato da Göring e da Hjalmar Horace Greeley Schacht, Generalbevollmächtigter für die Kriegswirtschaft, Plenipotenziario Generale per l’economia di guerra.

L’ascesa al potere del Partito Nazional-Socialista ha reso fertile il terreno per le Corporation americane. La Standard Oil del New Jersey ha rapporti strettissimi con il trust tedesco IG Farben. L’Union Bank di New York è strettamente collegata con l’impero finanziario ed industriale del magnate tedesco dell’acciaio Thyssen. La Ford Motor Company Aktiengesellschaft monta in Germania dal ’26 la Ford T. Dall’inizio degli Anni Trenta sono solidamente insediate in Germania Du Pont, Union Carbide, Westinghouse, General Electric, Gillette, Goodrich, Singer, Eastman Kodak, Coca-Cola, ITT.

La DeHoMaG, filiale tedesca dell’IBM, non è quindi un caso isolato. Ciò che è diverso ed unico, è il prodotto-servizio che la DeHoMaG offre. Lo speciale ruolo delle macchine Hollerith è già chiaro quando sono passati pochi mesi dalla salita al potere di Hitler quando, il 16 giugno ’33, ha luogo in Germania un censimento.

La scelta delle informazioni da chiedere ai cittadini non è innocente. Si deve deve definire con chiarezza ogni dato che si intende raccogliere. Ma si tratta anche di temi tenici: definizione, raccolta e organizzazione delle informazioni, scomposte in unità elementari, in ‘dati’. servono per questo macchine dedicati e specialisti dotati di una nuova professionalità. Alla qualità, al dettaglio dei dati raccolti si aggiunge la capacità di incrociare e organizzare le informazioni. Servono macchine Hollerith, macchine per il controllo sociale.

IBM, di fronte alle accuse di aver contribuito in modo significativo all’organizzazione della repressione sociale condotta dallo Stato nazista, di fronte all’accusa di aver fornito un indispensabile supporto alla persecuzione razziale e alla gestione dei campi di concentramento, e infine allo sterminio di massa, prende le distanze: “Dehomag came under the control of Nazi authorities prior to and during World War II”. “IBM does not have much information about this period or the operations of Dehomag”. Molti documenti sono andati distrutti durante la guerra. Altri documenti, negli archivi centrali della Corporation, sono stati distrutti successivamente, perché giudicati ormai obsoleti.

Ma a noi resta una immagine: il codice numerico tatuato sul braccio degli esseri umani chiusi nei campi di concentramento nazisti è l'anagrafica unica che identifica l'individuo, inteso esclusivamente come un insieme di dati, nella memoria delle macchine Hollerith.

Il cognome di Thomas J. Watson di Watson, tra i pochissimi stranieri gratificati da Hitler con il Deutscher Adlerorden mit Stern, Ordine dell'Aquila Tedesca con Stella, torna di attualità in tempi recenti. Nei tempi dell'Intelligenza Artificiale. Come aveva profetizzato Alan Turing, nel 1997 Deep Blue, macchina IBM, sconfigge, in una partita a scacchi, il campione Garry Kasparov. Watson è il nome della macchina IBM di generazione successiva: è in grado, si dice, di rispondere a domande poste in linguaggio naturale. Siccome l'Intelligenza Artificiale serve ad educare il popolo, il gran successo di Watson consiste nello sconfiggere nel 2011 esseri umani di fronte alle telecamere in Jeopardy!, una sorta di Rischiatutto.⁶

Masse

Masse und Macht, Massa e potere, saggio che è una sterminata ricognizione sul potere. Si risale agli istinti dell'uomo primitivo, si ripercorrono le epoche per spiegarsi il senso di quelle masse che in quei giorni, negli Anni Venti, occupano le piazze, mosse da un'enorme forza, ma prive di guida.

Ma in realtà l'opera è frutto di osservazione partecipante. Di esperienza personale che segna in modo indelebile l'autobiografia.

A Francoforte, nel 1922, Elias Canetti, diciassettenne, osservava stupito passare i manifestanti.

Sono anni turbolenti e crudeli. Masse attraversano quel giorno la città in corteo, per ricordare l'assassinio del ministro Walter Rathenau.

Cinque anni dopo, a Vienna, partecipa lui stesso ad una imponente manifestazione. Si immerge nel calore della folla indignata. E' il 15 luglio 1927; cortei spontanei convergono verso il centro. Manifestanti pacifici e agitatori si confondono. Il Palazzo del Parlamento è strettamente presidiato dalle forze dell'ordine, non così il Palazzo di Giustizia, che viene incendiato. La polizia riceve l’ordine di sparare. Sarà una carneficina.

"Quel giorno tremendo, di luce abbagliante", ricorderà Canetti, "lasciò in me la vera immagine della massa, la massa che riempie il nostro secolo”.⁷ Non è il solo a restare segnato da quell'evento. Si trova immerso in quella folla anche un medico trentenne, psicoanalista ormai affermato, Wilhelm Reich. "Quel primo incontro con l'irrazionalità umana fu un immenso shock", scriverà molti anni dopo.⁸ Reich coglie con lucidità la contraddizione, lo scontro tra "la domanda emergente dal popolo" e "l'incapacità delle organizzazioni a risolvere i problemi". Suscita una enorme impressione in Reich l'atteggiamento delle forze dell'ordine. Automi dis-umani, robot al servizio del potere, gli occhi spenti, impersonali strumenti di repressione opposti all'umana folla vociante, preda di un delirio collettivo, ma calda, vitale.

In quello stesso anno esce nelle sale Metropolis - il film di Fritz Lang e Thea von Harbou.

Osserviamo nel film masse di lavoratori dagli occhi spenti che marciano compatti, senza speranze, lavoratori ognuno dei quali è forse un Maschinenmenschin, macchina-uomo, uomo ridotto a macchina, macchina indistinguibile dall'uomo.

A questo spaesamento sociale, risponde il partito che organizza, inquadra, militarizza le masse.

Settembre 1934. Raduno di Norimberga, dove quattordici anni prima il Nationalsozialistische Deutsche Arbeiterpartei, NSDAP, era stato fondato. Festa, cerimonia, e al contempo dimostrazione al mondo della propria forza. Ora la macchina propagandistica deve mostrare che Masse e Capo sono reciproci Ersatz, sostituti.

Conosciamo bene quei quattro giorni di esaltata retorica, di messa in scena di una pretesa unione mistica tra il Führer e l'avanguardia del popolo tedesco: gli iscritti al Partito Nazional-Socialista. Conosciamo bene le scenografie e le coreografie progettate da Albert Speer. Conosciamo perché tutto è raccontato in modo efficacissimo in Triumph des Willens, il Trionfo della volontà, il film di Leni Riefenstahl. Sta, per via di questo film, nel nostro immaginario l'immagine di masse non più confuse nel calore di un corteo di protesta, ma ormai ordinate in serrate file al di sotto dell'altare del potere, masse ridotte ad elementi di un'unica macchina. Masse uniformate dall'indossare un'unica divisa.

Il calore umano della folla mossa dall'indignazione, dalla scintilla della coscienza, che Elias Canetti e Wilhelm Reich percepivano sulla propria pelle, è rimosso. Gli esseri umani radunati dal partito nella grande spianata di Norimberga sono ridotti a simulacri. Sono ridotti alla propria ombra. Sono ridotti ai dati che li descrivono. Parliamo oggi di organizzazioni sociali data driven, parliamo di gemelli digitali di ogni cosa e di ogni persona.

Masse di popolo e masse di conoscenze digitalizzate si rispecchiano come guanti. Le nuove macchine Hollerith, le cosiddette intelligenze artificiali, sono comprensibili solo alla luce di questa storia - perché sono il frutto estremo di un progetto sociale e politico.⁹

Macchine per governare

Martedì 15 dicembre 1944, mentre è ancora in corso l'ultima offensiva tedesca nelle Ardenne, esce a Parigi il primo numero di un nuovo quotidiano, Le Monde. Nella nostra epoca, si legge nell'editoriale, i popoli sono immersi in un flusso di eventi dove gli esseri umani sono non solo spettatori, ma sempre anche attori. La vittoria militare non potrà bastare, serve una riconciliazione collettiva, la giusta condivisione di una responsabilità comune.

Quattro anni dopo esce sulla terza pagina del quotidiano un articolo a firma di P. Dubarle. Il titolo recita: Vers la machine à gouverner... I puntini di sospensione parlano di come il concetto dovesse sembrare ardito agli occhi degli stessi redattori. Gli altri elementi del titolo lo confermano. Nell'occhiello si legge: Une nouvelle science: la Cybernetique. Il sottotitolo è una domanda: La manipulation mécanique des réactions humaines créera-t-elle un jour "le meilleur des mondes"? Segue un breve sommario: Les premiers grands relais du cerveau humain - Le dépassement du système nerveux - Les processus de la pensée probabiliste - Vers le bonheur (?) statistique des masses. I temi che settant'anni dopo ci appaiono nuovissimi sono qui già pienamente annunciati.

La manipolazione digitale dei comportamenti umani. L'illusione di un mondo migliore. La felicità garantita ad un popolo ridotto a massa. L'intelligenza artificiale. Le neuroscienze. I modelli di simulazione. Gli algoritmi e l'analisi predittiva. Il tutto sintetizzato dal titolo: La Macchina per Governare.

Si tratta, almeno in apparenza, della recensione di un libro appena uscito a Parigi, in inglese, per l'editore Hermann & Cie: Norbert Wiener, Cybernetics. Or control and communication in the animal and the machine¹⁰.

L'autore dell'articolo è Dominique Dubarle, padre domenicano, filosofo, logico, cappellano dell'Union Catholique des Scientifiques Français. Cultore di studi cartesiani, era un fermo sostenitore della superiorità della “pensée calculatrice” su ogni altra manifestazione del pensiero. Per questa via padre Dubarle cercava l'“automatisation de la verité”, l'automazione della verità.¹¹

“Siamo solo assolutamente all'inizio della serie di possibili realizzazioni in questo senso", scrive Dubarle su Le Monde. Possiamo sperare di creare entro breve tempo macchine funzionanti ancor più velocemente, capaci di affrontare problemi molto più estesi e più complicati con mezzi materiali molto meno costosi di quelli delle macchine attuali”. “I primi grandi sostituti [relais] del cervello umano sono appena nati. Fatte le proporzioni sono così nuovi, così potenti rispetto ai consueti strumenti di calcolo quanto lo è un tornio automatico rispetto alla lima del fabbro”. “Queste creazioni sono ancora in piena infanzia. Ma i primi balbettamenti di questa tecnica nuova testimoniano già un evidente surclassamento delle capacità organiche del cervello umano ”.

Dubarle aggiunge un commento: “Il fatto è verosimilmente ancora più importante della conquista dell'energia nucleare e della realizzazione della bomba atomica”. Commento significativo, se ricordiamo che tutto questo è scritto nel 1948, anni in cui in cui la bomba atomica è il simbolo di ogni paura, di ogni timore sul futuro.

Rileggere oggi quell'articolo mostra la pochezza di ogni novità digitale. Si accumulano oggi pagine che celebrano l'avvento dell'Intelligenza Artificiale, pagine dove si discetta della superiorità della macchina rispetto agli esseri umani. Tutto era già stato detto da padre Dubarle. Si può anche aggiungere che pochi tra i nuovi profeti dell'Intelligenza Artificiale si sono spinti tanto avanti quando padre Dubarle sulla via dell'"automazione della verità".

"Macchine la cui costruzione si mostra talvolta già possibile, e talvolta realizzabile in un periodo di tempo più o meno breve”. Macchine per supplire ad un senso mancante, come permettere ad un cieco di leggere. Macchine per vagliare le informazioni, in grado di garantire l'accesso alla “totalità delle produzioni della mente”. Macchine per la gestione di servizi, come la gestione bancaria. Macchine da gioco: “si può concepire una macchina capace di giocare a scacchi meglio di ogni giocatore di medie capacità”.

“Tutte queste macchine”, spiega Dubarle, “hanno un carattere comune. Raccolgono dei dati”. A partire dai dati “lavorano metodicamente attorno ad un determinato problema” “fino a fornire una soluzione e, se necessario, eseguire ciò che tale soluzione prescrive”. Sintetizzando, “sono macchine per la raccolta e l'elaborazione di informazioni in vista di risultati sia di decisione che di conoscenza”.

Dubarle non manca di aggiungere che “queste macchine di tipo così nuovo”, “propongono [supposent] connessioni completamente nuove tra scienze che sembrano a prima vista molto lontane l'una dall'altra”; e allo stesso tempo “permettono di decifrare per analogia [...] i meccanismi di alcuni funzionamenti organici che sono alla base della nostra vita mentale”.

Solo a questo punto Dubarle inizia a parlare del libro di Wiener: “un libro straordinario, misteriosamente intitolato Cybernetics or control and communication in the animal and the machine”. Il libro di Wiener, insomma, non è che un pretesto per parlare di tutto ciò che sette anni dopo troverà un immaginifico nome: Artificial Intelligence.

Le conseguenze della recensione, infatti, sono singolari. Dubarle si era spinto molto oltre il terreno sul quale Wiener si sentiva sicuro. Dalla pubblicazione dell'articolo nacque uno scambio epistolare. Wiener dedicherà poi all'articolo grande attenzione nella seconda edizione di The Human Use of Human Beings, versione divulgativa di Cybernetics.¹² Wiener commenta: “Non c'è da temere che la machine à gouverner di Padre Dubarle possa raggiungere un controllo autonomo sull'umanità. È troppo rudimentale e imperfetta per avvicinarsi ad una millesima parte del comportamento consapevole ed indipendente [purposive independent behavior] dell'essere umano”.

“Il vero pericolo, ben diverso, consiste nel fatto che le macchine, sebbene impotenti da sole, possano essere usate da un essere umano o da un gruppo di esseri umani per aumentare il loro controllo sul resto della razza umana”.

Ecco riassunto con grande chiarezza il dibattito che oggi, settant'anni dopo, appare nuovissimo.¹³

C'è qualcosa nelle cosiddette Intelligenze Artificiali che non vogliamo vedere, per poter continuare a non vedere. Ciò che non vogliamo vedere è chiaro alla luce delle scienze umane. Ma diventa oscuro se le scienze umane si inginocchiano di fronte alla cultura di cui quelle illusorie apparenze che ci siamo abituati a chiamare Intelligenze Artificiali sono il frutto più maturo.

Un'altra epistemologia

Per capire il presente, conviene dunque affidarsi ad acute chiavi di lettura frutto del pensiero di cent'anni fa. Se oggi quel pensiero è stato dimenticato, o è stato inconsapevolmente imitato, in versione impoverita, da tanti studiosi che hanno creduto che di Intelligenza Artificiale si potesse parlare solo rimuovendo il passato - non siamo certo obbligati a seguire la loro strada.

Tra le tante chiavi di lettura, non abbiamo che l'imbarazzo della scelta. Mi limito qui a seguire quella suggerita da Sigmund Freud.

Die Traumdeutung, L’interpretazione dei sogni, datato 1900, esce alle stampe in realtà nel 1899; ma è datato 1900, per apparire come libro del Nuovo Secolo.¹⁴ Di questo saggio, ciò che qui ci interessa à la metodologia. Lo scopo che mi propongo è dimostrare che i sogni sono passibili di interpretazione [Deutung]. “Interpretare un sogno” è dargli il suo “senso” [Sinn], cioè sostituirlo [ersetzen] con qualcosa che si adatti pienamente come importante anello della catena equivalente dei nostri atti mentali. Freud in principio non sembra tanto lontano dall’affermazione cartesiana: “necessaria est methodus ad veritatem investigandam”.¹⁵ Si considera uno scienziato. Cerca Die Methode. Esplicita quindi il proprio metodo. Die Methode der Traumdeutung.

Freud sta tentando di affermare una Teoria Scientifica, ma si accorge che nessuna Teoria Scientifica a lui nota, o che lui possa essere in grado di edificare, è capace di definire in modo formale, cosa sia, in un sogno, il segno, e cosa sia il suo significato. "Le teorie scientifiche del sogno non ammettono un problema di interpretazione [Deutung]. (…) Diversa è sempre stata l'opinione dei profani, che si avvale del suo buon diritto a procedere incoerentemente e che, se pur ammette che il sogno è incomprensibile e assurdo, non sa tuttavia decidersi a negargli ogni significato [Bedeutung]".¹⁶

Come il Faust di Goethe critica le verità libresche e scolastiche, finendo per preferire l’avvicinamento alla conoscenza che passa per le occulte vie dell’esoterismo e dell’alchimia, Freud critica le ‘verità’ discendenti dalle teorie scientifiche, contrapponendovi le ‘verità’ emergenti dalla Laienmeinung, ‘opinione dei profani’. Potremmo anche dire: l’‘opinioni degli incompetenti’.

Dietro l’immagine vile dell’ignoranza popolare sta per Freud l’immagine di un’altra, nuova scienza. Una nuova scienza che guarda all’essere umano, corpo e mente, carne e storia, inteso come produttore, fonte di conoscenza. Freud, avendo esordito con propositi cartesiani, arriva presto ad attestarsi su un punto di vista opposto a quello di Cartesio. Dove Cartesio, cercando il rigore della logica, tentando di eliminare ogni fonte di disturbo, separa la mente dal corpo, la res cogitans dalla res extensa, Freud vede un’inscindibile unità.

E dove Cartesio si sforza di edificare la conoscenza come solida struttura, fondata su assiomi, Freud intravede la conoscenza in spurie, antiche credenze popolari.

"Ho dovuto rendermi conto che si tratta, anche qui, di uno di quei casi, non rari, in cui un'antichissima credenza popolare, tenacemente conservatasi, sembra essersi avvicinata alla verità delle cose più del giudizio della scienza che vige attualmente". L’‘opinione di profani’ guidata da una oscura congettura [Ahnung], sembra supporre che il sogno abbia un senso [Sinn], sia pure occulto, e che esso debba prendere il posto [Ersatze] di un qualche altro processo di pensiero, e che, per accedere al significato [Bedeutung] occulto dei sogni, non dobbiamo far altro che scoprire in modo corretto la sostituzione".¹⁷

Alla luce di ciò che Freud riesce sia pur a fatica a vedere, la veglia rigorosa dei matematici dediti al calculemos -da Leibniz in poi¹⁸- cessa così di apparirci come il luogo eletto della produzione di conoscenza. Più vicini alla conoscenza gli esseri umani apparentemente privi di metodo, intenti a vivere le proprie esperienze.

"Che tutto il materiale di cui è composto il contenuto del sogno è in qualche modo derivato dall'esperienza, e che ciò è riprodotto o ricordato nel sogno - almeno questo dovremmo considerarlo come acquisizione [Erkenntnis] incontestabile". Erkenntnis può stare per ‘ammissione’, ‘acquisizione’, ma anche per ‘conoscenza’. Erkenntnislehre sta per epistemologia, teoria della conoscenza, Metodo.

Più il modello è rigoroso, più materiali importanti, forse i più importanti, saranno inevitabilmente scartati. Per la logica formale e per il suo ultimo figlio, la computazione, non conta la fonte, conta il puro codice. Non conta la ‘produzione di senso’, conta l’astratta ‘informazione’. L’informazione prescinde dall’essere-umano-mente-corpo-carattere. Esiste esclusivamente in virtù del rispetto delle regole che governano il codice. La computazione riduce l'umana conoscenza a pura informazione. Le Intelligenze Artificiali, ultima manifestazione della computazione, si nutre di dati, pura informazione, appunto.

Cartesio ci invita a guardare solo ciò che appare chiaro e netto: di qui alla computazione non c'è soluzione di continuità. Conosciamo bene l’Erkenntnislehre, l’epistemologia di Cartesio, Leibniz e dei computer scientist. Una enciclopedia del sapere redatta dai Massimi Esperti di Ogni Disciplina. Una biblioteca che contiene solo i Libri Importanti. Una organica Weltbild, visione del mondo. Anzi, una Wissenschaftliche Weltauffassung, Visione Scientifica del Mondo. Sistemi ben strutturati, escludenti ogni oggetto spurio; database assoggettati a un modello dei dati - dove in base ad assiomi si è eliminata ogni contraddizione, e gli elementi contenuti sono dichiarati per definizione veri.

Il progetto si completa quando la sua esecuzione è affidata ad una macchina costruita apposta, una Intelligenza Artificiale. Una macchina per dare risposte che eludono i dubbi e e le domande che veramente ci toccano nel profondo. Una macchina la cui stessa presenza simbolica educa al rifiuto dell'introspezione: evita il faticoso lavoro di guardarsi dentro, di scavare nelle immondizie dei nostri difetti, delle nostre imperfezioni.

Freud ci indirizza verso una opposta Erkenntnislehre. Il pensiero computazionale maneggia informazione. Roba ben diversa è “was den Trauminhalt zusammensetzt”, il materiale ammassato nel contenuto del sogno, “auf irgend eine Weise vom Erlebten abstammt”, derivato dalla personale esperienza. Freud ci porta oltre le informazioni ben codificate. Ci invita a guardare tutto. Alles Material. Accettando che i materiali si mostrino a noi rimaneggiati in modo strano, in un modo che elude le chiavi di lettura già note. Ci die con forza Freud: proprio in questi materiali risiede -sia pur nascosta dietro simboli ed elaborazioni, velata- la conoscenza.¹⁹

Contro la forma, l'informalità; contro ogni Gelstalt, la Bildung; contro l'esattezza la complessità e la narrazione. Alla ricerca di pagliuzze d'oro di conoscenza nei nei materiali spuri che pure contengono le pagliuzze d'oro della conoscenza.

Vale la pena di ricordare che a guidarci lungo questa strada non saranno, secondo Freud, i professionisti della costruzione di informazioni codificate, validate per confronto, come diceva Alan Turing, con un Book of Rules, non saranno i chierici, gli scienziati di varie specializzazioni, sono piuttosto le ‘persone del popolo’, che senza problemi danno credito ai sogni. Disposti a cogliervi dunklen Ahnungen, ‘oscuri presagi’, ‘oscure congetture’. Non è questo il luogo per addentrarsi nei meandri della letteratura sociologica, ma è chiaro che questi moniti ci indirizzano verso la sociology of belief, la sociologia della conoscenza, la sociologia delle religioni.

Naturalmente, poi, va in questa direzione la narrativa, ed in particolare quella narrativa che chiamiamo Science Fiction, o fantascienza.

Si possono cogliere notevolissime corrispondenze tra ciò che scrive Freud ed il modo in cui Philip K. Dick descrive il materiale accumulato nei suoi romanzi.

Sono attratto dal trash, come se l'indizio -l'indizio- risiedesse lì. Sono sempre impegnato a frugare in punti ellittici, entro strane angolazioni. Ciò che scrivo non ha un senso perfettamente compiuto. (...)

Ci sono divertimento & religione & orrore psicotico disseminati qua e là come mucchi di cappelli. C'è anche una piega sociale, o sociologica, più che una verso le scienze complesse. (...)

Visto che nulla, assolutamente nulla, viene escluso (in quanto non degno di essere incluso), io offro un'enorme borsa disordinata – nella quale mischio porte che si aprono con delle monetine & Dio. E' una specie di fottutissimo circo. Io sono come un corvo dalla vista aguzza, che spia ogni cosa che luccica & la afferra, per aggiungerla al proprio mucchietto. (...)

Sei ottuso, se non cerchi Dio nella spazzatura di una fogna, invece che in Paradiso.”²⁰

Il Web come fonte di conoscenza

Alan Turing, il campione della epistemologia logico-formale che porta alla computer science classica, nella fase finale della propria ricerca e della propria vita, nel 1950, si chiede: Can machines think? E definisce così l'obiettivo della computer science, che cinque anni dopo prenderà il nome di Artificial Intelligence.²¹ Ma cinque anni prima, nel 1945, Vannevar Bush, cercando utilizzi civili alla ricerca bellica, e cercando allo stesso tempo di esaltare la figura del ricercatore, aveva rovesciato in anticipo la domanda di Turing, guardando a noi esseri umani, e chiedendosi As We May Think,²² come potremmo pensare con l'ausilio di una macchina personale progettata per accompagnare ognuno nella costruzione di conoscenza.

Di qui nasce il filone di ricerca che porta al Personal Computer, a Internet, al World Wide Web.²³

Ora, possiamo osservare come il Word Wide Web sia proprio quell'accumulo di materiali grezzi, ridondanti, anche sporchi, anche volgari, materiali tenebrosi, inquietanti, ma profondamente vitali, di cui ci parlano Freud e Philip Dick.

Possiamo dire che il Web è l’inconscio. Inconscio collettivo.

Cent’anni dopo le scoperte freudiane, all’inizio del Ventunesimo Secolo, tramite quello stesso codice digitale offerto dal pensiero computazionale, erede del logicismo; proprio tramite i computer, macchine nate nel quadro del progetto logicista, abbiamo accesso allo sconfinato, sinistro, perturbante, spaesante -ma enormemente ricco- World Wide Web. Nel World Wide Web è impossibile separare nettamente le ‘credenze’ dalle ‘verità’. Ci muoviamo nella sterminata Rete privi di certezze, mossi, nella nostra ricerca di conoscenza, da dunklen Ahnungen, oscure congetture.

Il muoversi seguendo oscure congetture è il modo per portare alla luce quella conoscenza che la logica formale e le procedure del computing scartano, per la loro disconformità rispetto a schemi definiti a priori. Lo scrutare di ognuno nel Web, con l’ausilio di un motore di ricerca, ci appare come felice metafora della libera ricerca di conoscenza. Un processo collettivo e allo stesso tempo una ricerca di sé stessi.

Motore di ricerca

Non più macchine che sorvegliano dall'alto, e tutto amministrano. Non più macchine che riducono il cittadino ad insignificante elemento di una massa. Non più solo informazioni ben strutturate gestite da tecnici specializzati. Il Web ci propone un'altra immagine: brandelli disordinati di storie personali, un'accozzaglia di detriti prodotti da tentativi di ricerca.

Per questo il motore di ricerca è lo strumento centrale, il punto chiave del processo. Il simbolo.

L'essere umano si affaccia sullo sterminato insieme di testi scritti da altri esseri umani. Lì c'è la conoscenza. Ma come portarla alla luce. La tecnologia del motore di ricerca è in origine molto semplice, e totalmente al servizio dell'essere umano che cerca.

Scrivo una parola, una frase, nella finestra di ricerca. Quella parola, quella frase, è cercata in tutte le pagine Web che la contengono. L'intervento della macchina è un puro prolungamento dell'intenzione umana, una espansione dell'intenzione oltre confini altrimenti invalicabili. I testi prodotti da essere umani, ritrovati da altri esseri umani, diventano materiali per la costruzione di nuovi testi.

Aperto il baule dell'inconscio collettivo, tramite la macchina è possibile una altrimenti inattingibile produzione sociale di conoscenza. Produzione e ri-produzione continuamente emergente, sempre nuova nel presente, nell'istante in cui gli esseri umani costruiscono il futuro.

Il motore di ricerca ci offre insomma l'immagine dell'essere umano costruttivamente affacciato sull'oscuro, un oscuro che, sia pure attraverso incerte congetture, diventa sondabile tramite la macchina. E' la risposta all'Übersicht, all'automatisation de la verité, alla machine à gouverner, alle masse umane irreggimentate, all'affidamento ai dati, che non sono che tracce del passato.

Tutto questo non poteva essere accettato. L'ordine doveva essere restaurato.

Restaurazione

Il primo passaggio della restaurazione consiste nel depotenziare e svilire il motore di ricerca. Fino a rovesciarne il senso.

La pagina Web è scritta in Hyper Text Markup Language, HTML. L'HTML nasce per permettere a noi umani di scrivere e leggere così come siamo abituati a fare. L'HTML si limita ad aggiungere al testo scritto da un qualsiasi essere umano marcature tese a permettere la conservazione della pagina, la connessione tra pagine, la visualizzazione delle pagine sullo schermo.

Così era in origine, nei primi anni del World Wide Web, nell'ultimo decennio del secolo scorso. Via via, le pagine sono invece via via riempite di marcature, leggibili solo ai tecnici, destinate ad influire sul funzionamento del motore di ricerca. Il testo scritto dall'essere umano nella pagina passa in secondo piano. Quando scriviamo una parola nella finestra del motore di ricerca, la macchina non si limita, come in origine, a mostrare le pagine che contengono quella parola. La macchina restituisce invece le pagine che una programmazione ignota a chi sta cercando decide che devono essere viste.

La libera ricerca è condizionata da una serie di presunzioni. La prima è che se cerco oggi vengo ributtato sui risultati delle mie ricerche precedenti. La seconda è che, quale che sia la parola che scrivo nella finestra di ricerca, quali che sia il mio pensiero in quell'istante, quali che siano le intenzioni che mi muovono, sarò obbligato a vedere pagine abilmente programmate per apparire sotto i mei occhi.

Il passaggio dal mero puntamento a pagine che contengono la parola cercata al filtrare qualsiasi ricerca attraverso procedure ignote all'essere umano che usa la macchina ha un enorme rilievo politico e sociale.

Nella storia dell'informatica, storia di macchine per controllare e sorvegliare, di macchine per governare, il Web, che offriva ad ogni cittadino spazi di autogoverno, era l'eccezione. Il Web resta, ad una prima apparenza, lo stesso Web delle origini. Ma si è via trasformato nel suo contrario.

Distruggono la funzione originaria: rendere possibile la costruzione sociale di conoscenza, diviene una macchina per imporre falsa coscienza, per imporre adeguamento a un pensiero dominante imposto da élite.

Al posto dell'azione possibile ad ogni essere umano, ogni cittadino, sta ora una procedura: sequenza di passi definita a priori, eseguita autonomamente dalla macchina. Non è inutile ricordare che la parola procedura ha un sinonimo. Il sinonimo, una parola più nuova ed esoterica, occupa un posto centrale nel lessico che accompagna l'avvento delle cosiddette 'intelligenze artificiali': algoritmo.

Intelligenze Artificiali Generative

Dobbiamo ancora elaborare il lutto per la perdita del Web come inconscio collettivo; e per la sottrazione del motore di ricerca come finestra sull'umana conoscenza. E già ci troviamo di fronte ad un radicale aggravamento di questa sottrazione. Le cosiddette Intelligenze Artificiali Generative²⁴ -il cui definitivo avvento possiamo datare con precisione tra la fine del 2022 e la metà del 2023- non sono in fondo che una prosecuzione, con più efficaci mezzi, dell'Übersicht, dell'automatisation de la verité, della machine à gouverner. Infine, della sostituzione dell'umana conoscenza -un processo che parte dall'essere umano e torna all'essere umano- con pura informazione: massa di dati separati dalla fonte, resi anonimo.

Il motore di ricerca permetteva di affacciarsi sul Web, uno spazio psichico e sociale frutto di agire e pensare umano. Con l'Intelligenza Artificiale Generativa questo spazio psichico e sociale torna ad essere negato. L'informatica, nata come mezzo per il controllo sociale, torna, dopo la stagione libertaria che offre Personal Computer, Internet e Web, torna a riannodare i fili del filone principale della propria storia.

La sbandierata novità consiste in fondo solo in questo: una porzione casuale di ciò che il Web contiene è arbitrariamente estratta ed affidata ad una organizzazione interna regolata da algoritmi. Una porzione il cui criterio di scelta è: 'il più grande possibile'. Conta esclusivamente la quantità; la massa indistinta. La qualità è considerata ininfluente ed inutile. Le fonti dei dati sono considerate irrilevanti. La storicizzazione -il momento in cui il dato è stato generato- è considerata priva di rilievo.

La bontà, il valore delle risposte fornite dalla macchina è affidata all'interazione tra due sole variabili: la quantità dei dati ed il lavoro degli algoritmi.

Si tratta dunque di una scatola nera, le cui logiche interne -così prevede il progetto- sono destinate a restare occulte agli stessi progettisti del sistema. Infatti il vanto del progettista consiste nell'addestrare la macchina a superare quel punto oltre il quale essa prosegue da sola, autosupervisionandosi, il proprio addestramento.

Gli esseri umani sono invitati a chiedere alla Intelligenza Artificiale Generativa risposte ad ogni domanda. Fin al punto che, si afferma, se la macchina non è in grado di rispondere, o fornisce risposte errate, ciò è dovuto ad un errore degli umani, incapaci di porre le domande corrette nel modo corretto. L'Intelligenza Artificiale Generativa, immaginifica espressione, è un pallido velo che nasconde un'informatica strumento di dominio e di repressione istintuale.

Ciò che avremmo potuto vedere, ciò che in quanto cittadini responsabili dovremmo cercare di vedere, la macchina ci impedisce di vederlo: il Web era deposito a cielo aperto, potremmo anche magari dire: era una discarica di immondizie. Ma era un luogo nel quale gli esseri umani potevano, con propri mezzi, offrire, conservare, cercare e trovare. Accogliere i ritrovati o scartarli. L'Intelligenza Artificiale Generativa, al contrario, è una macchina cieca che fornisce risposte a scatola chiusa; perché è, ripetiamolo, è una scatola nera.

Non sembra essere certo casuale la scelta di offrire gratuitamente ad ogni cittadino del pianeta, come prima pedagogica dimostrazione del funzionamento dell'Intelligenza Artificiale Generativa il Chatbot, il robot che risponde ad ogni domanda. Ma il disegno strategico più complessivo, ben più vasto, è già chiaro: si vuole che l'Intelligenza Artificiale Generativa diventi l'interfaccia universale attraverso la quale, in un vicino futuro, i cittadini-utenti dovranno passare per accedere ad ogni programma software, ad ogni funzione offerta dal computer o dallo smartphone.

Parziale ma già indicativo esempio di come la cosiddetta intelligenza artificiale limita di fatto le scelte umane è la presenza, a partire dal marzo 2023, di un Co-pilota nel software Microsoft. La condizione necessaria per poter 'assistere' l'essere umano nel suo libero uso del computer è osservare ogni sua mossa, e possibilmente anche anticipare e condizionare le sue intenzioni. Si presenta in questa situazione un grave interrogativo: chi è il decisore in ultima istanza?

Inutile soffermarsi oltre su aspetti tecnici: il farlo sarebbe un omaggio immeritato alla cultura STEM. Le scienze umane hanno il diritto-dovere di osservare invece la scena con il proprio sguardo. Ad uno sguardo sociologico appare evidente che nel mentre i progettisti, con grande ipocrisia, affermano di preoccuparsi di 'aiutare l'essere umano', in realtà gli strumenti offerti sotto il nome di Intelligenza Artificiale comprimono gli spazi di libertà e limitano il libero arbitrio.²⁵

Turing come essere umano

Uno sguardo sociologico porta a constatare che la scienza non è neutrale, e che il suo 'provare la verità' non è che un tentativo. Possiamo anzi dire che lo scienziato non è e non deve essere neutrale. Se ciò è vero per lo scienziato, è vero in ancor maggior misura per il tecnologo, il particolare per il tecnologo digitale.

A completamento, va sgombrato il campo dalle comode letture darwinistiche dell'innovazione tecnologica. Non esiste nessuna deriva evoluzionistica che porta a depotenziare l'essere umano a favore di macchine. La tecnologia si evolve in una o in un'altra direzione a causa delle azioni dei ricercatori e dei loro finanziatori.

Né vale come alibi il dire: agli scienziati e tecnici compete fare ricerca; degli usi della ricerca dovrà occuparsi la politica.

Perciò serve osservare con attenzione il contesto storico e sociale nel quale vivono ricercatori e progettisti; e serve collocare il lavoro di ricerca e sviluppo nel quadro delle storie di vita di esseri umani chiamati, come ognuno, ad essere responsabili delle proprie azioni.

Dobbiamo quindi chiederci: perché progettiamo e costruiamo macchine che esimono gli esseri umani dall'assumersi responsabilità? La risposta sta nella storia di vita del progettista.

Alan Turing era un bambino, un adolescente, un giovane adulto solo e incompreso. Suo padre considerava inaccettabile, per il suo status di funzionario imperiale, tenere con sé in India il bambino, che crebbe quindi in Inghilterra presso tutori. Sia la madre, sia il fratello, di pochi anni maggiore, scelsero di non vedere la sua omosessualità. In collegio si innamora di un compagno, che subito muore tragicamente.

Il giovane Alan pensa: non trovo affetti, comprensione, rispetto negli umani. Io stesso fatico a provare autostima. Preferisco agli artefatti linguaggi umani il puro linguaggio della matematica. Preferisco stare in relazione con macchine. Preferisco immaginarmi come macchina tra macchine. Preferisco considerare i pregiudizi di cui sono vittima come errori sistematici, errori di una macchina. Quale macchina?²⁶

Tutta la sua vita e la suo opera sono segnate dalla ricerca di una macchina che sappia essere sostituto dell'umano. E finalmente, nel 1950, in Computing Machinery and Intelligence²⁷ si chiede esplicitamente: possono le macchine pensare? Esamina le opinioni contrarie per arrivare ad affermare che sì, le macchine possono pensare. Il legame con il suo primo articolo è evidente: Turing invita a preferire le macchine a sé stessi. Nella conclusione esplicita la motivazione personale della sua ricerca, della sua speranza. Scrive proprio: We may hope, I hope, spero che le macchine pensino al posto degli umani. Se gli umani hanno pregiudizi, possiamo sperare che le macchine digitali, i computer, non ne abbiano. L'articolo è un testamento. Nel 1954 Turing, disperato, vilipeso, tradito, deluso dagli umani, muore suicida.

Muore avvelenandosi con una mela. Ed in fondo il dono che ci ha lasciato è un dono avvelenato. Una macchina del cui funzionamento poco dovremmo interessarci, accettandola come scatola nera. Una macchina che toglie al posto nostro le castagne dal fuoco, una macchina che offre una via di fuga, una macchina per lavarsene le mani, che subdolamente ci propone di non farci carico delle nostre responsabilità.²⁸