Superumani, Cyborg o semplicemente: umani

Nel marzo 1993 si tiene a Westlake, Ohio, un convegno organizzato dalla NASA (National Aeronautics and Space Administration): Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace.¹ Geoffry Landis, ingegnere spaziale della NASA e al contempo scrittore di fantascienza e poeta,² scrive, introducendo gli Atti dell'incontro: “La nostra ricerca deve sfociare in un progetto sul mercato entro tre anni, altrimenti rischia di essere cancellata. Ma è anche importante... pensare oltre la prossima generazione e al futuro. Per incoraggiare la visione nel Ventunesimo Secolo”. Landis è anche autore della poesia posta ad apertura degli Atti, Into the era of Cyberspace, che inizia con questi versi: “I nostri robot ci precedono/ con una diversità infinita/ esplorando l'universo/ deliziandosi della complessità”.³ Non a caso Landis parteciperà poi, a partire dal '96, a progetti di esplorazione di Marte fondati sull'uso di robot semoventi.

Cyber

Il convegno è tappa di un percorso giù stabilito. Nel 1960 l'Air Force School of Aviation Medicine supporta la NASA nel preparare l'essere umano per la sopravvivenza nello spazio extraterrestre. Nell'ambito di queste ricerche -psicologiche, psichiatriche, neurofisiologiche- Manfred E. Clynes -eccentrico scienziato e musicista- e Nathan S. Kline -psicologo e psichiatra- sostengono che “alterare le funzioni corporee dell'uomo per soddisfare i requisiti degli ambienti extraterrestri è più logico che fornirgli un ambiente terrestre nello spazio”. “Per il complesso organizzativo esogenamente esteso che funziona come sistema omeostatico integrato inconsciamente”, scrivono, “proponiamo il termine Cyborg”.

“Il Cyborg incorpora deliberatamente componenti esogene che estendono la funzione di auto-regolazione dell'organismo per adattarlo a nuovi ambienti. Se l'uomo nello spazio oltre a far volare il suo veicolo, deve controllare ogni cosa solo per mantenersi in vita, diventa schiavo della macchina”. Il Cyborg è dunque un “sistema organizzativo, un sistema uomo-macchina” in cui i “problemi di tipo robotico siano curati automaticamente e inconsciamente, lasciando l'uomo libero di esplorare, di creare, di pensare e di sentire”.⁴ Per questa via, però, si va verso la riprogettazione dello stesso essere umano.

Possiamo quindi ricordare il percorso. Norbert Wiener conia il termine, il cui senso è ben spiegato nel suo saggio del 1949: Cybernetics, Or Control and Communication in the Animal and the Machine. Il richiamo al senso della parola greca -l'arte del timoniere- resta sullo sfondo. Wiener afferma che “the wonders of the automatic computing machine” si riassumono in questo: permettono di immaginare che anche l'essere umano sia inteso come engine, macchina. Non esiste differenza tra Animal, essere vivente, e Machine.⁵ Sono entrambi rasoning machines, learning machines. Ogni ente è un sistema. Ogni sistema, in quanto caratterizzato da regole che ne determinano il funzionamento, è una macchina. I concetti di ente e di sistema collassano, per sintetizzarsi nel concetto di macchina. Dopo gli anni dell'entusiasmo cibernetico, Wiener si ravvederà e dubiterà⁶: dirà che non si può escludere dalla scena l’uomo e la sua responsabilità. Ma sulla strada da lui aperta altri procedono.

Ecco dunque nel 1960 il Cyborg di Clynes e Kline. Adattare un ambiente all'uomo è oneroso ed in ogni caso difficile, più semplice ed efficace è adattare l'uomo ad un ambiente. Ambiente: può essere lo spazio extraterrestre, ma può essere anche l'ambiente digitale: varie definizioni offerte nel corso dei tempi recenti -realtà aumentata, onlife, infosfera...- si spiegano alla luce dell'articolo di Clynes e Kline.

Vent'anni dopo l'ambiente digitale trova il nome: Cyberpace. Ancora una volta la Science fiction anticipa la Computer Science. La parola appare nel racconto di William Gibson Burning Chrome, 1982. Ma solo due anni dopo, nel romanzo breve Neuromancer, troviamo una descrizione compiuta: “Cyberspazio. Un'allucinazione consensuale vissuta quotidianamente da miliardi di operatori autorizzati, in ogni nazione, da bambini ai quali vengono insegnati concetti matematici... Una rappresentazione grafica dei dati estratti dalle banche di ogni computer del sistema umano. Una complessità impensabile. Linee di luce che spaziano nel-non spazio della mente, ammassi e costellazioni di dati. Come luci di città, che si allontanano...”.⁷

Passano pochi anni. Nel 1985 riappare il Cyborg riappare. Donna Haraway -zoologa, biologa, studiosa di evoluzionismo sperimentale- riprende attorno alla metà degli Anni Ottanta il concetto di Clynes e Kline.

Fino a metà del Ventesimo Secolo, argomenta Hataway, le macchine sono state nient'altro che “una caricatura del sogno riproduttivo maschilista”. Invece, “le macchine di fine Novecento hanno reso del tutto ambigua la differenza tra naturale e artificiale, mente e corpo, ciò che è autosviluppato e ciò che è progettato esternamente”. Queste macchine “semoventi, autoprogettate, autonome”. “Sono piene di vita “ mentre noi siamo “spaventosamente inerti”.⁸

Ecco dunque, secondo Haraway, un nuovo terreno sul quale ri-progettare sé stessi come Cyborgs. Prendendo a modello macchine; affidandosi a tecnici capaci di re-ingegnerizzare corpo e mente.

Moravec: macchine nostri figli

Stante questo quadro possiamo tornare al Convegno organizzato dalla NASA nel marzo 1993: Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace

Tra i relatori emerge Hans Moravec, convinto transumanista, ricercatore nel campo dell'Intelligenza Artificiale e della robotica. Già da bambino -con lattine, motorini a batteria e lampadine- costruiva robot. Nell'88 pubblica Mind Children.⁹ Dove sostiene che ci stiamo avvicinando a uno spartiacque nella storia della vita: il momento in cui i confini tra l'intelligenza biologica e quella post-biologica inizieranno a dissolversi. I robot prenderanno il posto degli esseri umani.

“Noi umani per un po' di tempo trarremo beneficio dalle loro fatiche, ma prima o poi, come i bambini umani, cercheranno le proprie fortune; mentre noi, i loro genitori anziani, scompariremo silenziosamente [silently fade away]”.¹⁰ “Credo che i robot con intelligenza umana saranno comuni entro cinquant'anni”.¹¹ Moravec invita comunque gli esseri umani a non preoccuparsi, e a credere nella bontà di questo futuro post-biologico, al quale le nostre umane menti potranno partecipare.

Cinque anni dopo, al convegno della NASA, ripete in sintesi i temi del libro. L'avvento dei robot intelligenti come esseri umani è datato sempre cinquant'anni in avanti. Inizierà allora una nuova Era. “Le macchine intelligenti, che si evolvono tra di noi, imparano le nostre capacità, condividono i nostri obiettivi, possono essere viste come i nostri figli, i figli della nostra mente”.¹²

Nuovi esseri sintetici figli della nostra mente, non del nostro corpo, dell'essere umano intero. La mente è per Moravec il cervello umano letto strato dopo strato da una macchina, da uno scanner. Moravec è un visionario, ma è un tecnico formato alla cultura STEM: solo un tecnico può immaginare che i valori umani -storie, culture, psiche- possano essere pienamente trasferiti ad una macchina. Potremmo dire che il robot sarò figlio del tecnico, non dell'essere umano.

Moravec ammette che agli esseri umani potrebbe non bastare a questo punto vivere come in una riserva indiana o come burattini nelle mani di un nuovo burattinaio. Ma a lui non interessa il punto di vista dell'essere umano. A lui piace osservare la scena dal punto di vista della nuova specie vincente. Il sogno che coltiva da bambino non è solo di costruire un robot funzionante. Il suo sogno è essere un robot, un essere non umano.

Così immagina un esperimento. Un robot chirurgo collega il cervello di un essere umano ad una macchina, in modo che l'essere umano possa vivere la sensazione di essere una macchina. E conclude: “Presto i tuoi amici si lamenteranno che sei diventato più simile alle macchine che all'uomo biologico che eri una volta. Questa è la vita”. That's life.

Si coglie il senso di mal trattenuta soddisfazione. Moravec gode nell'immaginarsi macchina, e allo stesso tempo nell'immaginare la specie umana surclassata, umiliata da una macchina.

Vernon Vinge: Singolarità

In quel convegno organizzato dalla NASA, Moravec ripete i suoi argomenti, già noti. Un'altro relatore, invece, porta un argomento nuovo.

I romanzi di Vernor Vinge, “matematico della San Diego State University e scrittore di fantascienza”, dice il comunicato stampa sul convegno, “sollevano profondi interrogativi sul potenziale del bene e del male nella scienza e nella tecnologia”.¹³

Dobbiamo a Vinge la visione di una discontinuità, di un salto nella capacità dei computer. Scrive nel 1983 nel racconto First Word: "Presto creeremo intelligenze più grandi delle nostre.

Quando questo accadrà, la storia umana avrà raggiunto una sorta di singolarità [a kind of singularity], una transizione intellettualmente impenetrabile come lo è lo spazio-tempo aggrovigliato al centro di un buco nero [the knotted space-time at the center of a black hole]".¹⁴

Ma l'illuminazione risale a due anni prima, durante la stesura del racconto True Names -dove pure la parola singolarità non appare. Solo un poco alla volta Vinge si renderà conto del senso di ciò che ha scritto: “avevo tentato una semplice estrapolazione tecnologica, e mi ritrovavo precipitato in un abisso. È un problema che affrontiamo ogni volta che consideriamo la creazione di intelligenze più grandi della nostra. Quando questo accadrà, la storia umana avrà raggiunto una sorta di singolarità - un luogo in cui l'estrapolazione raggiunge il punto di rottura [breaks down] e nuovi modelli devono essere applicati - e il mondo andrà oltre la nostra comprensione".¹⁵

Nella sua relazione al convegno della NASA -The Coming Technological Singularity: How to Survive in the Post-Human Era- appare più dogmatico ed apocalittico. “Entro trent'anni avremo i mezzi tecnologici per creare un'intelligenza sovrumana [superhuman]”. “Poco dopo, l'era umana sarà finita”. Entreremo in una epoca Post-Umana.¹⁶

Da buono scrittore, non solo ha saputo narrare la novità, ma anche l'espressione che la sintetizza. In matematica una singolarità è un punto in cui un ente degenera. perdendo parte delle proprietà di cui gode negli altri punti. In cosmologia la singolarità è una curvatura dello spazio-tempo in cui la densità della materia raggiunge valori così elevati da provocare un collasso gravitazionale: sgretolamento verso l'interno di un corpo stellare, fino a formare un buco nero. Serviva una parola nuova, Vinge l'ha trovata: Singularity.

Potrebbe bastare a giustificarla il concetto matematico, o il metaforico riferimento alla singolarità astronomica, ma Vinge ambisce ad una legittimazione tecnico-scientifica più precisa, e se la cerca in modo piuttosto capzioso. Cita l'elogio funebre di von Neumann scritto dall'amico Stanislaw Ulam, matematico polacco,¹⁷ che riporta un'affermazione di von Neumann: "Gli interessi dell'umanità possono cambiare, le attuali curiosità nella scienza possono cessare, e cose completamente diverse possono occupare la mente umana in futuro". Von Neumann sta parlando di liberà di pensiero, e di come proprio dal pensare non direttamente legato ad uno scopo nasca l'innovazione. Osservazioni che riguardavano “il progresso sempre più rapido della tecnologia [ever accelerating progress of technology] e i cambiamenti nel modo di vivere dell'uomo”. Si ha l'impressione “di avvicinarsi a qualche singolarità essenziale nella storia della razza al di là della quale gli affari umani, così come li conosciamo, could not continue”. Non potrebbero continuare come prima. Potrebbero non continuare come prima.

Di qui parte Vinge per dire che “l'accelerazione del progresso tecnologico è stata la caratteristica centrale di questo secolo”. Di conseguenza “siamo sull'orlo di un cambiamento paragonabile all'ascesa della vita umana sulla Terra”. “La causa precisa è l'imminente creazione, da parte della tecnologia, di entità con un'intelligenza superiore a quella umana [greater-than- human intelligence]”. Con quali conseguenze?

“La progettazione di macchine” è frutto dell'intelligenza umana. Se a progettare le macchine, al posto dell'uomo, fosse una macchina ultraintelligente “potrebbe progettare macchine ancora migliori; e l'intelligenza dell'uomo sarebbe lasciata molto indietro”. “Questo cambiamento sarà un allontanamento di tutte le regole umane”. Per l'essere umano, “una fuga esponenziale al di là di ogni speranza di controllo”.

Il paragrafo finale porta per titolo: Strong Superhumanity and the Best We Can Ask For. “Supponiamo di poter realizzare le nostre speranze più stravaganti. Cosa chiederemmo allora?”. Perché un conto è parlare di macchine superintelligenti, e un altro è parlare di esseri umani superintelligenti. Si può infatti supporre che nella Nuova Era le Macchine Suprintelligenti dominino gli esseri umani; ma anche che gli esseri umani stessi finiscano per disporre di Superintelligenza.

Vinge immagina che nella Nuova Era l'essere umano si divarichi in due opposte figure sociali. Qui, con il linguaggio di narratore fantascientifico, Vinge descrive le estreme conseguenze.

“Per i nostri successori esseri umani inalterati [unaltered humans] l'obiettivo potrebbe consistere nel godere di un trattamento benevolo [benign treatment]”. Potrebbero rivelarsi una sorta di schiavi simili a Dio [godlike slaves], saggi eredi di antiche virtù che lasciano ai nuovi padroni l'illusione di una loro superiorità. Come oggi il popolo degli Amish, che vive fuori dal tempo moderno. Per chi invece supererà, in quanto singolo essere umano, la soglia della Singolarità, attingendo alla Superintelligenza, potrebbe aprirsi un'Età dell'Oro: l'”immortalità, o almeno una vita che durerà fin quando riusciremo a far vivere l'universo”. “Un tempo senza fine”, in cui potremo “conoscerci veramente l'un l'altro e comprendere i misteri più profondi”.

In questo possibile mondo i problemi filosofici diventano però spaventosi [intimidating]. Anche nel vivere un tempo immortale “la mente stessa non può non crescere”. Dunque quando la mente “si guarderà indietro, che senso di comunanza potrà avere con ciò che era in origine?”. Vinge si interroga acutamente sul tema del Sé. Le nozioni di ego e di consapevolezza [self awareness] individuali saranno minate dall'emergere di una Intelligenza Amplificata, che supera e integra in un'unica entità i diversi soggetti.

Subire o scegliere

Dobbiamo guardarci dal considerare queste speculazioni lontane dalla vita reale di noi cittadini del primo scorcio del Ventunesimo Secolo.

Ci conviene ricordare la consonanza di Vinge con le visioni di altri scrittori di fantascienza e filosofi. Innanzitutto Philip Dick, il suo narrare a proposito di VALIS, Vast Active Living Intelligence System.¹⁸ E le appassionate parole di Teilhard: le speranze in un futuro illimitato che si apre per gli esseri umani; la Noosfera, portato dell'umana intelligenza, terminerà nel Punto Omega in una cosmica fusione...

Se pensatori acuti e diversi tornano a raccontarci questa storia, dobbiamo cogliere il loro ammonimento: si tratta di uno scenario possibile. O quanto meno, di uno scenario che ci propone, sia pure ingigantiti, tirati fino al paradosso, problemi attualissimi.

Haraway immaginava nel 1985 (in anni successivi si ricredette, perdendo ogni fiducia nella tecnica digitale) una libera progettazione del proprio corpo prendendo a modello macchine computazionali.

Non si avvedeva di come la libertà di questa ri-progettazione fosse minata in origine. Per un duplice motivo. L'essere umano, privo di fiducia in sé stesso, incapace di cercare sé stesso attraverso conoscenza, saggezza, meditazione, resta in bilico tra due affidamenti.

Pensandosi come Cyborg, da un lato l'essere umano si affida alla speranza che la macchina giunga veramente ad essere autonoma: sarà quindi la macchina ad insegnare una nuova autonomia all'essere umano; dall'altro lato si affida la possibilità di riprogettarsi a tecnici detentori esclusivi degli strumenti tramite i quali re-ingegnerizzare corpo e mente. Due rinunce al diritto e al dovere di scegliere. Due rinunce al diritto e al dovere di scegliere.

Nei fatti, nel primo quarto del Terzo Millennio, sono in corso vari progetti, sostenuti da ingenti investimenti, riguardanti lo sviluppo di Superintelligenze e il prolungamento della vita umana fino ad una potenziale eternità. Conviene prendere sul serio questi progetti e prepararci ad affrontarne le conseguenze.

Vinge già nel '93, in quel convegno della NASA, faceva sua l'argomentazione sulla quale concordavano Oppenheimer e Teller, e poi addotta dai tecnici della computer science .“Se la Singolarità tecnologica può accadere, accadrà [can happen, it will]”. “Anche se tutti i governi del mondo comprendessero la minaccia, il progresso verso la meta continuerebbe. Il vantaggio competitivo - economico, militare, persino artistico - di ogni progresso nell'automazione è così convincente che proibire queste cose assicura solo che qualcun altro le otterrà per primo”.¹⁹

Oppenheimer però, col senno di poi, apre la via ad un punto di vista diverso. Il passaggio sta nel guardare alla tecnica non con lo sguardo interessato del tecnico, ma con lo sguardo più ampio del cittadino, dell'essere umano consapevole che la Singolarità e la Superintelligenza mettono in gioco le sorti della stessa nostra specie e della Natura.

Ogni essere umano, dunque, è chiamato ad una scelta. Affidarsi a macchine autonome, cosiddette intelligenze artificiali. Affidarsi a tecnici.

Oppure scegliere seriamente, non solo a parole, di essere cittadino. Cittadino attivo che si assume responsabilità.