Tre premesse.
Il 30 settembre 1784 Kant, risponde sulla rivista Berlinische Monatsschrift alla domanda: Cos'è l'Illuminismo? L'incipit è emozionante. "L'Aufklärung", ci dice Kant, "è l'uscita dell'essere umano dallo stato di minorità di cui egli stesso è colpevole. Minorità è l'incapacità di servirsi della propria Verstand [intelligenza, senno, mente, ragione, animo] senza la guida di un altro". “Sapere aude!”, osa conoscere! “Abbi il coraggio di servirti della tua propria intelligenza!”.
Eppure, dice subito, “gli esseri umani rimangono minorenni a vita”. “È così comodo essere minorenni! Se ho un libro che ha Verstand per me, un direttore spirituale che ha coscienza per me, un medico che sceglie per me la dieta, ecc., non ho certo bisogno di sforzarmi da me”. “E' dunque difficile liberarsi da una minorità divenutagli quasi natura”. Chi non ha mai avuto l'occasione di mettere alla prova la propria Verstand, resterà incapace di servirsene.
Kant mette in evidenza la stretta connessione tra l'atteggiamento passivo degli esseri umani e la presenza di Vormünder -custodi, guardiani, tutori di minorenni incapaci- “che si sono assunti con tanta benevolenza la sorveglianza sugli esseri umani” da convincerli che “il passaggio allo stato di maggiorità, oltreché difficile”, è anche “molto pericoloso”.
Luigi XVIII scrive nella Premessa alla sua Costituzione del 1814 che “la saggezza dei Sovrani si accorda liberamente con la volontà dei popoli”, e che “abbiamo preso tutte le precauzioni affinché questa Carta sia degna del popolo”.
Ma, aggiunge, per stendere la Carta si è avvalso di “uomini saggi” “riuniti in commissioni”.
Il 16 febbraio 2017 David Zuckerberg, trentatreenne fondatore e dominus di Facebook, pubblica su Facebook un lungo post dal titolo Building Global Community, simile alla Lettera Pastorale di un Papa.
"In tempi come questi, la cosa più importante che noi di Facebook possiamo fare è sviluppare l'infrastruttura sociale per dare alle persone [people] il potere di costruire una comunità globale che funzioni [global community that works] per tutti noi". L'Infrastracture è definita con impegnativi aggettivi: social, meaningful, global. E altrettanto per definire le Communities nelle quali gli esseri umani meriterebbero di vivere: supportive, safe, enformed, civically-engaged, inclusive. Infrastructure e Community sono considerati sinonimi.
Alla fine, salutando i lettori con il solo nome, Mark, senza cognome -come un vero Papa- Zuckerberg ringrazia: "Thank you for being part of this community". Possiamo leggere: Grazie per il vostro vivere dentro Facebook, The Infrastructure. Un nuovo digital environment, ambiente digitale, è proposto -o imposto- agli esseri umani. Rivolgendosi ad ogni essere umano, chiama a partecipare alla costruzione dell'Infrastructure, "the world we want for generations to come". Fingendo di dimenticare che Facebook è piattaforma già costruita, alla cui costruzione nessuno di noi può partecipare. Luogo dove il citizen è ridotto a user.
Dieci giorni dopo la pubblicazione di quell'alato inno all'umana convivenza, il 26 febbraio 2017, scoppia lo scandalo: viene svelato l'uso indebito di informazioni personali di cittadini. Ecco la ragione della sua lettera e dell'impegno ad una qualche trasparenza.
Accademici umanisti e giornalisti vari si accodano al Nuovo Ordine come cantori della buona novella digitale. Come Guardiani. Noi, dicono, possediamo intelligenza e ragione, siamo i vostri Direttore Spirituali. Vi guideremo nell'Era Digitale. Ci ammoniscono i Guardiani: dovete essere confidenti. Verrà istituito un Comitato Etico, di Sorveglianza. Noi ne faremo parte e vi proteggeremo.
Oggi
Una accurata propaganda si affanna nel tentativo di edificare miti fondati sulla tecnica. Spinge a credere nelle magnifiche e progressive sorti di sempre nuove generazioni di macchine. Spinge ogni essere umano ad usare passivamente lo strumento che ha in mano, a fidarsi di ogni istruzione o comando che tramite questo strumento gli giunge.
La campagna è martellante. L'Intelligenza Artificiale è al tuo servizio. L'automobile autonoma ti libererà dallo stress. I Big data, interpretati da sapienti algoritmi, veglieranno sulla tua salute. Un accurato design delle tue stesse esperienze ti avvicinerà alla felicità.
Accademici umanisti e giornalisti vari si accodano al Nuovo Ordine come cantori della buona novella digitale. Come Guardiani. Noi Vormünder [custodi, guardiani, tutori di minorenni incapaci], dicono, possediamo Verstand [intelligenza, ragione], siamo il direttore spirituale che ha coscienza per voi. Vi guideremo nell'Era Digitale. Il passaggio al Digitale sarà felice. Certo, si accenna a pericoli e minacce: l'Intelligenza Artificiale toglie spazio al pensiero e al lavoro umani, è strumento in mano a un indiscutibile Sovrano. Ma nonostante questo, ci insegnano i Guardiani, dovete essere confidenti. Verrà istituito un Comitato Etico, di Sorveglianza. Noi ne faremo parte e vi proteggeremo.
L'epopea del Filosofo-Guardiano
L'epopea inizia con la partenza per l'Inghilterra di un giovane ricercatore italiano. Laureato in Filosofia, non trovava adeguati spazi nelle Università italiane.
Tra le sue opere, Philosophy and Computing, uscito nel 1999, sembra il titolo più promettente di una seria riflessione filosofica sul computing . Ma il libro si rivela un avvicinamento all'informatica per studenti di filosofia. Più significativi sono due articoli: What Is Philosophy of Information? e Open problems in the Philosophy of Information. Il titolo del primo articolo è caratterizzato, giustamente, dal punto interrogativo. Nel secondo articolo si tenta qualche risposta, limitando il campo ai dubbi: "Quello di 'informazione' rimane tuttora un concetto elusivo".
L'Information Theory, che ha in Claude Shannon -ingegnere e matematico- il capostipite, è fondamento essenziale della computer science: l'informazione consiste in segnali che viaggiano lungo un canale. Mentre per nulla chiara resta la connessione tra informazione e umana produzione di conoscenza, di narrazioni.
E' incontrovertibile il fatto che le macchine costruite a partire dalle teorie di Shannon e di Turing funzionano in modo efficace. Ma ridefinire la conoscenza e la narrazione accettando supinamente l'informazione di Shannon e Turing significa subordinare l'uomo al computer.
Siamo dunque d'accordo con il Filosofo-Guardiano: la difficoltà di definire l'informazione "non è uno scandalo di per sé". Purché si continui a ragionare su come si pone la relazione tra informazione e conoscenza. In Open problems in the Philosophy of Information, tornano i punti interrogativi. Perché le tecnologie dell'informazione e della comunicazione sollevano questioni morali? Che tipo di etica è la Computer Ethics?
La filosofia, secondo il Filosofo-Guardiano, dovrebbe considerarsi commento e conseguenza del disegno di macchine digitali. “L'informazione è un concetto fondamentale e importante come la verità, il significato, la conoscenza, l'Essere, o il bene e il male”. Non importa se l'informazione resta un concetto elusivo. Si legittima la tecnica che disegna e gestisce macchine digitali per trarne profitti finanziari o di controllo sociale. E allo stesso tempo si apre un nuovo mercato filosofico, dove il Filosofo-Guardiano è l'indiscusso pioniere.
La macchina al centro della scena
Computer Ethics, Etica Digitale, etica dell'Era Digitale, comportano innanzitutto una nuova presenza: la macchina.
Sostenevano Cartesio e Leibniz che se i filosofi disporranno di rigorose ‘macchine analitiche’ ogni disputa troverà soluzione tramite inequivocabili calcoli. Si tratta di ‘macchine’ in senso metaforico: regole imposte all'umano ragionamento. Ma ora non c'è solo un modello logico. C'è un oggetto materiale, funzionante.
La filosofia, indagine sull'essere -τὸ ἐόν, tò eòn, ‘ciò che è’- condotta dall'essere umano, negli anni della Rivoluzione Scientifica e Tecnica, si è ridotta a disciplina ancillare. Ormai, ogni sempre più specializzata scienza vanta la propria filosofia. Il filosofo è succube dello scienziato: del suo linguaggio, del suo metodo.
La fase terminale di questo processo è la filosofia applicata al computing. L'umano è osservato dal punto di vista della macchina, è inteso come macchina. La macchina è frutto della progettazione -o, come è di moda dire: design, disegno- di un tecnico. La filosofia, secondo il Filosofo-Guardiano, dovrebbe considerarsi commento e conseguenza del disegno di macchine digitali. “L'informazione è un concetto fondamentale e importante come la verità, il significato, la conoscenza, l'Essere, o il bene e il male”. Non importa se l'informazione resta un concetto elusivo. Si legittima la tecnica che disegna e gestisce macchine digitali per trarne profitti finanziari o di controllo sociale. E allo stesso tempo si apre un mercato filosofico parallelo, dove il Filosofo-Guardiano è l'indiscusso pioniere.
Wiener nel 1949, in Cybernetics, afferma che “the wonders of the automatic computing machine” si riassumono in questo: permettono di immaginare che anche l'essere umano sia inteso come engine, macchina. Non esiste differenza tra Animal, essere vivente, e Machine. Sono entrambi rasoning machines, learning machines. Ogni ente è un sistema. Ogni sistema, in quanto caratterizzato da regole che ne determinano il funzionamento, è una macchina. I concetti di ente e di sistema collassano, per sintetizzarsi nel concetto di macchina. Dopo gli anni dell'entusiasmo cibernetico, Wiener si ravvederà e dubiterà: non si può escludere dalla scena l’uomo e la sua responsabilità. Ma si è ormai consolidato, all’inizio degli Anni Cinquanta, il canone di Turing.
Agenti: umani come macchine
Wiener è un matematico che si azzarda a filosofare. I maestri che avvicinano il Filosofo-Guardiano alla Philosophy of Computing and Information -James H. Moor è il più rilevante- sono filosofi che cercano cittadinanza nella comunità dei computer scientist.
La Computer Ethics di Moor non si occupa dei comportamenti etici degli esseri umani, ma di ethical agent: macchine. L'etica è delegata dall'essere umano alla macchina. Se si parla di etica umana, è l'etica di un essere umano che agisce come macchina più o meno etica.
Esistono human agent ed artificial agent. Esiste l'human agency, l'agire degli esseri umani, come esiste la smart agency delle macchine digitali. Sono inforgs, “connected informational organisms”,
La teoria dell'Intelligenza Artificiale sostiene che nel mondo nuovo non esistono attori sociali, ma Intelligent Agents, entità autonome che osservano l'ambiente attraverso sensori e agiscono sull'ambiente attraverso attuatori, per il raggiungimento di obiettivi razionali. E questa intelligenza è una abilità definita da tecnici, da loro scritta in un codice. Un sistema multi-agente (MAS) è un sistema composto da più agenti intelligenti interagenti.
C'è certo qualcosa di buono in questo. Una macchina capace di svolgere efficacemente un qualche lavoro è ben accetta. Ma qui si parla di considerare alla pari macchine ed esseri umani.
Sovrani Digitali e Filosofi-Guardiani
Potremmo aspettarci che il filosofo-essere-umano osservasse il lavoro dei tecnici alla luce della storia e della cultura umana -ricordando che l'essere umano dispone non solo di una mente ma anche di un corpo, che la ragione trova contrappeso nella saggezza, che l'uomo appartiene alla natura- mantenendo vive nel presente le conoscenze, le esperienze tramandate.
Il Filosofo-Guardiano no. Insegna che non viviamo nella storia ma nell'iperstoria. L'Onlife Manifesto vuol dimostrare che dobbiamo definitivamente accettare “l'offuscamento della distinzione [blurring of the distinction]” “tra reale e virtuale” e “tra uomo, macchina e natura”.: Ogni essere umano non è che un agente più o meno intelligente, alla stregua di qualsiasi macchina.
E' l'intellettuale organico necessario dei nuovi Sovrani Digitali. Svolge lo sporco ma necessario lavoro di convincere il cittadino che la società sia e sarà un sistema multi-agente (MAS). E' il ponte tra i progetti tecnici e i progetti politici. Pretende di ridefinire le stesse forme dello Stato.
E pazienza se i cittadini non hanno nessun controllo sugli agenti intelligenti. Se gli agenti intelligenti sono scritti in un codice noto solo ai tecnici. Se i cittadini sono trasformati in enti che il tecnico conosce meglio di loro stessi.
Il Filosofo-Guardiano insegna che non viviamo nella storia ma nell'iperstoria: dobbiamo definitivamente accettare “l'offuscamento della distinzione tra reale e virtuale” e “tra uomo, macchina e natura”. Ogni essere umano non è che un agente più o meno intelligente, alla stregua di qualsiasi macchina.
Eppure, resterà all'essere umano la possibilità di considerare ed osservare sé stesso senza prendere la macchina a pietra di paragone. Buona parte della nostra vita si svolge ancora senza che vi intervengano Personal Computer e telefono cellulare. Ma è proprio questo che i nuovi Sovrani Digitali vogliono togliere agli esseri umani: la possibilità di vivere lontano dai luoghi digitali, liberi da regole e controlli digitali.
Ecco perché servono i nuovi Vormünder, Guardiani. Ad essi è affidato il compito di dire che si vive più sicuri e più felici sulle piattaforme digitali che nel mondo fisico, corporale, animale. Che il mondo naturale non è che una propaggine del mondo digitale. Dietro l'affermazione "understanding ourselves as inforgs" si nasconde una imposizione politica: accettate di essere succubi dei nuovi Sovrani Digitali.
Questo è il compito che si assume il Filosofo-Guardiano. E per questo utilizza armi retoriche, conia parole nuove.
Infosfera: Il Filosofo-Guardiano propone il concetto già nel 1999, in Philosophy and Computing: “the infosphere” è “il complessivo [whole] si sistema di servizi e documenti, codificati in qualsiasi supporto semiotico e fisico, i cui contenuti comprendono qualsiasi tipo di dati, informazioni e conoscenze [knowledge]. Costituisce il “vero ambiente [true environment] in cui le persone ora trascorrono la maggior parte della loro vita intenzionale come esseri coscienti”.
Questo è l'aspetto inquietante: il passaggio dal rilevare che esistono testi: galassie di informazioni, conoscenze prodotte dall'uomo conservate sotto forma digitale, all'affermare che le conoscenze degne di essere prese in considerazione sono solo le conoscenze già digitalizzate, e che l'essere umano stesso non è che una entità che vive e conosce sé stesso tramite dati e informazioni.
Onlife: Il Filosofo-Guardiano, nel pubblicare i materiali di un gruppo di lavoro promosso dalla Commissione Europea sulla vita nell'Infosfera, usa “il neologismo che avevo coniato in passato per riferirmi alla nuova esperienza di una realtà iperconnessa all'interno della quale non è più ragionevole chiedersi se si può essere online o offline”.
The world's leading ethicist on AI and Big Data
Il Filosofo-Guardiano, come “the world's leading ethicist on AI and Big Data” (definizione sul sito dell'Oxford Internet Institute) è anche membro, a livello internazionale, di numerosissimi organismi di Governi e Enti pubblici dedicati agli aspetti etici delI'Intelligenza Artificiale.
Tra questi, in particolare, dirige il Digital Ethics Lab (DELab). dell'Oxford Internet Institute (OII), nelle cui linee guida si afferma: “Il nostro obiettivo è identificare opportunità, sfide etiche e rischi che comporta il mondo digitale, e fornire ricerche indipendenti, consulenze, soluzioni e scelte strategiche per affrontarle con successo”. Ma finanziate da chi? offerte a chi?
Si legge nello stesso testo: “cerchiamo di interagire con le parti interessate e gli stakeholder di tutti i settori”. Però “siamo orgogliosi delle forti relazioni che abbiamo costruito con i nostri finanziatori”. Ora, sono sponsor del DELab Microsoft, Google, Tencent, Facebook. E Il Filosofo-Guardiano “has worked closely on digital ethics” anche per Cisco e IBM. Tutte aziende che hanno una posizione dominante nel mondo occidentale. Google e Facebook e Tencent sono in grado di osservare i comportamenti di ogni cittadino del pianeta e di imporre comportamenti graditi alle Corporation stesse. E' una élite tecnocratica sovrana.
I cittadini meriterebbero filosofi disposti a esprimersi in modo critico e severo sul modo in cui questi nuovi potentati digitali ridefiniscono a loro piacimento i diritti civili e politici. Ma possono i cittadini fidarsi dell'indipendenza di giudizio del Filosofo-Guardiano?
Autogoverno dei tecnici
Lui stesso non può fare a meno di ammettere una “cruda realtà [stark reality]”. “La situazione è intrinsecamente ineguale: una piccola parte dell'umanità è attualmente impegnata nella progettazione e nello sviluppo di un insieme di tecnologie che stanno già trasformando la vita quotidiana di quasi tutti gli altri”. Che fare allora?
Si parla di “dialogue between all stakeholders, including government, industry, and civil society”. Ma non si indicano i meccanismi per il coinvolgimento della società civile. L'Intelligenza Artificiale porta con sé la possibilità di sostituire l'essere umano nel lavorare e nel pensare, di appropriarsi di ogni conoscenza umana, di esercitare un controllo oppressivo, di manipolare il corpo e la mente e lo stesso codice genetico, di costruire sistemi d'arma autonomi - e cosa si offre ai cittadini? “meccanismi per compensare errori o torti causati dall'Intelligenza Artificiale ”, “processi guidati per l'inoltro di un reclamo”, l'istituzione di “un Difensore Civico [Ombudsperson] per garantire il controllo di presunti usi sleali o iniqui dell'AI”. La montagna partorisce il topolino.
E certo, “dobbiamo garantire che la tecnologia, o, più precisamente, le persone e le organizzazioni che la sviluppano e la implementano, siano ritenute responsabili in caso di esito negativo”. Ci mancherebbe anche che i responsabili del danno non fossero chiamati a farsene carico. Resta il fatto che, essendo la materia incomprensibile al popolo, solo gli addetti ai lavori potranno giudicare ciò che è bene e ciò che è male, ed eventualmente comminare pene a chi ha sbagliato. Si sancisce l'autogoverno dei tecnici.
La democrazia non abita più qui
Naturalmente il Filosofo-Guardiano è favorevole a parole alla democrazia, alla società aperta. Ma essendo il codice su cui è scritta ex novo la realtà sociale nelle mani di Sovrani, la massima manifestazione di democrazia possibile è la tolleranza. Lasciateli fare, diceva già Kant, purché restino chiusi nel recinto e siano sempre osservati. La tolleranza non è libertà.
Il Filosofo-Guardiano infatti non si considera un cittadino. Semmai, un Consigliere del Principe. Nell'AI4people chiama a uno sforzo coordinato “politics, business, and academia”, a loro compete “identificare e perseguire le migliori strategie per rendere l'IA una forza orientata al bene” . Insomma, i cittadini devono stare a guardare.
In molte occasione i cittadini erano stati chiamati a dire la loro a proposito dell'uso dell'energia nucleare. Stavolta, meglio evitare. Avranno i formulari per scrivere reclami e il difensore civico.
E' data per scontata la separazione tra i cittadini, privati in fondo di diritti, e una élite di decisori.
Nell'Era Digitale l'esercizio del potere passa attraverso una particolare tecnica: computer science, Informatica. Dunque il ruolo del Filosofo-Guardiano consiste nel far da ponte tra policy makers e tecnici. Avverte che “componente essenziale di questo rimodellamento [reshaping] è il design: “gli attori della governance ” dovrebbero prestare attenzione al fatto che oltre ai tradizionali strumenti -norme, trattati o codici di condotta- la governance di un complesso sistema multi-agente è sempre più imperniata sugli aspetti tecnici dei meccanismi di progettazione.
Ancor più importante è notare come, nel guardare alla relazione cittadini-legislatori e cittadini-governo, sono considerati irrilevanti gli istituti democratici: rappresentatività, mandato, controllo. Questa relazione è ridotta ad un astratto meccanismo che garantisce connessione tra agenti. Ciò che conta è il disegno della piattaforma sulla quale si costruiranno ex novo le relazioni sociali.
Nella parte finale di AI4People, ci sono le raccomandazioni per giungere ad una Good AI Society. Sviluppare una Agenzia di Supervisione [oversight] dell'Unione Europea per la protezione del benessere pubblico attraverso la valutazione scientifica di prodotti e sistemi o servizi di Intelligenza Artificiale. Sviluppare un Osservatorio Europeo per l'Intelligenza Artificiale, con la missione di “offrire un forum per alimentare il dibattito e il consenso, fornire un archivio per la letteratura e il software sull'Intelligenza Artificiale”, pubblicare raccomandazioni e linee guida... La soluzione di tutte le questioni legate al Nuovo Governo Digitale e all'avvento dell'Intelligenza Artificiale sta nella costituzione di Comitati di Esperti (di cui, tra le righe, il Filosofo–Guardiano si candida a far parte).
Il Filosofo-Guardiano è il ponte tra i progetti tecnici e i progetti politici. Naturalmente il Filosofo-Guardiano è favorevole alla democrazia, alla società aperta. Ma essendo il codice su cui è scritta ex novo la realtà sociale nelle mani di Sovrani, la massima manifestazione di democrazia possibile è la tolleranza. Lasciateli fare, diceva già Kant, purché restino chiusi nel recinto e siano sempre osservati. Ma la tolleranza non è libertà.
Siccome io vi proteggo potete rilassarvi
Il Filosofo-Guardiano non parla con sincerità ai cittadini, è un Guardiano. “Dare forma a narrazioni”, dice, “è fondamentale [instrumental] per conquistare 'cuori e menti'”. Ammette in realtà il pericolo: “E' come se entrassimo in una zona in cui l'ambiente è fatto per il digitale, per l'Intelligenza Artificiale, e un po' meno per gli esseri umani, e siamo noi a doverci adattare, invece che l'Intelligenza Artificiale a doversi adattare, darci una mano per lavorare meglio”. Eppure subito aggiunge: “Ci sono ottime prospettive”. “L'etica ha ovviamente raggiunto qualsiasi settore industriale una volta maturo. Sta avvenendo anche per l'Intelligenza Artificiale. In questo caso forse due principi sono la chiave di tutto questo discorso: quello della trasparenza e quello della responsabilità”. “Ci sono sfide serie di tipo etico, industriale, aziendale, di covenants [patti, accordi, convenzioni], ma non di tipo fantascientifico. Io mi rilasserei”.
Aspettiamo dunque fiduciosi, dice il Guardiano, quando il mercato sarà maturo, l'etica si affermerà.