L'Infermiera e il Primario. Ovvero la resa imposta da Kasparov ad ogni essere umano

Febbraio 2020. Il campione di scacchi russo Gary Kasparov è a New York, nello stesso hotel dove nel 1997 fu sconfitto dal sistema esperto Deep Blue della IBM. Partecipa a una tavola rotonda, nel quadro della Thirty-Fourth AAAI Conference on Artificial Intelligence. AAI: Association for the Advancement of Artificial Intelligence. Un incontro di accademici e di ricercatori che lavorano per Ibm, per Google, per Facebook, non esattamente il contesto dove è più facile esprimersi criticamente e liberamente sull'Intelligenza Artificiale.

“As the first knowledge worker whose job was threatened by a machine, I'm happy to share my positive message about the future of the human-machine relationship”, scrive Kasparov in un tweet, rilanciato dalla AAI sull'home page del proprio sito.¹ “Come primo knowledge worker il cui lavoro è stato minacciato da una macchina, sono felice di condividere il mio messaggio positivo sul futuro del rapporto uomo-macchina”.

Pensavamo di essere imbattibili

“Pensavamo di essere imbattibili”, dice Kasparov, rispondendo alle domande di Will Knight, senior writer di Wired.² “La cosa importante è imparare dai nostri errori, e dalle esperienze negative”. “La spiacevole esperienza del 1997 mi ha aiutato a capire il futuro della collaborazione uomo-macchina”. E la mia posizione di sconfitto dalla macchina, “mi aiuta a comunicare un messaggio al pubblico”. “Perché sapete”, aggiunge, “nessuno può sospettare che io sia a favore dei computer”.

Che messaggio vuole dare al people, chiede allora l'intervistatore. People: che si traduca gente o persone, resta la fastidiosa impressione di come gli addetti ai lavori -esperti e comunicatori, Tecnici e Guardiani- si rivolgono ai cittadini, intesi come incapaci di comprendere. Così si convoca a parlare alla gente, ospite remunerato al convegno, il campione di scacchi, nobilitato agli occhi dell'opinione pubblica dal suo lavoro di oppositore del governo di Vladimir Putin.

“Penso”, risponde Kasparov, “sia importante che il people riconosca l'inevitabilità della situazione”. Saggio principio accettare i dati di realtà. L'Intelligenza Artificiale esiste influisce sulla vita di ogni cittadini. Ma Kasparov aggiunge subito: “Quando sento gridare che l'AI sta invadendo le nostre vite e le sta distruggendo, e che questo processo è troppo rapido, dico no, no, è troppo lento”.

Kasparov ammette che “non sappiamo esattamente cosa sia l'intelligenza”, e che “anche i tecnici e ricercatori all'avanguardia nella computer science hanno ancora dubbi su cosa stiamo facendo esattamente”. “Non so come l'AI si svilupperà”; ma tanto vale cessare di interrogarci, ed accettarla come “great tool to achieve something that was impossible 10, 20 years ago”.

Ripete quindi la giustificazione sulla quale si erano trovati d'accordo Oppenheimer e Teller: “sappiamo dalla storia che il progresso non può essere fermato”. E quindi, lui russo, ammonisce: se limiterete lo sviluppo dell'Intelligenza Artificiale “in Europa, o in America, non farete altro che dare un vantaggio ai cinesi”.

Eccolo quindi tessere le lodi di AlphaZero, la macchina sviluppata da DeepMind -società del gruppo Alphabet, la casa madre di Google- che sconfigge gli esseri umani non solo a scacchi, ma anche a ben più complessi giochi: Go, shogi.

Simbiosi?

Se la novità va ormai accettata, se “invece di lamentarci”, conviene guardare a “come possiamo andare avanti più velocemente”, resta da interrogarsi sul rapporto tra esseri umani e Intelligenze Artificiali.

Esiste, su questo tema, una letteratura sterminata. Già nel 1960 J. C. R. Licklider, psicologo convertito alla computer science, aveva definito il campo del possibile rapporto nella sua massima ampiezza. Si può immaginare, e si deve cercare, la Man-Computer Symbiosis.³ Simbiosi: cooperazione tra “two dissimilar organisms”, “living together in intimate association, or even close union”. E' in realtà difficile accettare che l'essere umano e il computer possano essere considerati, alla pari, “organismi viventi”: nel tentativo di sostenere l'ipotesi si rischia fortemente di definire in modo riduttivo la vita vissuta dall'essere umano, equiparandola alla 'vita' possibile per una o un'altra macchina.

Licklider ha comunque il merito di portarci a considerare come possa essere riduttivo e consolatorio il limitarsi ad intendere la macchina come una estensione del corpo e dell'intelligenza dell'essere umano. Conviene accettare, invece, che la macchina possa essere dotata di un propria autonomia, e che sia quindi in grado di sfuggire al controllo umano.

Ma restano interrogativi aperti. Parlare di simbiosi è dire tutto e nulla. Dato e non concesso che si possa parlare di vita riferendosi a una macchina, la simbiosi può essere associazione vantaggiosa per entrambi gli organismi, ma può essere parassitismo: al vantaggio di un partner può corrispondere il netto svantaggio per l'altro.

Torniamo così a chiederci: chi, tra essere umano e macchina, prevale. Chi governa.

In cosa consiste in realtà l'Human plus machine

E' interessante ascoltare a questo proposito l'opinione di Kasparov.

Kasparov è un practitioner, un professionista che, nell'ambito della propria attività, si è trovato a competere con una macchina, ed ha vissuto la dura esperienza: sconfitto dalla macchina.

Cosa intende dunque Kasparov quando dice: “It's time for humans and machines to work together”;⁴ cosa sostiene nel capitolo conclusivo del suo libro Deep Thinking,⁵ non a caso intitolato Human plus machine.

“Ci sono diversi tipi di macchine”, dice Kasparov a Will Knight. “Il ruolo dell'essere umano è capire esattamente di cosa ha bisogno ognuna di queste macchine per svolgere al meglio il proprio lavoro”. “Per esempio, guardiamo alla radiologia. Se abbiamo un potente sistema di IA, preferisco che ad usarlo sia un'esperta infermiera [experienced nurse] piuttosto che un eccellente primario [top-notch professor]”. La ragione? “Una persona che dispone di una modesta ma sufficiente conoscenza [decent knowledge] capirà il poco che deve aggiungere. Mentre il luminare della medicina vorrà sfidare la macchina. E questo distrugge la comunicazione tra uomo e macchina”.⁶

Dobbiamo ringraziare Kasparov per la chiarezza dell'esempio. Da quando è entrata in campo la cosiddetta Intelligenza Artificiale, non c'è via di mezzo: o primario o infermiera. Tra i due, meglio l'infermiera. Ecco a cosa si riduce il “messaggio positivo sul rapporto uomo macchina”: non disturbare la macchina, affidati a lei. Poniti al servizio della macchina.

Il titolo di Wired recita: “Il campione ha fatto la pace con l'AI”. Si capisce che Kasparov, traumatizzato dalla sconfitta di venticinque anni prima, si è arreso alle macchine e ai suoi costruttori. Di fatto, si è costruito una nuova carriera a partire dalla sua sconfitta. Ora lavora ad addestrare macchine, a migliorarle.

Questo -secondo i profeti della nuova scena digitale, ai quali Kasparov di è aggregato- sembrerebbe essere lo spazio concesso per il futuro ad ogni cittadino e ad ogni lavoratore. Ivi compresi coloro che svolgono le attività più sofisticate e complesse. Come quella del luminare della medicina.

Ci si aspetta da lui che trasferisca il suo sapere alla macchina; e che quindi addestri la macchina a svolgere il suo lavoro. Dopodiché, meglio si faccia da parte e lasci il posto ad una infermiera senza troppe pretese.

La cosiddetta Human Creativity e coloro che restano indietro

Automobili che si guidano da sole, fabbriche automatiche, macchine che prendono il posto dei professionisti più esperti. Nell'Era Digitale, ogni lavoro svolto da un essere umano, si dice, può essere sostituito dal lavoro di una macchina. L'ultimo lavoro che resta, l'unico lavoro che sembra garantito nel futuro all'essere umano, consiste nell'addestrare la macchina che prenderà il suo posto.

Ma allora, chiede l'intervistatore, che consigli ha per le molte persone -”a lot of people”- che restano, e resteranno, senza lavoro? “Ogni tecnologia, prima di creare posti di lavoro, distrugge i posti di lavoro”, inizia a dire Kasparov - sapendo bene che la risposta è ambigua e fuorviante: ogni precedente Rivoluzione Tecnologica riduceva gli spazi per il lavoro umano. Solo la Rivoluzione Digitale li esclude. E così aggiunge crudamente: “se si guarda alle statistiche, negli Stati Uniti solo il 4 per cento dei lavori [jobs] richiede creatività umana. Questo significa che il 96 per cento dei lavori, io li chiamo lavori zombie. Sono morti, solo che non lo sanno”.

Comincerà anche magari l'era dell'Human Creativity, come si legge nel sottotitolo del libro di Kasparov,⁷ ma solo per il quattro per cento degli esseri umani. Su questo quattro per cento dobbiamo puntare, dice. Per “coloro che sono rimasti indietro”, il 96 per cento dei cittadini, qualcosa ci inventeremo. Un “cuscinetto finanziario” per gestire la fase di transizione, “un reddito di base universale”.

C'è una tragica realtà politica, economica e sociale dietro le fantasmagoriche luci della civiltà digitale. A questo ci arrendiamo se cediamo alle macchine il governo.