Macchina per Governare

Martedì 15 dicembre 1944, mentre è ancora in corso l'ultima offensiva tedesca nelle Ardenne, esce a Parigi il primo numero di un nuovo quotidiano, Le Monde. Nella nostra epoca, si legge nell'editoriale, i popoli sono immersi in un flusso di eventi dove gli esseri umani sono non solo spettatori, ma sempre anche attori. La vittoria militare non potrà bastare, serve una riconciliazione collettiva, la giusta condivisione di una responsabilità comune.

Quattro anni dopo, il il 28 dicembre 1948, esce sulla terza pagina del quotidiano un articolo a firma di P. Dubarle. Il titolo recita: Vers la machine à gouverner... I puntini di sospensione parlano di come il concetto dovesse sembrare ardito agli occhi degli stessi redattori. Gli altri elementi del titolo lo confermano. Nell'occhiello si legge: Une nouvelle science: la Cybernetique. Il sottotitolo è una domanda: La manipulation mécanique des réactions humaines créera-t-elle un jour "le meilleur des mondes"? Segue un breve sommario: Les premiers grands relais du cerveau humain - Le dépassement du système nerveux - Les processus de la pensée probabiliste - Vers le bonheur (?) statistique des masses. I temi che settant'anni dopo ci appaiono nuovissimi sono qui già pienamente annunciati.

La manipolazione digitale dei comportamenti umani. L'illusione di un mondo migliore. La felicità garantita ad un popolo ridotto a massa. L'intelligenza artificiale. Le neuroscienze. I modelli di simulazione. Gli algoritmi e l'analisi predittiva. Il tutto sintetizzato da quel titolo: La Macchina per Governare.

Si tratta, almeno in apparenza, della recensione del saggio del matematico statunitense Norbert Wiener, Cybernetics. Or control and communication in the animal and the machine, appena uscito a Parigi, in inglese, per l'editore Hermann & Cie.¹

Grandi macchine matematiche, ovvero computer

Dominique Dubarle, padre domenicano, filosofo, logico, cappellano dell'Union Catholique des Scientifiques Français, inizia ricordando che “Il pubblico comincia ora a farsi un'idea delle grandi macchine matematiche costruite negli Stati Uniti nell'ultimo decennio circa. Sono in grado di svolgere milioni di operazioni elementari in un tempo molto breve”. Con l'aiuto di queste macchine “la traiettoria di un proiettile viene determinata in trenta secondi, meno tempo di quello necessario al proiettile stesso per raggiungere il suo obiettivo: un'abile calcolatore [umano] impiegherebbe almeno due giorni per fare questo lavoro”. Ma subito precisa: “siamo solo assolutamente all'inizio della serie di possibili realizzazioni in questo senso. Possiamo sperare di creare entro breve tempo macchine funzionanti ancor più velocemente, capaci di affrontare problemi molto più estesi e più complicati con mezzi materiali molto meno costosi di quelli delle macchine attuali”. “I primi grandi sostituti [relais] del cervello umano sono appena nati. Fatte le proporzioni sono così nuovi, così potenti rispetto ai consueti strumenti di calcolo quanto lo è un tornio automatico rispetto alla lima del fabbro”. “Queste creazioni sono ancora in piena infanzia. Ma i primi balbettamenti di questa tecnica nuova testimoniano già un evidente surclassamento delle capacità organiche del cervello umano ”.

Dubarle aggiunge un commento: “Il fatto è verosimilmente ancora più importante della conquista dell'energia nucleare e della realizzazione della bomba atomica”. Commento significativo, perché formulato nel momento storico in cui l'energia nucleare -arma o risorsa civile, potenzialità o minaccia- è al centro dell'attenzione pubblica, politica, umanistica, scientifica. Dubarle sembra scegliere una collocazione mediana. Vede le conseguenze sociali, ma è affascinato dalla novità.

Non dobbiamo limitarci a considerare queste prime macchine, precisa, dobbiamo fin d'ora guardare ad “altre macchine la cui costruzione si mostra talvolta già possibile, e talvolta realizzabile in un periodo di tempo più o meno breve”. Ed eccolo elencare. Macchine per supplire ad un senso mancante, come permettere ad un cieco di leggere. Macchine per vagliare le informazioni ”, in grado di garantire l'accesso alla “totalità delle produzioni della mente”. Macchine per la gestione di servizi, come la gestione bancaria. Macchine da gioco: “si può concepire una macchina capace di giocare a scacchi meglio di ogni giocatore di medie capacità”.

“Tutte queste macchine”, spiega a questo punto Dubarle, “hanno un carattere comune. Raccolgono dei dati”. A partire dai dati “lavorano metodicamente attorno ad un determinato problema” “fino a fornire una soluzione e, se necessario, eseguire ciò che tale soluzione prescrive”. Sintetizzando, “sono macchine per la raccolta e l'elaborazione di informazioni in vista di risultati sia di decisione che di conoscenza”.

Dubarle alza poi lo sguardo dalle macchine a come il loro avvento comporti un mutamento di scenario. “Queste macchine di tipo così nuovo”, “propongono [supposent] connessioni completamente nuove tra scienze che sembrano a prima vista molto lontane l'una dall'altra”; e allo stesso tempo “permettono di decifrare per analogia [...] i meccanismi di alcuni funzionamenti organici che sono alla base della nostra vita mentale”.

Un libro straordinario, misteriosamente intitolato Cybernetics

Solo a questo punto Dubarle passa a parlare del libro: “un libro straordinario, misteriosamente intitolato Cybernetics or control and communication in the animal and the machine”.

“Questo libro è l'atto di nascita di una nuova scienza”. La realizzazione di macchine matematiche ha costretto “logici, statistici, elettronici, ingegneri delle comunicazioni, biologi, specialisti del sistema nervoso e persino psicopatologi a incontrarsi su un campo di lavoro altamente composito, per intrecciare [enchevêtrer] i loro problemi nei modi più inattesi”. “Stupefacenti analogie sono apparse da un campo all'altro”. La science nouvelle “riguarda [suppose] essenzialmente la scoperta e lo sfruttamento sistematico di queste analogie”.

Quindi, con efficacissima sintesi, pur senza citar nomi, Dubarle descrive la macchina Turing, l'architettura di von Neumann, le reti neurali di Mc Culloch e Pitts. “La machine à calculer électronique si rivela sorprendentemente simile al sistema nervoso”. “Possiamo immaginare quali prospettive si aprono da un lato a chi studia il funzionamento del sistema nervoso e dall'altro a chi studia possibilità di realizzare macchine per pensare [machines à exécuter les tâches de la pensée]”.

Qui tocca il punto che veramente l'interessa. “Una delle prospettive più affascinanti che così si aprono è quella della conduzione razionale dei processi umani, in particolare di quelli che interessano le comunità e che sembrano presentare una certa regolarità statistica, come i fenomeni economici o i cambiamenti di opinione”.

Si chiede: “Non potremmo forse immaginare una macchina per raccogliere questo o quel tipo di informazioni, ad esempio sulla produzione e sul mercato, per poi determinare, sulla base della psicologia umana media e delle misure che possono essere adottate in un dato momento, quali saranno gli sviluppi più probabili della situazione?”. La domanda retorica che segue è ancor più chiara: “Non si potrebbe forse addirittura concepire una apparecchiatura di stato [appareillage d'état] in grado di coprire l'intero sistema delle decisioni politiche, sia in un regime di una pluralità di Stati che convivono nel pianeta, sia nel regime apparentemente molto più semplice di un unico governo del pianeta?”. “Niente oggi ci impedisce di pensare a questo”.

E ancora : “Possiamo sognare un tempo in cui una macchina per governare avrà sostituito -nel bene o nel male, chissà?- l'insufficienza al giorno d'oggi palese nelle teste e negli apparati della politica”. Non solo crede possibile lo scenario; è anche fortemente tentato di ritenerlo auspicabile. Ogni cittadino potrebbe forse essere d'accordo, posto com'è di fronte all'incompetenza dei governanti, alla corruzione e agli interessi privati, all’inefficienza della burocrazia.

Nel passo successivo Dubarle esamina gli aspetti problematici della sua visione “posti dal volume di informazioni da raccogliere ed elaborare rapidamente”. E poi c'è da considerare le caratteristiche di queste informazioni. “Le realtà umane non possono essere definite in modo puntuale e certo, come nel caso dei dati quantitativi esattamente calcolabili [données chiffrées du calcul], ma solo come valori probabili. Quindi qualsiasi macchina che abbia a che fare con i processi umani ed i problemi che essi pongono dovrà adottare lo stile del pensiero probabilistico invece degli schemi esatti del pensiero deterministico”.

“I processi umani sono giochi con regole incomplete e soprattutto dipendenti dal tempo. La variazione delle regole dipende tanto dall'effettiva materialità delle situazioni generate dal gioco stesso quanto dal sistema di reazioni psicologiche dei partner ai risultati ottenuti in ogni istante”.

Le attuali “machines à calculer”, dice Dubarle, non sono adeguate. Non lo sono nemmeno le macchine di cui disponiamo settant'anni dopo, quando ancora si cercano Machine learning algorithms capaci di crescere fino ad una perfetta comprensione degli esseri umani e del mondo. Ma non dispera: la natura probabilistica delle umane realtà “complica molto le cose, ma non le rende impossibili”. E le macchine avranno una capacità di calcolo sempre più alta.

Insiste quindi nell'immaginare la Macchina per Governare.

Pensiero calcolante e automazione della verità

“I processi umani che sono oggetto del governo sono giochi simili a quelli che von Neumann ha studiato matematicamente, sono però giochi solo parzialmente regolati, con un gran numero di attori autonomi [meneurs] e con grandi quantità di dati [à données assez multiples]”.

“La machine à gouverner”, continua, “definirebbe lo Stato come “l'attore [meneur] più avveduto su ogni piano particolare, e come l'unico coordinatore supremo di tutte le decisioni parziali”. “Privilegi enormi che, se acquisiti scientificamente, permetterebbero allo Stato di costringere in ogni circostanza qualsiasi giocatore diverso da lui a questo dilemma: o la rovina quasi immediata, o la cooperazione secondo i piani”.

Dubarle sintetizza efficacemente la teoria dei giochi di von Neumann e i successivi studi sui giochi non cooperativi dei primi Anni Cinquanta.² E sembra anche prevedere gli studi sui giochi cooperativi della fine degli Anni Cinquanta e negli Anni Sessanta, dove si assume che gli scopi dei giocatori non siano necessariamente in opposizione tra loro, e che una comunanza di interessi possa essere portata alla luce. Non a caso, la teoria dei giochi di von Neumann è la base teorica della Guerra Fredda, fondata sull'equilibrio del terrore, che termina quando si affaccia la consapevolezza di una possibile convivenza pacifica.

Il gioco immaginato da Dubarle, dunque, è un n-person games dove i giocatori, i cittadini, attingono alla cooperazione - “e tutto questo solo giocando il gioco, senza violenza straniera”. C'è però, necessaria, la violenza dello Stato. I cittadini cooperano, attenendosi a quanto pianificato, solo perché temono i Super Poteri del Super Giocatore, lo Stato, unico supremo coordinatori di decisioni che resterebbero altrimenti parziali.

Con ancor maggiore precisione spiega: affinché non sia infruttuosa la “manipolazione meccanica delle situazioni umane” e il sistema goda di “stabilità matematica”, serve almeno una di due condizioni. La prima: “una sufficiente incoscienza della massa”, per la quale del resto “giocatori avvertiti potranno organizzare un dispositivo di paralisi della coscienza”. La seconda: “una sufficiente disponibilità ad affidarsi ad uno o pochi attori [meneurs], arbitrariamente privilegiati in vista della stabilità del gioco stesso”. Dubarle, dunque, geniale e visionario, sa ammirabilmente anticipare il tipo di Governo e la forma dello Stato che appaiono praticabili dell'Era Digitale.

Vediamo qui riapparire i sempre vivi, i Guardiani e i Sovrani illuminati. E cittadini ridotti a sudditi, a massa, a api di un alveare.

Ma ora, ad agire nel supremo interesse della Stabilità del Gioco, non sono più Guardiani e Sovrani in carne ed ossa. Il loro compito è affidato ad una Macchina, più di loro efficiente. La Macchina per Governare -o meglio: la Macchina Che Governa- sembra liberare dal peso della propria responsabilità il Sovrano, ogni Guardiano, ed anche lo stesso tecnico costruttore della macchina.

Traspare qui la sua fiducia nella matematica, nella logica. Risorse ultime alle quali si suppone l'essere umano debba affidarsi. Un atteggiamento che avvicina Dubarle a Turing. Esce nel 1936 l'articolo in cui Turing scrive di come il comportamento umano potrà, dovrà essere comparato con il comportamento di una Computing machine. Alcuni mesi dopo appare un articolo di Dubarle dedicato a Cartesio e la sua proposta di sostituire la realtà fisica con rappresentazioni matematiche. Si afferma così, scrive, la superiorità della “pensée calculatrice” il pensiero calcolante, su ogni altra manifestazione del pensiero. Si afferma anche l'“automatisation de la verité”, l'automazione della verità.³

Così Dubarle finisce per ammettere: “Noi rischiamo oggi un'enorme città mondiale in cui l'ingiustizia primitiva deliberata e consapevole sarebbe l'unica condizione per la felicità statistica delle masse, un mondo che apparirà a qualsiasi mente lucida [âme lucide] peggiore dell'inferno”.⁴

Dubarle non riesce, o non vuole uscire dall'ambiguità. Nel mentre sogna l'automazione della verità, incarnata nella Macchina Che Governa, nota al contempo gli aspetti foschi di questa prospettiva.

Uno scambio epistolare

Dalla pubblicazione dell'articolo nacque uno scambio epistolare tra Wiener e Dubarle. Wiener, impressionato dalla recensione, dedicherà poi alla Machine à Gouverner grande attenzione nella seconda edizione di The Human Use of Human Beings, versione divulgativa di Cybernetics.⁵ Dopo due pagine di pura citazione dell'articolo apparso su Le Monde, Wiener commenta: “Non c'è da temere che la machine à gouverner di Padre Dubarle possa raggiungere un controllo autonomo sull'umanità. È troppo rudimentale e imperfetta per avvicinarsi ad una millesima parte del comportamento consapevole ed indipendente [purposive independent behavior] dell'essere umano”.

“Il vero pericolo, ben diverso, consiste nel fatto che le macchine, sebbene impotenti da sole, possano essere usate da un essere umano o da un gruppo di esseri umani per aumentare il loro controllo sul resto della razza umana”.

Ciò che sostiene Wiener vale ancora dentro il Ventunesimo Secolo, nonostante le magnifiche promesse dell'Intelligenza Artificiale. La macchina è troppo rudimentale per governare veramente, in modo autonomo. Ciò che è da temere è la tendenza delle classi politiche verso regimi autocratici e dispotici. Tendenza accelerata e sostenuta dalla disponibilità di macchine digitali. A questo si aggiunge la propaganda. Un aspetto significativo del potere politico consiste proprio nell'ostentare la potenza della macchina, la crescente autonomia dell'Intelligenza Artificiale. Il tradizionale potere si nasconde dietro la Macchina.

Forse fortunatamente...

Del resto lo stesso Dubarle scriveva che comunque “e forse fortunatamente, non è cosa che avremo in un domani molto vicino”.

Merita un commento il “forse fortunatamente”. E' scappatoia molto diffusa, nel paventare l'avvento di macchine che si autogovernano e governano, il trovare respiro nel dirsi: 'sì, forse accadrà, ma in tempi futuri; non dobbiamo quindi preoccuparcene, per ora'. E' una posizione criticabile. Chi costruisce ed usa le nuove macchine non vuole che ci preoccupiamo. E' importante rileggere l'articolo di Dubarle, proprio perché ci spinge a preoccuparci qui ed ora, immediatamente. Senza preoccupazione non c'è reazione.

Dubarle chiude l'articolo notando che “non sarebbe forse una cattiva idea per i gruppi di lavoro che stanno creando la cibernetica aggiungere ai loro tecnici provenienti a ogni ramo della scienza [à leurs techniciens venus de tous les horizons de la science] qualche serio antropologo e forse anche un filosofo curioso di queste cose”.

Non è davvero una cattiva idea. Dovrebbe però essere un filosofo un po' diverso da Dubarle, troppo incline a piegarsi alle ragioni della tecnica.