L'informatica è prosecuzione della filosofia con altri mezzi. Dieci anni fa ponevo questa constatazione come sottotitolo al mio saggio Macchine per pensare. Al posto del filosofo sta oggi, a scrivere la conoscenza -o meglio: a ridurla a informazione, a impacchettarla, ingabbiarla, infiocchettarla- quell'ambigua figura che chiamiamo computer scientist. Solo il computer scientist conosce il codice tramite il quale oggi tutto deve essere scritto.
Attorno a lui una pletora di figure ancillari: neuroscienziati e cognitivisti, che partono nella loro ricerca dal considerare l'essere umano pari a una macchina computazionale; filosofi disposti ad autoridursi a mosche cocchiere, disposti a minimizzare il ruolo di cercatori e amanti della conoscenza attraverso un aggettivo: filosofi dell'informazione, filosofi tech, filosofi del prompt, filosofi dei new media...; disegnatori di esperienze del cittadino ridotto a utente (traducetevi da soli l'espressione inglese che, letta da noi, da lontano, opacizza il senso); esperti di posizionamento sui motori di ricerca; ottimizzatori della visibilità algoritmica...
Proseguite da soli nell'aggiungere altre figure alla lista. E ricordate che anche ogni scienziato è succube del computer scientist, perché alla ricerca, l'esperimento svolti con mezzi controllati direttamente dallo scienziato stesso è ormai pressoché universalmente sostituita la simulazione svolta tramite macchine computazionali. E ricordate che ogni medico è succube, dal momento in cui lo sviluppo dei farmaci passa attraverso simulazioni digitali; dal momento in cui la cura è sempre più affidata a macchine computazionali; fino al punto in cui ormai il medico stesso, nella quotidiana relazione di cura, non può fare a meno dell'ingegnere del software, del computer scientist. E ricordate che ogni manager è succube da quando ha accettato di gestire l'organizzazione aziendale tramite dati. E ricordate che ogni politico è succube, dal momento in cui l'organizzazione sociale è appoggiata su piattaforme digitali e lo stessi esercizio dei diritti civili appare possibile solo tramite supporti digitali. E ricordate, ancora, che infatti l'epopea della Silicon Valley si riduce a questo: la nuova élite manageriale, imprenditoriale e politica è l'élite dei computer scientist.
Tutte queste figure -e tra di loro anche ognuno di noi come cittadini- sono in realtà oggi dipendenti e succube. Perché non sanno scrivere il codice.
La classe egemone è la classe degli scrittori del codice. Nuovi scribi.
Facile ricordare che la classe degli scribi è sempre esistita. Ma sono sempre rimaste aperte, fino al Ventesimo Secolo, spazi di vita e quindi di libertà non soggette al controllo degli scribi. Un esempio è la libertà dell'oralità di fronte ad ogni tipo di scrittura. Il testo è scritto, ma resta la libertà di reinventarlo nell'oralità. La norma è scritta ma restano territori dove il dominio della norma non giunge.
Oggi anche l'oralità è assoggettata al codice digitale. Si considera ormai normale ascoltare la voce dell'altro, anche dell'altro vicino a noi, qui ed ora, tramite una macchina digitale. Tramite il codice noto solo ai nuovi scribi. Oggi il dominio del codice digitale è capillare e pervasivo. Anche ogni angolo nascosto, ogni vicolo o periferia, ogni zona amazzonica del pianeta è soggetta al codice digitale.
Tramite l'obbligatoria ed esclusiva registrazione di ogni conoscenza umana per mezzo di codifica digitale si giunge alla alienazione per via digitale. L'essere umano è estraniato e separato dal proprio lavoro, dal prodotto del proprio lavoro, da ogni altro umano, dalla propria essenza.
Perché tutto è mediato da una macchina digitale di cui non domina il funzionamento; tutto è codificato in un linguaggio noto solo alla casta dei nuovi scribi.
I nuovi scribi e gli studenti di coding
Si potrebbe supporre o sperare che nella formazione del computer scientist esista una attenzione a questa rischiosa concentrazione di potere. Ma sappiamo bene che non è così. Non c'è nessun accenno significativo a questi temi nei programmi didattici dei Dipartimenti di Informatica. Anche perché, come ho ricordato sopra, i primi ad arrendersi sono stati i filosofi, accorrendo in fretta a cantare la novità digitale.
Quando il potere c'è, ed è così concentrato, e forte, ed esclusivo, viene esercitato. La formazione dei nuovi adepti alla casta finisce per essere, implicitamente, formazione a contribuire a perpetuare il dominio.
Dunque non risolve nulla lo sminuire, osservando una continuità storica che lega il passato al presente. E' vero che la casta degli scribi è esistita. Ma nessuna casta degli scribi è mai stata potente come quella dei computer scientist, perché mai prima tutto ciò che conta è stato scritto in un codice ignoto ed inaccessibile sia a cittadini che a sovrani.
I tentativi di democratizzare questa situazione sono patetici. Insegnare coding -rudimentali basi della codifica digitale- in tutte le scuole di ogni ordine e grado del pianeta non è la soluzione. Anzi è cadere dalla padella nella brace. Cosa può apprendere di fatto tramite le lezioni di coding? Magari a far muovere un pupazzetto malamente disegnato su uno schermo. Cosa fa pensare questo allo studente? Fa pensare all'enorme, incommensurabile distanza tra ciò che mi è possibile apprendere a fare e la sofisticata bellezza di un computer game.
E' evidente qui una differenza. La scuola elementare di ogni luogo del pianeta insegna ad ogni cittadino il codice che presiede alla scrittura. Ogni nuovo virgulto della società umana, apprendendo a leggere e a scrivere, apprende ad essere cittadino. Può leggere ogni libro esistente. Può scriverne di nuovi.
L'arte su cui si appoggia il potere del computer scientist è ben più difficile da apprendere dell'arte di leggere e scrivere con una penna, su carta. Ma sopratutto l'arte del computer scientist è differente dall'arte implicita in ogni precedente forma di codifica conosciuta da noi umani.
Il computer scientist scrive codice illeggibile per gli umani. Scrive codice destinato ad essere letto da una macchina, che quindi restituirà agli umani solo ciò che il computer scientist ha previsto venga restituito.
Due sole alternative appaiono così alla vista dello studente di coding. La via dell'utente, che si appaga del muoversi dentro le regole stabilite dal computer scientist disegnatore del computer game. E la via dell'entrare a far parte della casta dei computer scientist disegnatori di computer game.
Tutti noi, in effetti, siamo oggi nelle stesse condizioni dello studente di coding. Siamo indotti ad osservare il nostro essere-nel-mondo come riduttiva alternativa tra l'essere schiacciati nella sudditanza crescente che emana dalle macchine digitali e l'appartenere, almeno con un ruolo ancillare, alla nuova élite di costruttori ed addestratori della macchina digitale.
Con vari motivi si può arrivare a dire che la divaricazione tra computer scientist e cittadino ridotto a utente di costrutti digitali è la manifestazione estrema, ed esemplare, della drammatica divaricazione tra ricchezza e povertà che caratterizza la società odierna.
Questo è l'argomento che ho sviluppato nel libro Le cinque leggi bronzee dell'era digitale.
Lì ponevo come sottotitolo: E perché conviene trasgredirle. Questo è l'urgente e difficile compito politico di oggi.
Reazioni insufficienti e vie di fuga
Di fronte a questa situazione, esistono ovviamente reazioni politiche.
La reazione forse più significativa è quella praticata da computer scientist dotati di coscienza sociale e spirito critico. La posizione esemplare, qui, è quella dell'hacker. L'hacker incarna il progetto di rovesciare la conoscenza del codice in rottura, svelamento del codice.
Resta un gravissimo problema. Anche l'hacker è un computer scientist; ed anzi, si può ritenere, è il computer scientist più fine e capace. L'arte dell'hacker, in fondo, è l'esercizio più sottile, più estremo, dell'arte del computer scientist. Solo noi che sappiamo scrivere il codice potremmo arrivare a romperlo.
Il dominio della casta è così confermato.
Cosa sto cercando di dirvi?
Sto cercando di dirvi che sulle spalle di ogni computer scientist grava un pesantissimo fardello. Ogni computer scientist vive una tribolazione, un angoscioso affanno.
Se questa inquietudine è poco vista, è poco osservata, è proprio perché la cultura digitale, orientata ad osservare gli umani come macchine, non è più capace di incisive osservazioni sociologiche e psicologiche. O meglio: ha rinunciato a riflessioni sociologiche e psicologiche. Ha scelto di evitare osservazioni sociologiche e psicologiche.
Come sempre chi ha potere sceglie di non vedere le catene che lo avvincono. Il computer scientist – e con lui la pletora di figure ancillari che lo seguono- non vogliono vedere le catene che li avvincono. I pesi morali che li schiacciano.
Non vogliono vedere il peso implicito nell'aver tradito la loro stessa umanità, scrivendo ogni cosa che conta in un linguaggio che solo le macchine possono capire; asservendo gli umani al dominio della macchina; il peso di aver obbligato gli umani a subire la mediazione della macchina in ogni relazione tra umani.
Il computer scientist non riesce a pensare di poter cambiare posizione; e nemmeno lo vuole, perché si tratterebbe di rinunciare al ruolo sul quale si appoggia l'immagine di sé, la propria autostima.
Ormai tutto ciò che conta è scritto in codice digitale. Ogni conoscenza umana è trasformata in dati, e solo ricorrendo a macchine digitali ogni umano può averne indietro almeno una parte...
Enorme peso morale grava sulle spalle della figura sociale che ha creato questa situazione.
Il computer scientist non può, non vuole, prenderne coscienza. Cosa fa allora? Non potendo ormai tornare indietro, va avanti. In un modo che consiste, in sostanza, nel lavarsene le mani.
Inventa, come mito in parte, come costrutto tecnico per un altra parte, la cosiddetta intelligenza artificiale.
Se il Ventesimo Secolo è stato il tempo dell'affermarsi del codice digitale come mezzo di espropriazione delle conoscenze degli umani, il Ventunesimo Secolo vede un passaggio ulteriore.
Nel Ventunesimo Secolo appare compiuto il progetto che Turing aveva iniziato: sostituire la macchina a se stessi.
Il computer scientist oggi dice: metto una macchina al mio posto. Sarà d'ora in poi la cosiddetta intelligenza artificiale, non più io, a scrivere il codice che contiene ogni conoscenza umana. Sarà d'ora in poi la cosiddetta intelligenza artificiale a restituire qualcosa agli umani della conoscenza umana codificata in un modo ignoto agli umani.
L'ultimo codice scritto dal computer scientist è il codice che insegna alla macchina a prendere il posto del computer scientist. Di questo si vantano oggi -o si mostrano sorpresi, o preoccupati- i computer scientist: non so come funziona la scatola nera dell'intelligenza artificiale.
Le differenze tra vanto, sorpresa e preoccupazione sono in fondo irrilevanti.
L'arroganza di una professione dominante termina in una catastrofe morale: me ne lavo le mani.
Risposta politica
Essendo il computer scientist colui che ha determinato l'alienazione delle conoscenze umane tramite l'imposizione della codifica digitale, essendosene poi il computer scientist lavato le mai costruendo la macchina detta 'intelligenza artificiale', non potremo nutrire nessuna fiducia in lui nel momento in cui andiamo in cerca di una soluzione politica all'impasse.
Più che affidarsi ancora una volta al potere dei computer scientist, si tratta di svelare il loro potere.
Svelarlo agli occhi dei computer scientist stessi, e di ogni cittadino.
Svelare il potere significa: cogliere il punto in cui il potere si fa autorità. Svelare il potere significa individuare il momento preciso della metamorfosi in cui la forza bruta diventa un comando accettato.
Il potere si manifesta come capacità di influenzare o costringere: oggi si manifesta evidentemente tramite il dominio del codice digitale. L'autorità è un potere che ha ottenuto il diritto di comandare. Chi detiene oggi l'autorità è la casta dei nuovi scribi, i computer scientist.
Svelare il potere significa capire quando una persona o un'istituzione smettono di obbligarti con la forza e iniziano a farti obbedire perché riconosci loro un primato morale o intellettuale. Riconosciamo il primato intellettuale a coloro che costruiscono macchine computazionali e definiscono il linguaggio con il quale codificare le conoscenze tramite macchine computazionali. Ma abbiamo finito anche per riconoscere loro un primato morale. Ogni cittadino oggi si inginocchia e chiede indicazioni agli esperti: in ultima analisi i computer scientist, coloro che conoscono e usano il codice digitale, il codice con il quale si parla alle macchine.
Cogliere il passaggio tra potere e autorità implica il comprenderne la fragilità. Se l'autorità non è altro che potere travestito da prestigio, allora svelarlo significa privarlo della sua maschera. L'autorità poggia sul rispetto. Il primo passo nell'agire politico oggi necessario consiste nello smettere di avere rispetto reverenziale nei confronti dei computer scientist.
Che rispetto dovremmo nutrire nei confronti di un computer scientist, costruttore di macchine e addestratore di macchine, che sostiene che il futuro ormai segnato per noi umani è co-evolversi insieme alle macchine costruite per alienarci dalle nostre conoscenze? Che rispetto dovremmo avere per un computer scientist che pretende di insegnarci come vivere interfacciati con macchine?
Il computer scientist che dice 'non è più colpa mia, è la macchina' sta svelando il suo fallimento come autorità. Ha creato uno strumento che non può più controllare, trasformando l'autorità -che comporta responsabilità- in violenza burocratica o tecnica.
Dire che il potere è oggi della macchina, dell'intelligenza artificiale, è l'ultimo trucco del computer scientist che prendente di veder riconosciuta una autorità indiscutibile. E, in realtà, un modo per nascondere il potere dell'uomo dietro un paravento tecnico. È qui che il potere del computer scientist si fa autorità suprema: nell'atto di rendersi invisibile e dichiararsi 'impotente' di fronte alla sua stessa creatura.
Se la macchina 'ha potere', è perché qualcuno, umano, le ha concesso lo spazio per esercitarlo.
Quindi svelare il potere significa oggi evitare di cadere nel gioco elusivo di chi -i computer scientist in primis- spinge i cittadini a guardare alle meravigliose capacità della macchina autonoma.
Svelare il potere significa dire al computer scientist: 'La macchina non ha 'preso il potere'; tu glielo hai delegato per non doverne rispondere'.
Perciò l'esigenza primaria nell'azione politica e culturale oggi necessaria consiste nell'evitare di stare al gioco che impone a tutti di parlare con la macchina, di guardare alla macchina, di considerare centrale nella nostra vita l'interazione con la macchina.
Ciò che è necessario oggi è l'abbandono di queste vie di fuga, ed il ritorno invece a guardare il faccia gli altri esseri umani senza mediazioni macchiniche.
Il primo interlocutore con cui è necessario oggi parlare e discutere, lungi dall'essere una macchina, è un umanissimo essere: il creatore di queste macchine. Il computer scientist.
Del suo operato dobbiamo discutere. Con lui dobbiamo discutere, richiamandolo alla responsabilità del suo agire.
Ecco quindi, anche, un invito a chi ha scelto di scrivere e di leggere sulla Stultifera Navis. Parliamo meno di intelligenza artificiale; parliamo di più di chi ha costruito intelligenze artificiali e le addestra, di chi ha lanciato il sasso e ora nasconde la mano.