La contrapposizione riduzionistica a cui mi riferisco qui è quella che oggi vede schierate due formazioni opposte, una tecnofila celebrativa, entusiasta e a favore delle meraviglie progressiste dell’Intelligenza Artificiale, l’altra pessimista, catastrofista, o ritenuta tale, perché spaventata dalla possibilità che, grazie alle IA, le macchine possano prendere il sopravvento sulla capacità umana di prendere decisioni nel mondo reale, portando a scenari apocalittici di disoccupazione di massa o estinzione della specie.
Prendere posizione non è sufficiente
Prima di prendere posizione sarebbe bene che ognuno, tecnofilo o apocalittico che sia, si impegnasse a cercare di comprendere la rivoluzione “aliena” in corso, i suoi “codici stranieri”, i suoi effetti e le sue conseguenze, la sua pervasività e il ruolo che l’IA potrebbe avere sugli scenari futuri della specie umana sulla Terra.
ognuno si dovrebbe oggi impegnare a comprendere la rivoluzione “aliena” in corso, i suoi “codici stranieri”, i suoi effetti e le sue conseguenze, la sua pervasività
Comprendere passa attraverso la conoscenza, il pensiero critico e l’approfondimento. Le buone pratiche da adottare sono il dubitare, il porsi delle domande su quanto illusorie e sconsiderate siano oggi le tante scommesse che vengono fatte sulla IA, quando in ballo non c’è la semplice soddisfazione di un bisogno o di una domanda ma il nostro futuro come umani. Non è un caso che, divorati dai dubbi, domande se le pongano oggi anche molti di coloro che stanno dentro la comunità tecnologica dell’IA, interrogandosi su cosa potrebbe succedere se qualcosa andasse storto e sul fatto che siamo impegnati a costruire entità sempre più “intelligenti”, molto più potenti e performanti degli esseri umani.
L’IA è una questione prettamente politica
La sfida dell'IA non è tecnica ma eminentemente politica: riguarda come vogliamo organizzare il potere, distribuire i benefici e la ricchezza, difendere i diritti, evitare la guerra, proteggere i vulnerabili, preservare l'autonomia umana, ecc. La sfida è grande perché per la prima volta l’IA sta dando corpo a una nuova forma di potere, pervasiva, globale, aggressiva, diversa da qualsiasi altra forma di potere precedente legato alla tecnica (tecnologia).
La rivoluzione industriale è stata una delle tappe nelle quali la tecnica ha giocato un ruolo chiave, ma l’automazione che ha determinato riguardava mezzi e strumenti, percepiti come pur sempre sotto il controllo umano.
Oggi l’IA sta dentro un universo mondo nel quale pretende di dettare i fini. Lo fa a partire da semplici dati, trasformando tutto in dati, compresi i singoli individui. Su tutto ciò e sull’evoluzione (accelerazione) futura delle IA siamo tutti chiamati a riflettere e a dialogare tra di noi per comprendere quali potrebbero essere le conseguenze di una tecnologia che aspira a essere autonoma e a governare il mondo che conosciamo.
La conversazione auspicabile da sviluppare su questi temi non può essere binaria, richiede tutta la ricchezza del pensiero complesso.
Le domande che tutti dovrebbero porsi non riguardano la tecnologia in sé, ma i suoi effetti.
Tra le conseguenze ci sono infatti fenomeni non banali come la rinascita del (tecno)fascismo, la diffusione della sorveglianza e del controllo, la crisi ambientale, delle democrazie e il venire meno del contratto sociale che le caratterizzava, la scomparsa della verità, la manipolazione semantica (storytelling conformistico, disinformazione e fake news) della realtà e molto altro.
L’IA si è presa in carico, con il nostro beneplacito e la nostra complicità, di disegnare per noi gli scenari futuri.Siamo contennti di lasciarglielo fare?
Un altro effetto, già visibile e percepibile nel dibattito pubblico in corso, è la deriva opaca, per nulla trasparente, antidemocratica del potere che l’IA (imprenditori, scienziati, tecnici che la controllano fino a quando il suo controllo non sfuggirà loro) sta assumendo. Il suo potere nasce dai dati, dal loro accentramento e controllo, dall’uso che ne fa, per prendere decisioni e raggiungere obiettivi in autonomia e non necessariamente benefici o vantaggiosi per gli umani. L’IA si è presa in carico, con il nostro beneplacito e la nostra complicità, di disegnare per noi gli scenari futuri. Ne deriva un effetto collaterale che ci differenzia dai nostri antenati. Pur disponendo di minori dati e poche informazioni loro erano comunque in grado di fare progetti e pianificare il loro futuro per sé stessi e per i loro discendenti.
Noi viviamo immersi dentro un sovraccarico di dati e di informazioni ma siamo sempre meno capaci di costruire e prevedere il nostro futuro. Abbiamo delegato tutto alla tecnologia e senza di essa ci sentiamo sempre più incerti, incapaci, insicuri, anche perché abbiamo perso la sicurezza che nasce dalla conoscenza e dal sapere che nascono dall’accesso al significato più profondo e non superficiale delle cose.
“Se per raggiungere i nostri scopi usiamo un ente meccanico senza poter interferire efficacemente con il suo funzionamento […] sarebbe meglio essere assolutamente certi che lo scopo immesso nella macchina sia lo scopo che desideriamo davvero” (Norbert Wiener – Some Mpral and Technical Consequences of Automation)
Il mantra dello storytelling IA che ci accompagna
La rivoluzione della IA è raccontata attraverso uno “mantra” maligno e perverso, perché non veritiero, purtroppo condiviso in modo superficiale e divertito da moltitudini do persone: più le IA sono intelligenti e meglio è. Ci serviranno meglio! Si tratta di un grave errore di (sotto)valutazione, che nasce anche dal non avere le idee chiare su cosa sia l’intelligenza umana (dell’Homo sapiens) e su cosa/quanto essa sia differente da quella delle macchine.
Se ci si limitasse anche solo ad associare l’intelligenza al raggiungimento di obiettivi, una prima considerazione da fare è che bisognerebbe sforzarsi a capire quanto gli obiettivi delle macchine intelligenti non siano propriamente i nostri, ma semplicemente i loro. Obiettivi per di più ad esse assegnati da esseri umani come noi, non necessariamente dalla nostra parte.
bisognerebbe sforzarsi a capire quanto gli obiettivi delle macchine intelligenti non siano propriamente i nostri, ma semplicemente i loro.
Celebrando una macchina sempre più intelligente dimentichiamo le conseguenze, anche morali ed etiche, derivanti da macchine intelligenti che, per perseguire e raggiungere gli obiettivi sbagliati in esse immessi, possono determinare la rovina dell’umanità, la nostra sconfitta. Sostituendo la celebrazione con una maggiore comprensione delle Intelligenze Artificiali potremmo arrivare a pensare a macchine che siano in grado di perseguire gli obiettivi di tutti gli esseri umani e non solo i loro, che poi sono quelli delle ristrette comunità di tecnocrati e tecnomonarchi, oggi alla conquista del potere sul mondo, che li hanno in esse codificati.
Serve uno sguardo più maturo
Assumere e coltivare uno sguardo più maturo, acquisire una migliore conoscenza e comprensione delle IA, potrebbe permetterne una valutazione critica, a partire da quali siano i benefici o i danni da essa generabili e da quanto essi sono oggi distribuiti in modo diseguale. I benefici che per alcuni potrebbero tradursi in una maggiore efficienza potrebbero essere annullati dai benefici che altri stanno ottenendo in termini di maggiore sorveglianza oppressiva e controllo. Un altro tipo di disuguaglianza sulla quale tutti siamo chiamati a riflettere è quella tra noi e le macchine. Non siamo ancora alla singolarità delle macchine, ma potremmo avvicinarci se le IA non verranno regolamentate o fatte evolvere con logiche, finalità e obiettivi diversi, collegati al bene comune e non meri strumenti di profitto, potere, sorveglianza e controllo.
L’IA non va vista come un evento tra i tanti della storia evolutiva (tecnologica) umana, ma dentro un processo di co-evoluzione di ambienti tecnologici e sociali, di macchine e umani. La co-evoluzione avviene in primo luogo là dove l’IA viene sviluppata, implementata, adottata, regolata, attraverso scelte umane continue, là dove si trova a giocare un ruolo cardine in decisioni politiche, a confrontarsi con resistenze sociali e a innovazioni alternative. In questa co-evoluzione giocano un ruolo chiave la pluralità dei valori umani quali le dignità del lavoro, la privacy, l’autonomia individuale, la giustizia procedurale, ecc.
In questa co-evoluzione con l'IA dobbiamo stare attenti a evitare quello che ci è successo con i social network.
In questa co-evoluzione dobbiamo stare attenti a evitare quello che ci è successo con i social network. Ci siamo lasciati trasformare in “attori” passivi e complici di una servitù volontaria, che ci ha portato a credere ciecamente nella loro utilità, a lasciarci trasportare cognitivamente ed emotivamente dalla potenza delle macchine-IA.
Intelligenza umana e macchinica
Le macchine saranno anche diventate sempre più potenti e performanti, ma non saranno mai “potenti” come il cervello (la mente) umano. Pensare alla potenza della macchina come potenza computazionale è limitativo. La narrazione dominante della potenza macchinica fa oggi pensare che non ci siano più limiti. In realtà oltre ai limiti imposti dalla fisica, ci sono quelli che derivano che alcuni problemi umani sono e continueranno a essere indecidibili da parte di qualsiasi tipo di computer o macchina intelligente.
Il web rigurgita di narrazioni sulla capacità delle macchine di apprendere, sul loro deep learning. Molti dimenticano che è un apprendimento puramente guidato dai dati, non dall’esperienza. I dati entrano, i dati escono, in forma di risposte, ipotesi, soluzioni, ma nel mezzo c’è solo una scatola nera.
Molti dimenticano che l' apprendimento delle IA è puramente guidato dai dati, non dall’esperienza.
Manca un apprendimento cumulativo, come quello che ha caratterizzato nei secoli la comunità scientifica e l’esperienza di comuni esseri umani nel corso della loro vita. Una esperienza umana e scientifica, legata all’accumulo e alla trasmissione di conoscenza(e) e concetti da parte di migliaia (milioni) di persone che ha permesso all’umanità di accumulare concetti, teorie, dispositivi, grazie all’intuito (intuizione), illuminazione (immaginazione) e ispirazioni umane, per poi tramandarle per generazioni attraverso il linguaggio, le consuetudini, la socializzazione e le pratiche quotidiane.
Oggi molti si affannano a dimostrare che le IA sono dotate delle stesse capacità o lo saranno nel prossimo futuro, ma una architettura computazionale non può funzionare nel mondo reale. Nel mondo reale un agente IA, seppure intelligente e complesso, esiste e basta ma non può autonomamente intuire, immaginare, sperimentare l’ispirazione, o pensare a tutte le cose che potrebbe fare. Le macchine, le IA, non sono umane
Le macchine, con il nostro aiuto, stanno diventando sempre più intelligenti, in futuro potrebbero persino progettare e costruire altre macchine e farlo superando le capacità progettuali umane, con l’effetto che l’intelligenza dell’uomo si ritrovi molto indietro rispetto a quella della macchina.
Nel momento in cui collochiamo il nostro sapere nelle macchine, diamo loro il potere di governarci e governare la civiltà al posto nostro.
Una civiltà che non è nata per caso ma è il frutto di miliardi di persone che nella lunga storia dell’umanità hanno passato al loro vita ad apprendere e a insegnare, facendo in modo che la civiltà umana potesse progredire. Cosa resa possibile da una ricreazione (rigenerazione) continua delle menti delle nuove generazioni, attraverso la trasmissione di conoscenza(e) e di saperi.
La delega alle macchine che sta caratterizzando l’era delle macchine-IA rischia di rompere questo virtuoso meccanismo, di far venire meno l’incentivo a tenerlo attivo.
Qualora e quando venisse meno l’incentivo ad apprendere e a trasmettere la nostra civiltà umana alle nuove generazioni, quando la delega alle macchine sarà completa, quando ci si sarà pigramente seduti accettando la servitù volontaria che alle macchine già ci lega, tornare indietro potrebbe essere impossibile. A quel punto saremo tutti semplici viaggiatori di una “astronave” super-attrezzata e super-intelligente, che ci porterà a spasso come noi oggi portiamo a spasso i nostri animali domestici.