L'Illusione dell'Illimitato

Vorrei tranquillizzare tutti coloro che leggeranno questo articolo: non è la descrizione di un futuro distopico né tantomeno l’ennesimo articolo sulle magnificenze (vanno tanto di moda in questo periodo) o criticità (altrettanto di moda) dell’Intelligenza Artificiale.

 Questo articolo nasce, quindi, da riflessioni su alcune dinamiche del tempo presente (tra cui anche l’Intelligenza Artificiale); come ho già avuto modo di scrivere, ma non smetterò mai di ripeterlo la storia traccia la strada maestra e alcuni avvenimenti, anche se sembrano datati, andrebbero osservati con gli occhi di oggi e forse si potrebbero desumere risposte che mancano o che affannosamente si cercano di produrre. Inoltre, è d’obbligo ricordare che lo spirito di questo articolo è, attraverso vicende storiche o sociologiche, comprendere come, nella storia, ci siano stati dei déjà-vu che abbiamo completamente dimenticato.

 Il 1972 potrebbe rappresentare un anno come tanti nella strada dell’umanità: a ben guardare, invece, potremmo definirlo l’anno in cui la modernità si scontra con i propri confini, svelando all’Occidente collettivo l’illusione della crescita infinita e, paradossalmente, lo fece il MIT di Boston con i “Limits to growth” (i limiti dello sviluppo, commissionato dal Club di Roma), elaborato da Dennis Meadows, ricercatore del MIT (Massachusetts Institute of Technology), insieme ad altri suoi colleghi.

 Quello studio mostrava, con lucidità strutturale, tutte le dinamiche che stiamo drammaticamente vivendo e che oggi sono pienamente visibili, ovvero l’impossibilità di una logica espansiva in un sistema finito (il pianeta terra). Più che una previsione tecnica, si trattava di una constatazione quasi empirica, sensoriale e matematica, fondata sull’evidenza che risorse, capacità di assorbimento ambientale e spazio ecologico sono limitati, mentre i modelli economici e demografici della società occidentale tendono strutturalmente all’espansione.

 A distanza di decenni, quello studio appare non solo sorprendentemente attuale ma quasi predittivo (altro che Intelligenza Artificiale); infatti, molti di quegli scenari delineati come crisi delle risorse, pressione ambientale, squilibri alimentari, aumento dei costi e crisi multiple si stanno manifestando oggi in modo interconnesso, dentro una crisi sistemica che non è più settoriale o regionale ma globale.

 Non entro nel merito tecnico dei 10 scenari descritti nello studio ma va precisato che l’obiettivo di quello studio, come ricordato proprio da Meadows, non era comunque quello di fare previsioni precise ma quello di approfondire le interazioni fra la crescita esponenziale e la limitatezza delle risorse planetarie, indicando nel periodo 2020-2060, quello nel quale la crescita (popolazione, industria, inquinamento) avrebbe subito un arresto a causa del overshooting ovvero la violazione dei limiti.

 Il nesso logico che non si vuole comprendere, ossessionati dall’immediatezza e dalla velocità, è che i processi storici sono lunghi: siamo solo agli inizi (2020 – 2060) ma il parallelo con il presente è evidente; continuiamo a bearci nell’illusione che tecnologia e mercato possano risolvere automaticamente i limiti strutturali e, nel frattempo, intensifichiamo i consumi generando aumento dei prezzi, nuove forme di esclusione sociale e scarsità di risorse per le prossime generazioni.

 Oggi più che mai sia la tecnologia sia il dibattito pubblico dovrebbero vertere sulle problematiche che non vogliamo affrontare: l’essere umano è a un bivio esistenziale perché la scelta non è tra espansione e declino economico, ma tra adattamento consapevole e collasso disordinato; non solo innovazione tecnica, ma un ripensamento dei modelli di sviluppo, dei consumi e delle relazioni sociali su scala globale.

 Finita qua la storia? No perché, sempre nel 1972, viene pubblicata una delle contestazioni filosofiche più note e ancora valida all’approccio simbolico dell’Intelligenza Artificiale (GOFAI - Good Old-Fashioned AI); Hubert Dreyfus pubblica il saggio “What Computers Can't Do: A Critique of Artificial Reason” (Che cosa non possono fare i computer).

In quella critica Dreyfus evidenziava che la mente umana non è qualcosa di disincarnato, non c’è mente senza il corpo, e men che meno il corpo senza l’ambiente, ovvero la situazione, il contesto, la realtà sociale in cui è collocato. Partendo, dunque, dall’assunto che l’intelligenza è strettamente legata alla costituzione fisica dell’uomo, com’è possibile che essa si collochi anche al di fuori del cervello umano e che si realizzi indipendentemente dalla sua corporeità e fisicità? L’enunciato è, quindi, che l’intelligenza umana emerge dall’intreccio tra organismo, esperienza e contesto, e non può essere ridotta a un semplice calcolo eseguibile da un hardware. Ed è proprio nel contesto dell’interazione dell’uomo con il mondo che si crea il bagaglio di conoscenze acquisite, il senso comune o sapere intuitivo, che deriva dall’apprendimento costante che facciamo nel corso della nostra esperienza.

L’intelligenza artificiale, quindi, è in grado di svolgere perfettamente attività il cui contesto e le cui regole sono ben definite, ma incontra grandi difficoltà nel caso di attività con dati e regole indeterminati (ed è qui che si collocano tante attività umane, che richiedono una componente creativa, ossia intelligente); l’intelligenza umana, invece, non procede per regole formali, ma attraverso un sapere pratico, tacito e intuitivo, costruito nel tempo attraverso l’interazione con situazioni materiali. Dreyfus la definisce una intelligenza situata, capace di orientarsi anche nell’incertezza, selezionando ciò che è rilevante in base a bisogni, emozioni, aspettative e progetti.

In conclusione, i limiti principali dell’intelligenza artificiale sembrano essere due: la sua astrattezza rispetto a ogni situazione concreta e la sua necessità di formalizzare, perdendo la sensibilità del contesto e delle sue variazioni in funzione di esigenze, desideri, motivazioni e bisogni diversi.

Le tesi di Dreyfus sono, da un punto di vista filosofico, una critica all’idea moderna di razionalità come pura manipolazione di simboli; da un punto di vista sociologico, invece, questa distinzione segna una frattura tra due modelli di azione: da un lato l’approccio razionale e calcolatore, tipico delle macchine, che opera solo entro contesti formalizzati e chiusi e, dall’altro, l’agire umano che è sempre interpretativo, selettivo e culturalmente mediato.

Al di là dell’anno di pubblicazione, cosa hanno in comune I limiti dello sviluppo e Che cosa non possono fare i computer? E soprattutto quale parallelismo con il momento attuale? Non è semplice rispondere a queste domande perché le risposte implicano un radicale cambio di prospettiva.

Nel 1972, sia la critica di Dreyfus quanto l’analisi sui Limiti dello sviluppo mettevano in discussione il medesimo presupposto ontologico della modernità occidentale ovvero l’idea che la realtà sia integralmente riducibile a un insieme di elementi manipolabili e ottimizzabili, secondo una razionalità tecnica e calcolatrice.

• Oggi questo paradigma non è stato superato, ma portato al suo grado estremo e l’essere umano continua a essere trattato come una riserva disponibile di dati, secondo una logica di sfruttamento e ottimizzazione permanente, così come il pianeta.

Nel 1972, l’IA si fondava sulla convinzione che il mondo potesse essere formalizzato come un insieme di fatti simbolici; si riteneva che accumulare informazioni fosse sufficiente a riprodurre l’intelligenza. Lo schema del 1972 si è chiaramente trasformato ma, nella sostanza, ha mantenuto lo stessa impostazione di allora.

• Al posto dei simboli troviamo spazi vettoriali e modelli probabilistici, tuttavia permane la medesima pretesa di fondo, ossia che tutto possa essere ridotto a modelli e relazioni matematiche tra dati.

Nel 1972 i Limiti dello sviluppo evidenziavano la critica al mito della crescita illimitata; quel rapporto sottolineava come le dinamiche esponenziali, demografiche, industriali e produttive, fossero destinata a scontrarsi con i limiti delle risorse del pianeta. La logica è la stessa: oggi l’intelligenza artificiale si fonda su una crescita esponenziale di dati, potenza computazionale e complessità algoritmica, ma senza mettere in discussione il paradigma della crescita stessa.

• Se allora il limite era ecologico e materiale, oggi esso si manifesta anche in forma ontologica: l’aumento quantitativo delle capacità di calcolo non produce un salto qualitativo nella comprensione del significato. L’IA può gestire l’incertezza statistica, ma resta incapace di accedere alla complessità che caratterizza il mondo umano. L’intelligenza artificiale trasforma l’incertezza in probabilità calcolabile, ma, come già osservato nel rapporto sui limiti dello sviluppo, l’innovazione tecnologica tende spesso a rinviare le crisi piuttosto che a

Nel 1972, il rapporto sui Limiti dello sviluppo ammoniva che le soluzioni puramente tecniche non risolvevano il problema della crescita, ma semplicemente spostavano il limite verso un altro settore, ad esempio, dall'esaurimento delle risorse all'aumento catastrofico dell'inquinamento.

• Oggi tutti ad osannare le magnificenze dell’IA e nessun articolo, neppure un trafiletto su qualche sparuta rivista che evidenzi che la crescita esponenziale in un sistema finito, qual è il nostro pianeta, porta inevitabilmente ad un consumo idrovoro di energia elettrica e minerali rari, necessari per alimentare e raffreddare i giganteschi data center dell’IA.

Al di là dei tanti parallelismi la domanda di fondo resta invariata: quando realmente prenderemo coscienza dei nostri limiti? Quando avremo realmente consapevolezza del limite per agire con senso di responsabilità in un ecosistema fisico finito come avvisava il Club di Roma?

• L’intelligenza artificiale contemporanea non ha risolto i dilemmi ontologici e materiali del 1972, ma ha solo potenziato la capacità di calcolo e ottimizzazione esponenziale che alimenta il rischio di collasso sistemico predetto dal Club di Roma.
• L’intelligenza umana si configura nella sua costruzione di significato, radicato nella corporeità e nell’esperienza; al contrario, l’intelligenza artificiale, proprio perché disincarnata, è costretta a formalizzare ogni contesto, perdendo quella sensibilità che consente, invece, all’uomo di agire anche nell’indeterminatezza.

 L’intelligenza umana non è dunque un calcolo, ma una forma di orientamento situato, che integra percezione, azione e contesto; mentre gli esseri umani usano l'intuizione, il corpo e le emozioni per sentire immediatamente ciò che conta per i loro scopi (processo definito senso-motorio o affettivo), l'IA deve basarsi su regole o dati statistici e ogni cambiamento nel mondo richiede un aggiornamento potenzialmente infinito di dati per capire cosa è rimasto uguale e cosa è cambiato.

 Ma la smisurata ego dell’industria tecnologica sta tentando di risolvere questo limite ontologico attraverso la forza bruta computazionale; poiché le macchine non hanno un mondo e non possiedono intuizione, i ricercatori cercano di simulare la comprensione aumentando esponenzialmente la scala dei modelli (LLM come i Transformer) e questo richiede una potenza di calcolo immensa, che si traduce in uno sfruttamento infinito delle risorse, consumando risorse finite per alimentare calcoli infiniti, ignorando la capacità di carico della Terra.

Alla luce di queste considerazioni, la lezione che emerge dal confronto tra il 1972 e il tempo presente è duplice: da un lato, persiste l’errore di fondo ovvero la riduzione della realtà a oggetto di calcolo e la fiducia nella possibilità di un controllo totale attraverso la tecnica; dall’altro, suggerisce la necessità di un ripensamento radicale dello sviluppo tecnologico indirizzando la ricerca verso un orizzonte che tenga conto dei limiti – ecologici, ontologici e antropologici. Se nel 1972 i limiti erano percepiti come vincoli esterni oggi, nel tempo presente, diventa sempre più pressante riconoscere che né la Terra né l’uomo sono riducibili a sistemi di ottimizzazione, e che ogni autentica forma di intelligenza nasce dal legame tra finitudine, responsabilità e mondo vissuto.

Con buona pace di tutti, nonostante la convinzione che il mondo, naturale ed umano, sia interamente riducibile a calcolo, previsione e ottimizzazione, resta il fatto che laddove la macchina calcola, l’uomo comprende; laddove la macchina formalizza, l’uomo interpreta.

A meno che non ci stiano nascondendo qualcosa la critiche poste da Dreyfus e dal Club di Roma restano ancora oggi, valide: ma forse tutto questo non interessa perché come ricorda Guccini noi non ci saremo.