1. La natura profonda della coscienza
Il primo nodo di riflessione riguarda la natura stessa della coscienza. È un prodotto del cervello, il risultato di fenomeni fisici complessi o qualcosa di radicalmente diverso, quasi indescrivibile? Se la coscienza non è un fenomeno confinato nel cervello, quali nuove frontiere si aprono per la nostra comprensione dell'essere e del mondo?
Federico Faggin sottolinea la natura non classica degli organismi viventi, affermando che la vita elabora informazioni utilizzando tutta la fisica, inclusi i fenomeni quantistici a livello di atomi e molecole, non solo quella classica e deterministica. Questa complessità origina un "ordine dinamico incredibilmente complesso" che le nostre leggi deterministiche e statistiche non riescono a descrivere pienamente. Per Faggin, la mente è "l'enigma più grande e straordinario", ancora più dell'universo stesso. L'impossibilità, sia pratica che teorica, di smontare e ricostruire una cellula vivente - a causa dell'indeterminazione quantistica e del suo stato di continuo movimento che la altererebbe con la misurazione - evidenzia una fondamentale mancanza di comprensione sul "come" della vita e della coscienza. Per Faggin, l'incapacità di costruire la vita artificialmente è il sintomo che non abbiamo ancora capito davvero la vita e la coscienza.
Riccardo Manzotti, con la sua teoria della Mind-Object Identity (MOI), propone un'ipotesi radicale, l'esperienza cosciente non è contenuta nel cervello né è un prodotto dei neuroni. Essa coincide letteralmente con gli oggetti fisici esterni del mondo con cui il nostro corpo è in relazione. L'esperienza di vedere una mela rossa, ad esempio, non è un'immagine interna della mela nel cervello, ma "la mela rossa stessa là fuori, nel mondo, nel momento in cui il nostro corpo la percepisce". Per Manzotti, la coscienza è fisica, reale, nello spazio e nel tempo, ma è "là fuori, delocalizzata dal cervello". Questa prospettiva risolve la "vecchia frattura tra mente e realtà", rendendo l'esperienza un "fatto materiale, condiviso, reale", dove il mondo stesso si manifesta come esperienza.
Mentre Faggin ci conduce all'incommensurabile complessità dei sistemi viventi a livello quantistico per spiegare l'enigma della coscienza e la sua differenza dalle macchine classiche, Manzotti propone una delocalizzazione radicale della coscienza dal cervello, identificandola con la relazione corpo-oggetto nel mondo esterno. Entrambi concordano nel rifiutare l'idea della coscienza come "software che gira sull'hardware del cervello", il famoso "fantasma nella macchina" o il "modello computazionale semplicistico". Faggin evidenzia un "limite quasi ontologico" legato all'incapacità di costruire la vita, mentre Manzotti offre una "ridefinizione ontologica della coscienza stessa" come relazione esterna. Entrambi, da approcci diversi, sfidano il modello standard "cervello uguale computer che produce coscienza".
2. Organismi viventi vs. Macchine
Quali sono le differenze fondamentali che distinguono un organismo vivente, con la sua potenziale coscienza, da una macchina artificiale, per quanto sofisticata? In che misura le differenze ontologiche tra sistemi biologici e artificiali pongono un limite invalicabile alla possibilità di creare una coscienza di tipo non biologico?
Per Faggin un componente base della vita, come un protone o un atomo in una cellula, non è un bit astratto, ma "portatore di energia", che svolge "compiti molto più complessi" ed è interconnesso. La differenza risiede nella qualità dei processi fisici, non solo nella quantità di informazione. Inoltre, per Faggin è capitale il ciclo vita-costruzione: le macchine sono "costruite nella sua interezza" e poi "accese" come prodotti finiti. Un organismo vivente, invece, è "costruito vivo", si "autoassembla" da altra vita ed è "sempre in uno stato di divenire", mai "finito" come un oggetto di fabbrica, ma un processo continuo che si ferma solo con la morte. Qui richiama il principio "Omne vivum ex vivo" (ogni vivente viene da un altro vivente).
Manzotti, pur senza entrare nella fisica quantistica, arriva a conclusioni simili concentrandosi sull'interazione con il mondo e sugli scopi. Afferma che il cervello umano è "immerso in un corpo, agisce in un contesto fisico, assume decisioni" basate su quel contesto. Gli LLM (Large Language Models), al contrario, "lavorano su testo, senza accesso al mondo, senza obiettivi intrinseci, senza scopi loro". Questa "differenza non è un dettaglio", ma è fondamentale e netta. Gli LLM "non sono coscienti, non capiscono, non pensano", ma sono potentissime "interfacce statistiche", brave a manipolare simboli. La sua teoria MOI rafforza che un sistema senza corpo e senza mondo reale non può avere una mente.
Faggin enfatizza le differenze ontologiche e di principio fisico tra la vita e le macchine, radicate nella complessità quantistica, nell'auto-organizzazione e nell'origine biologica dei sistemi viventi. Manzotti, invece, si concentra sulle conseguenze operative e funzionali di tale divario, evidenziando la mancanza di corpo, ambiente e intenzionalità negli LLM rispetto all'intelligenza situata. Entrambi, da prospettive diverse, erigono un "muro tra vita, coscienza e macchine attuali". Il messaggio è chiaro, non basta aumentare la potenza di calcolo o i dati; potrebbero servire "ingredienti completamente diversi, fisici, biologici, relazionali", che l'AI odierna non ha e forse non avrà se resta solo macchine computazionali classiche.
3. Il significato del sapere
Le macchine artificiali, in particolare i modelli linguistici avanzati, sono in grado di "comprendere" il mondo, o si limitano a elaborare e predire informazioni in modi che simulano la comprensione? Se l'intelligenza umana è intrinsecamente legata alla comprensione situata e all'intenzionalità, possiamo davvero considerare "intelligente" un sistema che si basa solo sulla predizione statistica?
Faggin collega la comprensione alla capacità di "costruire". Riprendendo un famoso motto di Richard Feynman, afferma: "Ciò che non posso costruire non lo posso capire". Dato che "nessuno è mai riuscito a costruire una cellula vivente da zero", ne consegue che non abbiamo ancora capito fino in fondo la vita e quindi la coscienza che ne deriva. La vera comprensione per lui è intrinsecamente legata alla capacità di creare, di sintetizzare dal basso, capacità che ci manca per la vita a causa della sua complessità quantistica e dinamica. Capire è poter ricreare.
Manzotti è categorico: "Gli LLM predicono, non comprendono. Punto.". La loro intelligenza, per quanto sembri sofisticata, è una "questione di statistica". Essi trovano pattern nei dati linguistici, lavorano con "correlazioni", non con "concetti" o significati come noi. Pur generando frasi coerenti e plausibili, non sono in grado di attribuire significato né di giustificare ciò che producono sulla base di una comprensione del mondo. Manzotti traccia una linea netta tra "prestazione linguistica" (capacità di mettere insieme parole) e "comprensione situata" (quella umana, legata a un contesto, un corpo, scopi, interazione con il mondo reale). Mette in guardia dal "confondere correlazioni statistiche per comprensione, la sintassi per semantica, la performance per intenzionalità". Un umano si accorge se ha detto una stupidaggine e ci riflette, un LLM non ha questa capacità di autoriflessione o metacognizione.
Per Faggin il problema è "quasi ontologico", legato alla natura stessa della vita che non riusciamo a replicare e quindi a capire fino in fondo. Per Manzotti è più una "questione epistemologica" (di come si forma la conoscenza e il significato) e "semantica" (sulla differenza tra elaborazione statistica di simboli e comprensione vera, intenzionale e legata al mondo). Entrambi convergono sull'idea che ciò che le macchine attuali fanno non è equivalente alla comprensione profonda o alla coscienza umana.
4. Il ruolo del corpo e dell'ambiente
Quanto sono cruciali l'incarnazione (il possesso di un corpo) e l'interazione diretta con l'ambiente fisico per lo sviluppo e l'esistenza della coscienza e dell'intelligenza? Se la coscienza è profondamente radicata nell'interazione dinamica tra un organismo vivente e il suo ambiente fisico, quale significato possiamo attribuire all'esperienza di un'intelligenza priva di corpo?
In Faggin, l'idea è forte, seppur più implicita. Quando descrive la cellula come sempre "in continuo movimento", il cui stato quantistico non si può fotografare senza cambiarlo, o quando dice che gli organismi "si autoassemblano" e sono "costruiti vivi", sempre "in divenire", sta dipingendo un quadro dove la vita è intrinsecamente dinamica, interattiva, fisica. È un processo continuo e l'idea di una coscienza separata da questo substrato biologico e dinamico sembra stonare con la sua visione. La fisica stessa della vita implica un radicamento nel corpo e nel processo.
Per Manzotti, invece, il corpo e la sua relazione con l'ambiente sono il cuore della sua teoria MOI e il "luogo dell'esperienza cosciente". Per lui, l'esperienza "è un tutt'uno con il mondo stesso così come esiste in relazione al nostro corpo". Il nostro cervello è quello che è perché "è immerso in un corpo, agisce in un contesto fisico, assume decisioni lì". Al contrario, un modello linguistico "non ha corpo, non ha ambiente, non ha intenzionalità" che derivi da bisogni fisici o interazioni reali. Questa mancanza di incarnazione e di radicamento nel mondo è ciò che crea l'abisso tra un'intelligenza situata (umana) e un sistema di generazione linguistica (AI).
Mentre Faggin descrive la dinamicità e l'evoluzione intrinseca dei sistemi viventi come una loro caratteristica irriducibile, Manzotti rende la relazione incarnata con il mondo esterno il fondamento stesso dell'esperienza cosciente. Entrambi convergono sull'assoluta centralità dell'interazione fisica, della dinamicità e dell'essere in un corpo/ambiente per la vita e la coscienza. Questi elementi sono costitutivi e "mancano del tutto" nelle AI attuali. Ciò rafforza il dubbio che coscienza e intelligenza umana non siano solo algoritmi e non siano separabili dall'hardware biologico e fisico.
5. Il Futuro dell'AI
Come dovremmo approcciare lo sviluppo e l'integrazione dell'Intelligenza Artificiale nella società, alla luce delle sue capacità e dei suoi limiti intrinseci rispetto alla coscienza umana? Data la profonda asimmetria tra la natura della coscienza umana e le capacità predittive dell'AI, come possiamo garantire che lo sviluppo tecnologico rimanga al servizio di un'autentica comprensione umana e non la soppianti?
In Faggin, pur non formulando indicazioni dirette sullo sviluppo dell'AI, emerge una profonda cautela e umiltà di fronte alla complessità della vita e della coscienza. La sua insistenza sulla differenza fondamentale tra macchine e organismi viventi ("Omne vivum ex vivo"), e sulla mente come "l'enigma più grande", suggerisce che l'obiettivo di replicare o creare una coscienza artificiale sia un'impresa forse irrealizzabile e comunque basata su un malinteso ontologico di fondo. Stiamo forse cercando di imitare qualcosa senza averne capito la vera natura.
Manzotti è molto più esplicito e pragmatico sulla responsabilità etica e progettuale. Non si perde in speculazioni su future AI coscienti, ma ci richiama all'oggi, vedendo gli LLM come "strumenti potenti ma non autonomi". La vera sfida è "progettare un uso consapevole e tracciabile dell'AI", integrando questi strumenti in "infrastrutture cognitive responsabili". Dobbiamo sempre tenere ben distinta la performance della macchina dalla comprensione vera. La responsabilità ultima è nostra: "Siamo noi... che dobbiamo progettare filtri, verifiche, limiti. Siamo sempre noi a dover decidere", inoltre "la vera innovazione non è rinunciare al pensiero, ma a progettare l'uso degli strumenti affinché estendano la nostra capacità di capire, non la sostituiscano con una parvenza di coerenza". L'AI è "un mezzo, non un fine. Un aiuto, non una coscienza. Un potente acceleratore di linguaggio. Ma il senso, come sempre, lo decidiamo noi".
Faggin solleva questioni di fondo sulla possibilità stessa che l'AI possa mai emulare la coscienza, basandosi sulle leggi fondamentali della fisica e della biologia. Manzotti, pur concordando sui limiti della coscienza AI, si concentra sulla pratica e sull'etica dell'integrazione dell'AI esistente, sottolineando la necessità di vigilanza umana, chiarezza concettuale e responsabilità. Entrambi condividono una visione critica dell'AI come potenziale "coscienza" e sottolineano l'insostituibilità della comprensione, del significato e della decisione umana. Entrambi mettono in guardia dal non scambiare l'AI attuale per coscienza.
In conclusione, il confronto tra Federico Faggin e Riccardo Manzotti, sebbene non diretto, rivela una convergenza critica significativa: l'Intelligenza Artificiale di oggi, pur potentissima, non è la coscienza umana e forse, per ragioni di principio legate alla fisica o alla natura stessa dell'esperienza, non potrà mai esserlo, almeno non così come è concepita ora. La coscienza sembra legata indissolubilmente alla nostra biologia, alla dinamicità fisica, all'essere nel mondo con un corpo, qualcosa di qualitativamente diverso dall'elaborazione statistica di dati. Non è solo questione di quantità di calcolo, ma di qualità dell'essere. Le loro analisi sono un invito a un approccio più lucido e maturo verso l'AI, che superi sia gli entusiasmi facili che i timori paralizzanti o i negazionismi. Ci chiedono rigore e consapevolezza critica, e forse anche una rinnovata attenzione a cosa ci rende unici come esseri umani, alla nostra intelligenza. L'esplorazione dell'AI, paradossalmente, potrebbe finire per insegnarci più cose sulla nostra specificità irriducibile e sul valore della nostra esistenza, che sulla possibilità reale di creare una vera mente artificiale.
Brevi biografie degli autori:
Federico Faggin è l'ingegnere fisico italiano che ha progettato il primo microprocessore commerciale, l'Intel 4004, nel 1971. Ha inoltre guidato lo sviluppo di tecnologie fondamentali come la tecnologia MOS con gate di silicio, il microprocessore 8080 e i touchscreen. È insignito della Medaglia Nazionale per la Tecnologia e l'Innovazione degli Stati Uniti. La sua ricerca attuale si concentra sulla natura della coscienza, esplorando il rapporto tra informazione, materia e mente. https://it.wikipedia.org/wiki/Federico_Faggin
Riccardo Manzotti, filosofo, ingegnere elettronico e professore ordinario di filosofia teoretica, è noto per la sua teoria della Mind-Object Identity (MOI), che propone un cambio di paradigma nella comprensione della coscienza. Si occupa delle basi fisiche della coscienza, di intelligenza artificiale, percezione, psicologia dell’arte. Ha pubblicato La mente allargata (Il Saggiatore, 2020), The Spread Mind: Why Consciousness and the World Are One (ORBooks, NewYork, 2018) e Dialogues on Consciouness (NY, 2018). https://www.riccardomanzotti.com/
POV nasce dall’idea di mettere a confronto due autori viventi, provenienti da ambiti diversi - filosofia, tecnologia, arte, politica - che esprimono posizioni divergenti o complementari su un tema specifico legato all’intelligenza artificiale. Si tratta di autori che ho letto e approfondito, di cui ho caricato i testi in PDF su NotebookLM. A partire da queste fonti ho costruito una scaletta di argomenti e, con l’ausilio di GPT, ho sviluppato un confronto articolato in forma di articolo. L’obiettivo non è giungere a una sintesi, ma realizzare una messa a fuoco tematica, far emergere i nodi conflittuali, perché è proprio nella differenza delle visioni che nascono nuove domande e strumenti utili a orientare la nostra ricerca di senso.