NOVITA'[1512]

Ovvero: la questione non è se il Re sia buono o cattivo. La questione è perché ci sia un Re.

Segnalazione di un paper scritto da Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean. Il paper è disponibile sul sito del "The AI Futures Project" creato da un piccolo gruppo di ricerca, sostenuto da donazioni e grant pubblici, che fa previsioni sull'IA forecasting the future of AI.

Happy new year with Goethe

Un testo di Eliezer Yudkowsky e Nate Soares  pubblicato nel 2025 che richiama l’attenzione di tutti con l’invito a riflettere criticamente sull’evoluzione in corso delle Intelligenze artificiali, sull’uso diffuso, acritico e superficiale che ne viene fatto e sulle narrazioni tendenzialmente tecno-ottimiste dominanti. Il testo rappresenta il tentativo più diretto e accessibile di Eliezer Yudkowsky e Nate Soares di comunicare a un pubblico ampio la loro tesi sulla minaccia esistenziale rappresentata dall'intelligenza artificiale superintelligente (ASI).

We must govern how technologies impact our perceived reality, we must be aware because without consciousness we are just part of an endless show.

Frans de Waal e Yann LeCun: il mito dell’intelligenza umana come misura di tutte le cose. L’intelligenza non è più un’esclusiva dell’essere umano. Negli ultimi decenni, gli studi sull’etologia e l’intelligenza artificiale hanno minato l’antico confine tra istinto e ragione. Ma se gli animali pensano, e le macchine imparano, cosa resta dell’umano?

Andy Clark vs Federico Faggin: le differenze tra umano e artificiale Che cos’è la mente? Un insieme di processi che coinvolgono cervello, corpo e ambiente, oppure qualcosa di più profondo che nessuna macchina potrà mai riprodurre? L’intelligenza artificiale è un partner evolutivo, capace di ampliare le nostre capacità cognitive, o resta un sistema privo di comprensione autentica? Che cosa distingue davvero l’essere umano da una macchina intelligente?

È stata una grande abbuffata di parole sui modelli e sistemi di intelligenza artificiale generativa o agentica, come viene definita adesso per sottolineare una grande svolta rispetto a qualche mese fa... Il 2025 si è caratterizzato, infatti, per un instancabile susseguirsi di articoli, video e podcast finalizzati a illuminarci sulle mirabolanti opportunità e/o sui patologici rischi dell'intelligenza artificiale.

La teoria della mente bicamerale, proposta da Julian Jaynes, suggerisce che gli esseri umani antichi operassero attraverso una divisione funzionale del cervello, in cui le decisioni erano guidate da “voci” percepite come divine. Con l’avvento della coscienza moderna, questa struttura si è dissolta, lasciando spazio all’introspezione e all’autoconsapevolezza. Tuttavia, l’emergere dell’intelligenza artificiale generativa solleva interrogativi sulla possibilità di un ritorno, chiaramente metaforico, a una forma di mente bicamerale, in cui le macchine fungono da nuove “voci” esterne che influenzano il pensiero e il comportamento umano. Questo articolo esplora il parallelo tra la teoria di Jaynes e l’interazione contemporanea con l’AI, analizzando le implicazioni cognitive e culturali di questa evoluzione.

Segnalo all’attenzione die naviganti della nave una nuova ricerca pubblicata sulla rivista Computers in Human Behavior che suggerisce come l'uso di strumenti di IA come ChatGPT permette di migliorare le prestazioni personali e aziendali ma alla lunga finisca per limitare e distorcere la capacità di valutazione, anche delle proprie prestazioni.

Segnalazione Stultifera di una ricerca: Psychopathia Machinalis: A Nosological Framework for Understanding Pathologies in Advanced Artificial Intelligence

Una recensione critica che nasce come reazione a un’altra tecno-ottimista pubblicata sulla nave sul libro di Claudo Paolucci: 𝐍𝐚𝐭𝐢 𝐂𝐲𝐛𝐨𝐫𝐠. 𝐂𝐨𝐬𝐚 𝐥’𝐢𝐧𝐭𝐞𝐥𝐥𝐢𝐠𝐞𝐧𝐳𝐚 𝐚𝐫𝐭𝐢𝐟𝐢𝐜𝐢𝐚𝐥𝐞 𝐠𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐚 𝐜𝐢 𝐝𝐢𝐜𝐞 𝐝𝐞𝐥𝐥’𝐞𝐬𝐬𝐞𝐫𝐞 𝐮𝐦𝐚𝐧𝐨. Una recensione scritta come autore di 𝐍𝐎𝐒𝐓𝐑𝐎𝐕𝐄𝐑𝐒𝐎 – 𝐏𝐫𝐚𝐭𝐢𝐜𝐡𝐞 𝐮𝐦𝐚𝐧𝐢𝐬𝐭𝐞 𝐩𝐞𝐫 𝐫𝐞𝐬𝐢𝐬𝐭𝐞𝐫𝐞 𝐚𝐥 𝐦𝐞𝐭𝐚𝐯𝐞𝐫𝐬𝐨, un libro nel quale ho messo al centro della riflessione la scomparsa del corpo, del volto (non della faccia che è ovunque) e dello sguardo (ormai sempre chino), celebrando un Nostroverso incarnato, per chiamare alla resistenza dell’umano, contro la (pre)potenza della macchina. Per questo e altro non ho potuto resistere a condividere una riflessione stultifera critica sul libro di Claudio Paolucci. Il libro parla dell’IA come di uno specchio che rivela chi siamo, di una rivelazione del funzionamento dell’intelligenza umana, dentro una continuità evolutiva, di come noi, siamo cyborg per natura. Paolucci vede l’ibridazione come costitutiva dell’umano, io parlo dell’ibridazione tecnologica come di una potenziale alienazione. Quello che segue è il tentativo di riaffermare gli argomenti del mio libro evidenziando ciò che, del libro di Paolucci, non mi ha convinto e non mi sento di condividere.

Come forse si riesce - ma non è facile né garantito

Come proteggersi dai rischi fino a diventare irrilevanti

Come accelerare fino a schiantarsi

Francesco Varanini’s response to my essay Rethinking Meaning in the Age of AI, published on Stultifera Navis, approaches its subject with a seriousness of ethical intent that deserves recognition. His concern is clearly directed toward responsibility, judgment, and the conditions under which ethical agency remains possible in a technological environment increasingly shaped by automated systems. The difficulty lies elsewhere. His critique repeatedly misplaces the object under discussion, relying on a metaphor of enclosure that substitutes for analysis and attributes to my work positions it explicitly resists.

Come l'elettricità un secolo fa, l'IA promette di rivoluzionare ogni aspetto della nostra esistenza, ma porta con sé rischi inediti: dalla discriminazione algoritmica alla perdita di controllo sui processi decisionali, dall'opacità dei sistemi alla vulnerabilità dei dati sensibili. E come allora, anche oggi la risposta passa attraverso la standardizzazione: lo standard ISO/IEC 42001:2023 rappresenta il primo tentativo globale di creare un sistema di gestione per l'intelligenza artificiale.

Mente, natura e connessioni dell’AI Antropologo, biologo, cibernetico e filosofo del pensiero sistemico, Gregory Bateson (1904–1980) ha dedicato la sua opera a smontare la separazione tra mente e natura. Contro l’idea di una mente rinchiusa nel cervello o riducibile a un meccanismo logico, Bateson concepiva la mente come un sistema vivo di relazioni, diffuso nei circuiti che collegano organismi, ambienti, linguaggi e culture. Il suo obiettivo dichiarato era infatti «costruire un quadro di come il mondo è collegato nei suoi aspetti mentali», mostrando che il pensiero non è mai isolabile dal contesto in cui prende forma.

L'articolo di Owen Matson 'Rethinking Meaning in the Age of AI', apparso qui sulla 'Stultifera Navis', pone questioni molto interessanti. Nell'Age of AI macchine rimodellano gli ambienti in cui prendono forma il senso, il giudizio e la responsabilità umani. Ma l'obbligo etico rimane legato a forme di vita capaci di rispondere. Per rispondere è necessario lasciar perdere la fumosa filosofia che giustappone oggi umani e macchine, tendendo a considerarli inscindibili, chiusi insieme in una scatola. Serve uscire dalla scatola. Tornare alla saggezza umana. Vedremo allora che la responsabilità della situazione presente non ricade solo sui tecnici che progettano e sviluppano, né solo su legislatori e politici, chiamati a dettare norme. La responsabilità ricade su ogni cittadino, che è chiamato a capire, a tenersi lontano dal pensiero in scatola, e a pensare da sé. La responsabilità ricade su ognuno di noi.