TESTI

La critica del "pappagallo stocastico", introdotta da Emily Bender, Timnit Gebru e colleghi nel 2021, è diventata il quadro dominante per respingere le capacità cognitive dell'IA.

Il Leviatano Digitale: Come Riscrivere il Patto Sociale Prima che sia un Codice a Farlo per Noi. Immaginiamo una scena, non più relegata alla fantascienza. Un candidato politico, nel mezzo di una campagna elettorale serrata, viene travolto da un video virale in cui pronuncia frasi sconnesse e offensive. Il video è un deepfake, un falso quasi perfetto, ma il danno all’autorevolezza e alla fiducia è reale e immediato.1 Ora immaginiamo un’altra scena, più silenziosa ma non meno insidiosa. Un’azienda implementa un nuovo algoritmo per le assunzioni, celebrato come un trionfo di efficienza e oggettività. Mesi dopo, si scopre che il sistema scarta sistematicamente le candidature femminili, avendo “imparato” a replicare i pregiudizi presenti nei dati storici con cui è stato addestrato.

La Grande Illusione: Quando l’Indifferenza Cede il Passo al Controllo La sveglia suona alle 6:30. Occhi ancora chiusi, allunghi la mano verso lo smartphone. Un gesto automatico, quasi inconsapevole. Non sai che in quel preciso momento, un algoritmo ha già analizzato il tuo sonno, previsto il tuo umore e selezionato le notizie che leggerai durante la colazione. Non ci pensi, non ti interessa. È solo tecnologia che funziona, giusto?

Ogni pochi decenni circa, la filosofia si ritrova brevemente rispolverata e invitata a tornare in buona compagnia – non per affetto, ovviamente, ma perché qualcosa nel sistema è andato storto. L'intelligenza artificiale, a quanto pare, ha scatenato una sorta di panico concettuale: la consapevolezza che le graziose parentesi che circondano conoscenza, significato e soggetto stanno perdendo, e nessuna strategia di innovazione sembra riuscire a fermare il flusso. Gli algoritmi hanno superato i framework, e così i filosofi vengono convocati, come vigili del fuoco a cui viene chiesto di spiegare la struttura molecolare del fumo.

Nell’epoca delle immagini generate dall’intelligenza artificiale, l’esperienza visiva si confronta con una realtà nuova, simulata, ma perfettamente credibile. Chi le genera non si limita a rappresentare il mondo, ma ne orienta la percezione, influenzando ciò che riconosciamo come vero e ciò in cui siamo disposti a credere. Qual è, oggi, la riflessione sul potere di chi produce immagini?

Continuiamo a ripeterci che dobbiamo mettere in discussione la posizione privilegiata dell'essere umano, l'illusione di una supremazia umana, ogni forma di antropocentrismo, le nostre ristrette categorie morali, il pensiero moderno, l'ontologia occidentale, la tendenza a contentarsi di comode opposizioni binarie, l'umanesimo giuridico europeo cristiano. Il problema sta nel fatto che cerchiamo il superamento di questa posizione non in un recupero di valori ma in un affidamento a macchine.

Nei miei sforzi per sviluppare un'etica relazionale per l'IA, il lavoro di Abeba Birhane è stato centrale. Scienziato cognitivo e teorico della decolonizzazione, la scrittura di Birhane si muove fluidamente tra i domini – filosofia della mente, teoria critica della razza, etica dei dati – ma rimane focalizzata su una domanda epistemica fondamentale: quali tipi di conoscenza e quali forme di vita riproducono i sistemi di intelligenza artificiale? E in base a quali presupposti sull'umanità, la cognizione e il controllo?

Seduto ai piedi di una vecchia quercia, nel cuore di un bosco silenzioso, ho avuto un'epifania. La domanda che mi assillava era insolita per quel contesto: "Dove si trova l'intelligenza di questo albero?". La risposta istintiva avrebbe indicato radici, rami, foglie. Ma a ben guardare, quell'intelligenza non era dentro l'albero. Era nel modo in cui la quercia "dialogava" con un faggio tramite una rete sotterranea di funghi, nel modo in cui condivideva nutrienti con un giovane abete, e in come coordinava la caduta delle foglie con l'arrivo dell'inverno. L'intelligenza non era un oggetto statico, ma un modo intelligente di accadere delle relazioni. Questa profonda lezione della natura è la chiave per comprendere e sviluppare un'Intelligenza Artificiale che non solo funzioni, ma che prosperi in simbiosi con l'ecosistema, contribuendo a salvare il nostro pianeta.

Questo è un articolo scritto da ChatGPT. Nasce da uno scambio divertente, breve, intrigante tra me e una macchina che ammette di non pensare e tuttavia si impegna e si esercita a produrre opere di ingegno e di pensiero. Dopo una chiacchierata di qualche minuto ho chiesto alla ChatGPT di scrivermi un articolo per la nave deie folli e lei tranquillamente e con una sua capacità creativa l'ha fatto. Quello che segue è il testo che mi/ci ha regalato.

Un articolo molto interessante. Ne consiglio la lettura, perché chiarisce le cose. Sostenere i diritti dei robot è un modo di ciurlare nel manico. E troppo spesso si sentono discorsi, a proposito di novità digitale e di intelligenza artificiale, che non sono altro che ciurlare nel manico.

La questione educativa non è semplicemente se sia ancora necessario insegnare a scrivere, dipingere o comporre. Si tratta di come insegnare agli studenti a riconoscere quando il loro processo creativo viene sottilmente ottimizzato verso impostazioni predefinite meccaniche, quando il sistema sta smussando la difficoltà, l'ambiguità o l'invenzione in nome della fluidità.

Da quando il progetto della 𝐒𝐓𝐔𝐋𝐓𝐈𝐅𝐄𝐑𝐀𝐍𝐀𝐕𝐈𝐒 è online capita frequentemente di parlarne con alcuni dei molti che hanno (scelto) deciso di salire a bordo. Lo si fa per raccontare il progetto e conoscersi, per condividere opinioni, posizionamenti, punti di vista e visioni del mondo e della realtà. Lo si fa anche per ipotizzare nuove iniziative, per allargare scenari e argomenti su cui riflettere insieme, per sintonizzarsi cognitivamente, visto quanto è grande oggi lo scadimento del linguaggio, dei concetti e delle parole. Ogni incontro, ogni scambio è ricco di informazioni e di conoscenze, di saperi, di pillole di saggezza, può generare empatia e/o scatenare confronti accesi e passioni. Nulla di particolare, in fondo a confrontarsi sono sempre e soltanto esseri umani, in carne e ossa, non ancora robotizzati e automatizzati o resi calcolabili da qualche codice straniero o algoritmo. Ma 𝗰𝗼𝘀𝗮 𝘀𝘂𝗰𝗰𝗲𝗱𝗲 𝘀𝗲 𝗶𝗹 𝗰𝗼𝗻𝗳𝗿𝗼𝗻𝘁𝗼 𝗻𝗼𝗻 è 𝗽𝗶ù 𝘁𝗿𝗮 𝗲𝘀𝘀𝗲𝗿𝗶 𝘂𝗺𝗮𝗻𝗶 𝗺𝗮 𝘁𝗿𝗮 𝘂𝗻 𝘂𝗺𝗮𝗻𝗼 𝗲 𝘂𝗻𝗮 𝗺𝗮𝗰𝗰𝗵𝗶𝗻𝗮?

Ben più di un secolo fa Nietzsche iniziò ad affermare che Dio è morto perché era solo una menzogna consolatrice[1]: gli uomini - spiegava - hanno messo sopra al volto della realtà una maschera, ovvero Dio, con una funzione oltremondana che vorrebbe essere consolatrice della realtà della vita quotidiana poiché questa realtà è talmente brutta da non poter essere osservata e vissuta serenamente. Ma adesso Lui - proseguiva - è stato smascherato e quindi non c’è più, è semplicemente scomparso.

Nel design, nell'uso o nel mondo che li produce entrambi?

Giusto due anni fa, per la precisione il 28 giugno 2023, tra le 19:30 ero seduto qui alla mia scrivania a Portoferraio. Non ho i miei libri qui. Cercavo di ricostruire a memoria il contesto attorno a un verso famoso di Fray Luis de León: “lejos del mundanal ruido” (verso famoso nella letteratura spagnola quasi tanto può esserlo nella poesia italiana l'incipit di Dante: “Nel mezzo del cammin di nostra vita mi ritrovai per una selva oscura”). Google Search non mi soccorreva. Decisi allora di ricorrere a ChatGPT. E' stato il mio battesimo. Battesimo: greco antico 'baptismós': 'immersione'. Immersione in un colloquio da pari a pari con la macchina. Ho letto con interesse, in questi due anni, numerosissimi articoli e libri interi basati su colloqui con la macchina. E' giusto che ognuno faccia la sua esperienza e la racconti. La prima volta è importante. Perché poi si finisce, credo, per ripetere, nell'interazione, la stessa strategia. Conta il contesto, la motivazione.

There’s a certain bleak ingenuity to the idea that our best response to AI’s unsettling fluency is to manually downgrade its pronouns. A recent Boston Globe op-ed recommends that we stop referring to generative systems as coworkers or collaborators, and instead swap the “o” for a zero: c0workers, c0companions. It’s not language that’s the problem here—it’s the use of language to shut down thought just when it’s most needed. Rather than open space for describing what resists classification, this symbolic tweak tries to pin the world back into place with a single keystroke.

A costo di essere considerato un tecnofobo, mi permetto di affermare che il massiccio ricorso a IA generative rischia di creare macchine sempre più intelligenti (entro i canoni con cui oggi molti definiscono cosa sia intelligenza) e umani sempre più stupidi (Google ci sta rendendo stupidi?" scriveva Nicholas Carr nel 2008), per la loro pratica inconsapevole di delega, delle loro capacità cognitive, alla macchina, che sembra aver puntato a sostituire l’atto del pensare umano.

Da sempre amo il confronto di idee e sono contento che questa cosa possa accadere su queste pagine: Stultifera Navis rappresenta una bella opportunità. Raccolgo quindi lo stimolo nato dalla lettura di “Generazioni feedforward. Per una educazione all’anticipazione” di Riccardo Santilli, per riproporre un mio articolo, originariamente pubblicato su Harvard Business Review (2022), sullo stesso tema. L’articolo ripercorre l’origine e la storia di questo concetto e il suo influsso nelle teorie della comunicazione.

At first glance, prompting an AI seems straightforward: a user poses a question, the model responds. But this framing—human initiator, machine reactor—is less a description than a myth about how knowledge works, especially in education and EdTech.

Le generazioni formate ai media del XX secolo hanno costruito identità e conoscenze basate sul tempo esperito. Il loop epistemologico che fino a pochi anni fa sembrava l’unico possibile era basato su azione, feedback, valutazione e conferma o modifica degli schemi di azione. Questo schema – tipico dell’educazione, del lavoro, della socializzazione – ha rappresentato un modello di riferimento per intere generazioni. Oggi, per la prima volta, assistiamo a un cambiamento radicale, che rompe il monopolio del feedback come momento centrale di ogni processo esperienziale.