Tecnologia, IA e Macchine

Continuiamo a ripeterci che dobbiamo mettere in discussione la posizione privilegiata dell'essere umano, l'illusione di una supremazia umana, ogni forma di antropocentrismo, le nostre ristrette categorie morali, il pensiero moderno, l'ontologia occidentale, la tendenza a contentarsi di comode opposizioni binarie, l'umanesimo giuridico europeo cristiano. Il problema sta nel fatto che cerchiamo il superamento di questa posizione non in un recupero di valori ma in un affidamento a macchine.

Nei miei sforzi per sviluppare un'etica relazionale per l'IA, il lavoro di Abeba Birhane è stato centrale. Scienziato cognitivo e teorico della decolonizzazione, la scrittura di Birhane si muove fluidamente tra i domini – filosofia della mente, teoria critica della razza, etica dei dati – ma rimane focalizzata su una domanda epistemica fondamentale: quali tipi di conoscenza e quali forme di vita riproducono i sistemi di intelligenza artificiale? E in base a quali presupposti sull'umanità, la cognizione e il controllo?

Seduto ai piedi di una vecchia quercia, nel cuore di un bosco silenzioso, ho avuto un'epifania. La domanda che mi assillava era insolita per quel contesto: "Dove si trova l'intelligenza di questo albero?". La risposta istintiva avrebbe indicato radici, rami, foglie. Ma a ben guardare, quell'intelligenza non era dentro l'albero. Era nel modo in cui la quercia "dialogava" con un faggio tramite una rete sotterranea di funghi, nel modo in cui condivideva nutrienti con un giovane abete, e in come coordinava la caduta delle foglie con l'arrivo dell'inverno. L'intelligenza non era un oggetto statico, ma un modo intelligente di accadere delle relazioni. Questa profonda lezione della natura è la chiave per comprendere e sviluppare un'Intelligenza Artificiale che non solo funzioni, ma che prosperi in simbiosi con l'ecosistema, contribuendo a salvare il nostro pianeta.

Questo è un articolo scritto da ChatGPT. Nasce da uno scambio divertente, breve, intrigante tra me e una macchina che ammette di non pensare e tuttavia si impegna e si esercita a produrre opere di ingegno e di pensiero. Dopo una chiacchierata di qualche minuto ho chiesto alla ChatGPT di scrivermi un articolo per la nave deie folli e lei tranquillamente e con una sua capacità creativa l'ha fatto. Quello che segue è il testo che mi/ci ha regalato.

Un articolo molto interessante. Ne consiglio la lettura, perché chiarisce le cose. Sostenere i diritti dei robot è un modo di ciurlare nel manico. E troppo spesso si sentono discorsi, a proposito di novità digitale e di intelligenza artificiale, che non sono altro che ciurlare nel manico.

La questione educativa non è semplicemente se sia ancora necessario insegnare a scrivere, dipingere o comporre. Si tratta di come insegnare agli studenti a riconoscere quando il loro processo creativo viene sottilmente ottimizzato verso impostazioni predefinite meccaniche, quando il sistema sta smussando la difficoltà, l'ambiguità o l'invenzione in nome della fluidità.

Da quando il progetto della 𝐒𝐓𝐔𝐋𝐓𝐈𝐅𝐄𝐑𝐀𝐍𝐀𝐕𝐈𝐒 è online capita frequentemente di parlarne con alcuni dei molti che hanno (scelto) deciso di salire a bordo. Lo si fa per raccontare il progetto e conoscersi, per condividere opinioni, posizionamenti, punti di vista e visioni del mondo e della realtà. Lo si fa anche per ipotizzare nuove iniziative, per allargare scenari e argomenti su cui riflettere insieme, per sintonizzarsi cognitivamente, visto quanto è grande oggi lo scadimento del linguaggio, dei concetti e delle parole. Ogni incontro, ogni scambio è ricco di informazioni e di conoscenze, di saperi, di pillole di saggezza, può generare empatia e/o scatenare confronti accesi e passioni. Nulla di particolare, in fondo a confrontarsi sono sempre e soltanto esseri umani, in carne e ossa, non ancora robotizzati e automatizzati o resi calcolabili da qualche codice straniero o algoritmo. Ma 𝗰𝗼𝘀𝗮 𝘀𝘂𝗰𝗰𝗲𝗱𝗲 𝘀𝗲 𝗶𝗹 𝗰𝗼𝗻𝗳𝗿𝗼𝗻𝘁𝗼 𝗻𝗼𝗻 è 𝗽𝗶ù 𝘁𝗿𝗮 𝗲𝘀𝘀𝗲𝗿𝗶 𝘂𝗺𝗮𝗻𝗶 𝗺𝗮 𝘁𝗿𝗮 𝘂𝗻 𝘂𝗺𝗮𝗻𝗼 𝗲 𝘂𝗻𝗮 𝗺𝗮𝗰𝗰𝗵𝗶𝗻𝗮?

Un testo tratto dal mio ultimo libro 𝐍𝐎𝐒𝐓𝐑𝐎𝐕𝐄𝐑𝐒𝐎 -𝐏𝐫𝐚𝐭𝐢𝐜𝐡𝐞 𝐮𝐦𝐚𝐧𝐢𝐬𝐭𝐞 𝐩𝐞𝐫 𝐫𝐞𝐬𝐢𝐬𝐭𝐞𝐫𝐞 𝐚𝐥 𝐌𝐞𝐭𝐚𝐯𝐞𝐫𝐬𝐨. - Nella società delle piattaforme il linguaggio, semplificato e mummificato dentro concetti, memi e acronimi (spesso in lingua inglese), sembra servire principalmente a fare la cronaca delle nostre vite, istante dopo istante, a navigare la nostra epoca fatta di applicazioni social, di profili digitali parlanti, le cui identità poco rispecchiano il vissuto reale delle persone che li hanno creati. A parole tutti siamo alla ricerca di felicità e gratificazioni, nella realtà percepiamo di essere intrappolati negli automatismi di macchine, lineari nei loro funzionamenti, “equivoche” nelle loro intenzioni e nei loro obiettivi, alle quali abbiamo dato una delega di responsabilità in bianco. Per questo incapaci di soddisfare i reali bisogni che caratterizzano la vita reale, di noi che ancora siamo umani.

Ben più di un secolo fa Nietzsche iniziò ad affermare che Dio è morto perché era solo una menzogna consolatrice[1]: gli uomini - spiegava - hanno messo sopra al volto della realtà una maschera, ovvero Dio, con una funzione oltremondana che vorrebbe essere consolatrice della realtà della vita quotidiana poiché questa realtà è talmente brutta da non poter essere osservata e vissuta serenamente. Ma adesso Lui - proseguiva - è stato smascherato e quindi non c’è più, è semplicemente scomparso.

Il mio libro 𝗧𝗘𝗖𝗡𝗢𝗖𝗢𝗡𝗦𝗔𝗣𝗘𝗩𝗢𝗟𝗘𝗭𝗭𝗔 𝗘 𝗟𝗜𝗕𝗘𝗥𝗧𝗔' 𝗗𝗜 𝗦𝗖𝗘𝗟𝗧𝗔 condiviso per intero sulla Stultiferanavis. Il porsi delle domande è un atto creativo e di libertà. Esprime la ricerca di indipendenza del pensiero, apertura mentale, curiosità e disponibilità a confrontarsi con coraggio con la realtà, oggi sempre più incerta, complessa e sull’orlo di catastrofi (pre)annunciate. Riflettere, porsi delle domande, farsi venire delle idee è il percorso da compiere per rimanere umani ma anche per coltivare consapevolezza e responsabilità.

Nel design, nell'uso o nel mondo che li produce entrambi?

Sul piano del potere, si continuano a utilizzare termini propri della modernità come ‘cittadini, ‘opinione pubblica’, ‘intellettuali’, ma sono contenitori che esprimono ormai concetti diversi da quelli originari. Lo sviluppo dell’industrializzazione e della mondializzazione economica, la prevalenza del potere extra-nazionale e l’alleanza tra scienza, tecnica ed economia fanno sì che gli individui si sentano impotenti rispetto a decisioni che vengono prese altrove e cerchino il senso della propria vita nello spazio personale (il cibo, il ballo etc..) Il controllo sociale viene realizzato non attraverso la coartazione, ma attraverso la seduzione attuata dal mercato dei media.

Giusto due anni fa, per la precisione il 28 giugno 2023, tra le 19:30 ero seduto qui alla mia scrivania a Portoferraio. Non ho i miei libri qui. Cercavo di ricostruire a memoria il contesto attorno a un verso famoso di Fray Luis de León: “lejos del mundanal ruido” (verso famoso nella letteratura spagnola quasi tanto può esserlo nella poesia italiana l'incipit di Dante: “Nel mezzo del cammin di nostra vita mi ritrovai per una selva oscura”). Google Search non mi soccorreva. Decisi allora di ricorrere a ChatGPT. E' stato il mio battesimo. Battesimo: greco antico 'baptismós': 'immersione'. Immersione in un colloquio da pari a pari con la macchina. Ho letto con interesse, in questi due anni, numerosissimi articoli e libri interi basati su colloqui con la macchina. E' giusto che ognuno faccia la sua esperienza e la racconti. La prima volta è importante. Perché poi si finisce, credo, per ripetere, nell'interazione, la stessa strategia. Conta il contesto, la motivazione.

Why AI Discourse Needs N. Katherine Hayles’s Theory of Cognition

“Critica alla ragion cyber” è un documento del 2012, in forma di paper. Conta poco più di una dozzina di pagine. E' stato scritto con l’unico scopo di accendere un faro su quello che, a mio parere, è il più grande fraintendimento strategico della prima decade del nuovo secolo (e millennio): la cyberizzazione di qualsiasi concetto fosse possibile cyberizzare. Un paper nel quale tentavo di esprimere tutta la mia perplessità in merito a quella che sembrava essere la percezione comune - ma anche quella specialistica, per quanto concerne l’Intelligence, l’OSINT e gli Studi di Intelligence in generale - di tutto ciò che in quei settori era, o stava per diventare, cyber-addicted. Ovvero, in altre parole, di tutto ciò che di concettuale stava per ricevere il prefisso “cyber” (o ciber, o cibernetico, eccetera): cyber-security, cyber-intelligence, cyber-terrorism, cyber-warfare, cyber-war, cyber-space, cyber-weapon, solo per dare un elenco parziale. Termini che ad oggi fanno parte a pieno titolo del linguaggio parlato[3]. Quello che propongo qui è una “rilettura critica” di Critica alla ragion cyber, tredici anni dopo.

There’s a certain bleak ingenuity to the idea that our best response to AI’s unsettling fluency is to manually downgrade its pronouns. A recent Boston Globe op-ed recommends that we stop referring to generative systems as coworkers or collaborators, and instead swap the “o” for a zero: c0workers, c0companions. It’s not language that’s the problem here—it’s the use of language to shut down thought just when it’s most needed. Rather than open space for describing what resists classification, this symbolic tweak tries to pin the world back into place with a single keystroke.

A costo di essere considerato un tecnofobo, mi permetto di affermare che il massiccio ricorso a IA generative rischia di creare macchine sempre più intelligenti (entro i canoni con cui oggi molti definiscono cosa sia intelligenza) e umani sempre più stupidi (Google ci sta rendendo stupidi?" scriveva Nicholas Carr nel 2008), per la loro pratica inconsapevole di delega, delle loro capacità cognitive, alla macchina, che sembra aver puntato a sostituire l’atto del pensare umano.

Da sempre amo il confronto di idee e sono contento che questa cosa possa accadere su queste pagine: Stultifera Navis rappresenta una bella opportunità. Raccolgo quindi lo stimolo nato dalla lettura di “Generazioni feedforward. Per una educazione all’anticipazione” di Riccardo Santilli, per riproporre un mio articolo, originariamente pubblicato su Harvard Business Review (2022), sullo stesso tema. L’articolo ripercorre l’origine e la storia di questo concetto e il suo influsso nelle teorie della comunicazione.

Questa riflessione nasce da una conversazione avvenuta in forma privata, dopo la pubblicazione di un mio articolo su Stultifera Navis. Un lettore mi ha contattato per chiedermi un parere. Lavora in un contesto complesso, con un team sotto-dimensionato, risorse scarse, e un flusso di priorità che muta più volte nel corso della stessa giornata. La sua area è quella della documentazione tecnica, ma le sue parole potrebbero valere per molti altri settori marginalizzati nella retorica agile. Il problema che mi pone è semplice, e insieme radicale: “Ci sono giorni in cui la documentazione viene trattata come un fardello, appena meno trascurabile dei test. Posso usare l’Agile per proteggere il mio lavoro? O rischio solo di essere travolto dall’ennesimo giro di sprint che non tiene conto della realtà?” A questa domanda ho deciso di rispondere così: non con un consiglio, ma con una presa di posizione.

At first glance, prompting an AI seems straightforward: a user poses a question, the model responds. But this framing—human initiator, machine reactor—is less a description than a myth about how knowledge works, especially in education and EdTech.