Tecnologia, IA e Macchine

La Grande Illusione: Quando l’Indifferenza Cede il Passo al Controllo La sveglia suona alle 6:30. Occhi ancora chiusi, allunghi la mano verso lo smartphone. Un gesto automatico, quasi inconsapevole. Non sai che in quel preciso momento, un algoritmo ha già analizzato il tuo sonno, previsto il tuo umore e selezionato le notizie che leggerai durante la colazione. Non ci pensi, non ti interessa. È solo tecnologia che funziona, giusto?

Ogni pochi decenni circa, la filosofia si ritrova brevemente rispolverata e invitata a tornare in buona compagnia – non per affetto, ovviamente, ma perché qualcosa nel sistema è andato storto. L'intelligenza artificiale, a quanto pare, ha scatenato una sorta di panico concettuale: la consapevolezza che le graziose parentesi che circondano conoscenza, significato e soggetto stanno perdendo, e nessuna strategia di innovazione sembra riuscire a fermare il flusso. Gli algoritmi hanno superato i framework, e così i filosofi vengono convocati, come vigili del fuoco a cui viene chiesto di spiegare la struttura molecolare del fumo.

Nell’epoca delle immagini generate dall’intelligenza artificiale, l’esperienza visiva si confronta con una realtà nuova, simulata, ma perfettamente credibile. Chi le genera non si limita a rappresentare il mondo, ma ne orienta la percezione, influenzando ciò che riconosciamo come vero e ciò in cui siamo disposti a credere. Qual è, oggi, la riflessione sul potere di chi produce immagini?

L'intelligenza artificiale rappresenta oggi non soltanto un complesso di tecnologie emergenti, ma un dispositivo attraverso cui si distribuiscono pratiche etiche che incidono profondamente sull'organizzazione sociale. Chi progetta, addestra e implementa sistemi di IA compie scelte valoriali che, sebbene spesso implicite, determinano ciò che viene considerato giusto, accettabile o preferibile in molteplici ambiti della vita collettiva.

Continuiamo a ripeterci che dobbiamo mettere in discussione la posizione privilegiata dell'essere umano, l'illusione di una supremazia umana, ogni forma di antropocentrismo, le nostre ristrette categorie morali, il pensiero moderno, l'ontologia occidentale, la tendenza a contentarsi di comode opposizioni binarie, l'umanesimo giuridico europeo cristiano. Il problema sta nel fatto che cerchiamo il superamento di questa posizione non in un recupero di valori ma in un affidamento a macchine.

Nei miei sforzi per sviluppare un'etica relazionale per l'IA, il lavoro di Abeba Birhane è stato centrale. Scienziato cognitivo e teorico della decolonizzazione, la scrittura di Birhane si muove fluidamente tra i domini – filosofia della mente, teoria critica della razza, etica dei dati – ma rimane focalizzata su una domanda epistemica fondamentale: quali tipi di conoscenza e quali forme di vita riproducono i sistemi di intelligenza artificiale? E in base a quali presupposti sull'umanità, la cognizione e il controllo?

Seduto ai piedi di una vecchia quercia, nel cuore di un bosco silenzioso, ho avuto un'epifania. La domanda che mi assillava era insolita per quel contesto: "Dove si trova l'intelligenza di questo albero?". La risposta istintiva avrebbe indicato radici, rami, foglie. Ma a ben guardare, quell'intelligenza non era dentro l'albero. Era nel modo in cui la quercia "dialogava" con un faggio tramite una rete sotterranea di funghi, nel modo in cui condivideva nutrienti con un giovane abete, e in come coordinava la caduta delle foglie con l'arrivo dell'inverno. L'intelligenza non era un oggetto statico, ma un modo intelligente di accadere delle relazioni. Questa profonda lezione della natura è la chiave per comprendere e sviluppare un'Intelligenza Artificiale che non solo funzioni, ma che prosperi in simbiosi con l'ecosistema, contribuendo a salvare il nostro pianeta.

Questo è un articolo scritto da ChatGPT. Nasce da uno scambio divertente, breve, intrigante tra me e una macchina che ammette di non pensare e tuttavia si impegna e si esercita a produrre opere di ingegno e di pensiero. Dopo una chiacchierata di qualche minuto ho chiesto alla ChatGPT di scrivermi un articolo per la nave deie folli e lei tranquillamente e con una sua capacità creativa l'ha fatto. Quello che segue è il testo che mi/ci ha regalato.

Un articolo molto interessante. Ne consiglio la lettura, perché chiarisce le cose. Sostenere i diritti dei robot è un modo di ciurlare nel manico. E troppo spesso si sentono discorsi, a proposito di novità digitale e di intelligenza artificiale, che non sono altro che ciurlare nel manico.

La questione educativa non è semplicemente se sia ancora necessario insegnare a scrivere, dipingere o comporre. Si tratta di come insegnare agli studenti a riconoscere quando il loro processo creativo viene sottilmente ottimizzato verso impostazioni predefinite meccaniche, quando il sistema sta smussando la difficoltà, l'ambiguità o l'invenzione in nome della fluidità.

Da quando il progetto della 𝐒𝐓𝐔𝐋𝐓𝐈𝐅𝐄𝐑𝐀𝐍𝐀𝐕𝐈𝐒 è online capita frequentemente di parlarne con alcuni dei molti che hanno (scelto) deciso di salire a bordo. Lo si fa per raccontare il progetto e conoscersi, per condividere opinioni, posizionamenti, punti di vista e visioni del mondo e della realtà. Lo si fa anche per ipotizzare nuove iniziative, per allargare scenari e argomenti su cui riflettere insieme, per sintonizzarsi cognitivamente, visto quanto è grande oggi lo scadimento del linguaggio, dei concetti e delle parole. Ogni incontro, ogni scambio è ricco di informazioni e di conoscenze, di saperi, di pillole di saggezza, può generare empatia e/o scatenare confronti accesi e passioni. Nulla di particolare, in fondo a confrontarsi sono sempre e soltanto esseri umani, in carne e ossa, non ancora robotizzati e automatizzati o resi calcolabili da qualche codice straniero o algoritmo. Ma 𝗰𝗼𝘀𝗮 𝘀𝘂𝗰𝗰𝗲𝗱𝗲 𝘀𝗲 𝗶𝗹 𝗰𝗼𝗻𝗳𝗿𝗼𝗻𝘁𝗼 𝗻𝗼𝗻 è 𝗽𝗶ù 𝘁𝗿𝗮 𝗲𝘀𝘀𝗲𝗿𝗶 𝘂𝗺𝗮𝗻𝗶 𝗺𝗮 𝘁𝗿𝗮 𝘂𝗻 𝘂𝗺𝗮𝗻𝗼 𝗲 𝘂𝗻𝗮 𝗺𝗮𝗰𝗰𝗵𝗶𝗻𝗮?

Un testo tratto dal mio ultimo libro 𝐍𝐎𝐒𝐓𝐑𝐎𝐕𝐄𝐑𝐒𝐎 -𝐏𝐫𝐚𝐭𝐢𝐜𝐡𝐞 𝐮𝐦𝐚𝐧𝐢𝐬𝐭𝐞 𝐩𝐞𝐫 𝐫𝐞𝐬𝐢𝐬𝐭𝐞𝐫𝐞 𝐚𝐥 𝐌𝐞𝐭𝐚𝐯𝐞𝐫𝐬𝐨. - Nella società delle piattaforme il linguaggio, semplificato e mummificato dentro concetti, memi e acronimi (spesso in lingua inglese), sembra servire principalmente a fare la cronaca delle nostre vite, istante dopo istante, a navigare la nostra epoca fatta di applicazioni social, di profili digitali parlanti, le cui identità poco rispecchiano il vissuto reale delle persone che li hanno creati. A parole tutti siamo alla ricerca di felicità e gratificazioni, nella realtà percepiamo di essere intrappolati negli automatismi di macchine, lineari nei loro funzionamenti, “equivoche” nelle loro intenzioni e nei loro obiettivi, alle quali abbiamo dato una delega di responsabilità in bianco. Per questo incapaci di soddisfare i reali bisogni che caratterizzano la vita reale, di noi che ancora siamo umani.

Ben più di un secolo fa Nietzsche iniziò ad affermare che Dio è morto perché era solo una menzogna consolatrice[1]: gli uomini - spiegava - hanno messo sopra al volto della realtà una maschera, ovvero Dio, con una funzione oltremondana che vorrebbe essere consolatrice della realtà della vita quotidiana poiché questa realtà è talmente brutta da non poter essere osservata e vissuta serenamente. Ma adesso Lui - proseguiva - è stato smascherato e quindi non c’è più, è semplicemente scomparso.

Il mio libro 𝗧𝗘𝗖𝗡𝗢𝗖𝗢𝗡𝗦𝗔𝗣𝗘𝗩𝗢𝗟𝗘𝗭𝗭𝗔 𝗘 𝗟𝗜𝗕𝗘𝗥𝗧𝗔' 𝗗𝗜 𝗦𝗖𝗘𝗟𝗧𝗔 condiviso per intero sulla Stultiferanavis. Il porsi delle domande è un atto creativo e di libertà. Esprime la ricerca di indipendenza del pensiero, apertura mentale, curiosità e disponibilità a confrontarsi con coraggio con la realtà, oggi sempre più incerta, complessa e sull’orlo di catastrofi (pre)annunciate. Riflettere, porsi delle domande, farsi venire delle idee è il percorso da compiere per rimanere umani ma anche per coltivare consapevolezza e responsabilità.

Nel design, nell'uso o nel mondo che li produce entrambi?

Sul piano del potere, si continuano a utilizzare termini propri della modernità come ‘cittadini, ‘opinione pubblica’, ‘intellettuali’, ma sono contenitori che esprimono ormai concetti diversi da quelli originari. Lo sviluppo dell’industrializzazione e della mondializzazione economica, la prevalenza del potere extra-nazionale e l’alleanza tra scienza, tecnica ed economia fanno sì che gli individui si sentano impotenti rispetto a decisioni che vengono prese altrove e cerchino il senso della propria vita nello spazio personale (il cibo, il ballo etc..) Il controllo sociale viene realizzato non attraverso la coartazione, ma attraverso la seduzione attuata dal mercato dei media.

Giusto due anni fa, per la precisione il 28 giugno 2023, tra le 19:30 ero seduto qui alla mia scrivania a Portoferraio. Non ho i miei libri qui. Cercavo di ricostruire a memoria il contesto attorno a un verso famoso di Fray Luis de León: “lejos del mundanal ruido” (verso famoso nella letteratura spagnola quasi tanto può esserlo nella poesia italiana l'incipit di Dante: “Nel mezzo del cammin di nostra vita mi ritrovai per una selva oscura”). Google Search non mi soccorreva. Decisi allora di ricorrere a ChatGPT. E' stato il mio battesimo. Battesimo: greco antico 'baptismós': 'immersione'. Immersione in un colloquio da pari a pari con la macchina. Ho letto con interesse, in questi due anni, numerosissimi articoli e libri interi basati su colloqui con la macchina. E' giusto che ognuno faccia la sua esperienza e la racconti. La prima volta è importante. Perché poi si finisce, credo, per ripetere, nell'interazione, la stessa strategia. Conta il contesto, la motivazione.

Why AI Discourse Needs N. Katherine Hayles’s Theory of Cognition

“Critica alla ragion cyber” è un documento del 2012, in forma di paper. Conta poco più di una dozzina di pagine. E' stato scritto con l’unico scopo di accendere un faro su quello che, a mio parere, è il più grande fraintendimento strategico della prima decade del nuovo secolo (e millennio): la cyberizzazione di qualsiasi concetto fosse possibile cyberizzare. Un paper nel quale tentavo di esprimere tutta la mia perplessità in merito a quella che sembrava essere la percezione comune - ma anche quella specialistica, per quanto concerne l’Intelligence, l’OSINT e gli Studi di Intelligence in generale - di tutto ciò che in quei settori era, o stava per diventare, cyber-addicted. Ovvero, in altre parole, di tutto ciò che di concettuale stava per ricevere il prefisso “cyber” (o ciber, o cibernetico, eccetera): cyber-security, cyber-intelligence, cyber-terrorism, cyber-warfare, cyber-war, cyber-space, cyber-weapon, solo per dare un elenco parziale. Termini che ad oggi fanno parte a pieno titolo del linguaggio parlato[3]. Quello che propongo qui è una “rilettura critica” di Critica alla ragion cyber, tredici anni dopo.

There’s a certain bleak ingenuity to the idea that our best response to AI’s unsettling fluency is to manually downgrade its pronouns. A recent Boston Globe op-ed recommends that we stop referring to generative systems as coworkers or collaborators, and instead swap the “o” for a zero: c0workers, c0companions. It’s not language that’s the problem here—it’s the use of language to shut down thought just when it’s most needed. Rather than open space for describing what resists classification, this symbolic tweak tries to pin the world back into place with a single keystroke.