Gino Tocchetti

Cerchiamo di inquadrare i vantaggi e soprattutto le criticità dell’AI-Powered Search, dal momento che riguarda il modo col quale ci informiamo, e quindi deriviamo la conoscenza del mondo che intendiamo abitare e trasformare. Qui approfondiamo quali conseguenze comporta, e quali contromisure si stanno proponendo.

Cerchiamo di inquadrare i vantaggi e soprattutto le criticità dell’AI-Powered Search, dal momento che riguarda il modo col quale ci informiamo, e quindi deriviamo la conoscenza del mondo che intendiamo abitare e trasformare. Se compromesso, risultiamo indeboliti nella capacità di abitarlo pienamente e trasformarlo in base ai nostri bisogni e desideri, e alla fine, soggetti passivi e manipolabili.

L’autore esercita la funzione autore cooperando con il modello transformautore — sintografia generata con ChatGPT

Se il ruolo dell’autore è quello di portare l’opera a compimento, nei casi di opere complesse come quelle considerate nel precedente articolo di questa serie, diventa difficile identificarne chiaramente l’identità.

L’autore esercita la funzione autore cooperando con il modello transformautore — sintografia generata con ChatGPT

L’autore esercita la funzione autore cooperando con il modello transformautore — sintografia generata con ChatGPT

Finora le nuove possibilità introdotte dallo sviluppo tecnologico hanno permesso all’uomo di creare forme sempre più evolute con cui esprimersi e realizzarsi. Con l’Intelligenza Artificiale, lo scarto evolutivo è evidente: la trasformazione di ruoli, concezioni e tradizioni, ha un effetto radicale sui concetti di opera d’autore, autore e processo generativo. Questo è direttamente legato alla questione cruciale, se l’AI sostituisce l’uomo o lo potenzia.

Negli umani ogni atto linguistico si intreccia con un vissuto corporeo e relazionale. I neuroni a specchio, ad esempio, attivano nel soggetto che osserva la stessa disposizione motoria o emotiva di chi agisce o parla. Questi neuroni sono considerati fondamentali per l’intersoggettività umana e l’empatia, perché creano una forma di risonanza diretta, corporea, che precede e sostiene la comprensione cognitiva.

Se non sono concetti definiti in modo condiviso quando riferiti agli uomini, che senso ha riferirsi alle macchine con termini come “intelligenza” o “ragionamento”? Per riprendere Dijkstra, non sembra interessante “chiedersi se i sottomarini sono capaci di nuotare”. Eppure, il vocabolario usato dai tecnologi e dai marketer che sviluppano e promuovono l’AI continua a fare largo uso di un linguaggio equivoco, dal termine stesso di Intelligenza Artificiale al più recente “Reasoning Model”. Con Wittgenstein, capiamo che questo uso del linguaggio è esso stesso un gioco che ricorre frequentemente nel confronto con lo sviluppo del progresso in generale, e tecnologico in particolare.

Lo stato dell’arte della ricerca scientifica conferma che ancora oggi i LLM, pur essendo ormai di dimensioni ciclopiche, si limitano ad eseguire catene di inferenze e simulare processi deduttivi, ma lo fanno tramite aggregazioni statistiche di percorsi appresi, senza autentica comprensione o coerenza concettuale autonoma. Siamo in grado di trasferire facilmente questa capacità a modelli più piccoli, facilitandone la diffusione, ma questa resta più dipendente dalle strutture logiche apprese, che dal contenuto specifico: il rimescolamento o la cancellazione dei passaggi logici causano un degrado delle prestazioni. Questo conferma l’impossibilità da parte dei LLM di giocare al gioco linguistico della vita. Il rischio, allora, non è che le macchine diventino più umane, ma che noi si finisca per adattarsi a una forma di linguaggio priva di radici nella vita reale, perdendo dimestichezza con il pensiero critico, l’ascolto, l’interpretazione.

Il rilascio della nuova versione di ChatGPT capace di generare immagini, ha rinvigorito un dibattito mai esaurito sul copyright e il diritto d’autore. Le sue caratteristiche sono decisamente migliori di quelle di DALL·E 3, riuscendo a mantenere coerenza nei personaggi e nello stile anche con elementi complessi come il testo o i dettagli anatomici, ma sono tali da far concorrenza perfino a modelli collaudati da tempo come Midjourney. Una feature in particolare ha avuto un incredibile successo, ed è diventata rapidamente virale, anche perché incoraggiata dallo stesso Altman: quella che permette di interpretare un’immagine, o una propria foto, nello stile magico dello Studio Ghibli. I social si sono riempiti di avatar incantati, occhi enormi e atmosfere da fiaba giapponese, sorprendendo perfino i tecnici di OpenAI, che hanno faticato a gestire il sovraccarico di richieste. Insieme al facile entusiasmo, però, si sono alzati gli interrogativi sul senso di questo meme, e soprattutto sulla sua etica.

Come promesso, ecco la mia personale indagine su “Jianwei Xun”, un lavoro da profiler a caccia del killer, che racconto qui in due tappe. Risulterà anche un’operazione di debunking di un certo fact checking, accettando la sfida lanciata dal libro Hypnocracy, e dimostrando che il fact checking si può fare, se però esso stesso non è affetto da bias. Infatti l’esame dei fact checker non è privo di allucinazioni, errori e valutazioni sommarie, ma proposte come verità, tanto che sono state espresse con un certo dileggio per chi non le riconosce come tali.

Leggere il libro “Hypnocracy: Trump, Musk, and the Architecture of Reality”, o anche solo partecipare al dibattito che si sta animando intorno ad esso, è come immergersi in un film di David Lynch. Come nel film, anche nel libro ci si muove senza punti di riferimento stabili, tra piani che si sovrappongono e identità che si moltiplicano, fino a perdere il confine tra percezione e costruzione della realtà.

Leggere il libro “Hypnocracy: Trump, Musk, and the Architecture of Reality”, o anche solo partecipare al dibattito che si sta animando intorno ad esso, è come immergersi in un film di David Lynch, ovvero come ritrovarsi nei panni di Diane Selwyn dopo l’incidente su Mulholland Drive.

Leggere “Hypnocracy” di “Jianwei Xun” è un’esperienza straniante e, insieme, chiarificatrice. Il libro non si presta a una sintesi lineare, né a una lettura “a tesi”: è piuttosto un paesaggio mentale, una rete di concetti, immagini, frammenti teorici e intuizioni che si rincorrono, si sovrappongono e talvolta si contraddicono. Un testo che non si limita a descrivere un fenomeno, ma che tenta di farci vivere — nel modo stesso in cui è scritto — la condizione che analizza: quella di una realtà ipnotica, fluida, discontinua, priva di un centro.

Più di due mesi fa veniva lanciato DeepSeek, il primo LLM cinese, con l’effetto di un sasso nello stagno. Correggo subito: proprio stagno non è, considerando che parliamo di un settore, quello dell’AI, in cui le startup hanno raccolto 131 miliardi nel 2024, di cui il 74% negli USA (1,2 miliardi solo in Italia). Tanto meno un sassolino, visto che ha provocato il crollo in borsa di giganti come NVIDIA e non solo.

L’Intelligenza Artificiale sorprende per le sue capacità, ma non è del tutto appropriato chiamarla intelligente. Sicuramente è un esecutore (agency, la chiama Luciano Floridi) talmente bravo nel suo lavoro da sorprenderci che ne sia capace, e da farci sospettare che lo faccia con intelligenza. Però, non sappiamo definire con precisione l’Intelligenza Umana, e questo rende ancora più difficile argomentare che l’AI non la possiede.

Dove si colloca la linea di demarcazione tra la responsabilità e le decisioni dell’utente e quelle dell’AI? Quale capacità o ambito di ragionamento siamo disposti a delegare? Quale cognizione dimostra l’AI e quale siamo portati a riconoscerle? e soprattutto, fino a che punto è una delega e non diventa un condizionamento? fino a dove vogliamo e riusciamo a mantenere il controllo?

Le narrazioni hanno accompagnato, e spesso orientato, lo sviluppo della storia dell’umanità, fin dalle lontane origini ai giorni nostri. Infatti, oltre a distinguerci come specie, sono in stretta relazione con l’esecuzione di processi cognitivi, e strumento di espressione della natura umana, e realizzazione del suo potenziale.

Il nostro rapporto con l’acquisizione di informazioni per generare nuova conoscenza e decidere nuovi piani di azione, è andato trasformandosi nel tempo, e proprio negli ultimi decenni ha attraversato una vera e propria rivoluzione. L’argomento è molto complesso, ma tentiamo qui di collocare il prompting verso l’AI in un più ampio quadro storico, filosofico e culturale.