Tra favole e miti, la realtà di (Claude) Shannon

Due nomi... un pensiero fisso... Fable e Mythos... la Favola e il Mito...

Scelti per battezzare modelli di intelligenza artificiale con la stessa innocenza con cui si battezza un'arma col nome di un dio, o una portaerei col nome di una virtù.

Non è accaduto per caso, credo, perché certi nomi rivelano una volontà più profonda, quasi a rendere la tecnologia un racconto e farla stare nel posto dove stavano le grandi macchine narrative dell'umanità, quelle costruite per fare ciò che il reale da solo lasciava senza forma da tramandare.

Le favole ordinano il caos per i bambini mentre i miti fondano il mondo per chi ha smesso di saperlo fare senza uno schema che lo sorregga.

In linguaggio moderno potrei forse dire che i modelli linguistici producono distribuzioni di probabilità su sequenze di token... ma vedete anche voi che non ha lo stesso appeal.

Favole, miti e modelli linguistici sono fenomeni radicalmente diversi, ma la formulazione di token statistici, fino a qualche mese fa, non si raccontava.

Ecco mi torna in mente Shannon... terzo anno di ingegneria... corso di Comunicazioni uno degli esami più ostici che separassero l'idea di diventare ingegnere dal diventare ingegnere.

Shannon l'altro Claude, quello che non prometteva coscienza (la domanda non gli interessava neppure), e che prese la comunicazione, la spogliò di ogni paramento retorico e disse, con la sobrietà quasi indecente di chi lavora in Bell Labs, che prima di parlare di significato, avremmo dovuto guardare il segnale, il rumore, la probabilità, la capacità del canale.

Si confesso che anche io alla prima lezione dell'anno rimasi assai basito.

Ora cerco di spiegarla semplice... Claude Shannon non era interessato a sapere se il messaggio fosse bello, giusto, morale, salvifico o poetico... era, in realtà, più brutale nel chiedersi quanta informazione potesse passare attraverso un canale disturbato, e fino a quale soglia la compressione reggesse senza perdere il significato di valore.

E noi oggi? Invece noi ci interroghiamo sulla coscienza.

Per anni, invero, ho contribuito anch'io a quella conversazione, con la sensazione crescente di partecipare a un rito collettivo di evitamento particolarmente sofisticato.

L'AI pensa? L'AI sente? L'AI è almeno un poco umana?

Affascinante tutto sommato... siamo diventati così ingegneri, umanisti, psicologi e filosofi.

Ma cosa è davvero capace di produrre conseguenze reali sui sistemi che stiamo costruendo, sui processi che stiamo delegando, sulle dipendenze che stiamo accumulando con la disinvoltura di chi firma contratti senza leggere le clausole di risoluzione perché non intende mai risolvere (spesso neppure sé stesso)?

Shannon, con la sua freddezza quasi disumana, non perdeva tempo su queste domande perché sapeva che prima del messaggio (quale che esso sia) c'è sempre il canale. 

E che nessun canale è innocente.

La vicenda di Fable e Mythos, con tutta la cautela che le formule giornalistiche meritano, come ad esempio "primo export control su un LLM" che è una bella formula ma va usata con guanti di amianto, ha reso visibile qualcosa che per anni abbiamo preferito ignorare perché era più semplice che rifletterci.

Non che ogni modello linguistico di frontiera (tecnicamente un API frontier) sia già un export controllato, non ancora, almeno non in modo giuridicamente definito.

Ciò che il caso ha reso visibile è che l'accesso a una capacità AI può essere sospeso, condizionato, ridotto per categorie di utenti, per giurisdizioni, per finalità d'uso mentre la capacità resta intatta e il modello resta al suo posto.

Solo che sei tu che non riesci più a raggiungerlo perché il canale si chiude; la macchina resta ma purtroppo l'infrastruttura cognitiva che avevi incorporato nei tuoi processi (anche quelli mentali) smette semplicemente di risponderti.

Mi dichiaro colpevole. Negli ultimi tre anni, ho costruito un'idea dell'intelligenza artificiale come architettura assai complessa: la ho chiamata Ecologia Cognitiva Relazionale forse perché non mi sono venute in mente idee migliori.

Il modello, il dataset, il benchmark, il parametro, il peso, il cluster: cose tangibili, classificabili, acquistabili, revocabili secondo logiche che conosco perché assomigliano a quelle di tutti gli altri sviluppi tecnologici della storia recente.

Tutto sommato è un modo di pensare comodo, perché con un chip che attraversa una frontiera sai cosa fare: lo fermi; con un peso modello esportato, lo classifichi; il software trasferito ha procedure.

Il servizio interrogato da remoto sfugge a tutte e tre

Un modello di frontiera accessibile non ha bisogno di consegnarti i propri pesi per cambiarti il potere operativo; la relazione con l'infrastruttura cognitiva non funziona secondo la logica del possesso.

Questa relazione la interroghi senza possederla.

Le fai scrivere codice, esplorare vulnerabilità, sintetizzare conoscenza, orchestrare compiti che senza di lei richiederebbero team interi e settimane che non hai.

La macchina resta dov'è... quello che si muove è la capacità.

Nel mentre noi continuiamo a chiamarla chat.

Chat è una parola che appartiene alla parte buona del vocabolario.

Si presenta come leggera, priva di peso storico, anglofona nel modo in cui lo sono le parole che non vogliamo far sembrare serie (o molto serie).

Fa pensare a un salotto, a qualcosa di ordinato e prossimo dove si producono risposte divertenti senza che nulla sia in gioco. L'ho usata anch'io, la uso ancora, con la consapevolezza crescente che sia la parola sbagliata scelta nel momento sbagliato per descrivere la cosa sbagliata.

Ma sotto la superficie rassicurante della chat sta accadendo qualcosa che Shannon avrebbe riconosciuto immediatamente come problema di canale: il linguaggio sta diventando l'interfaccia universale di accesso alla potenza cognitiva distribuita, e chi sa formulare mobilita, e chi dispone del canale dispone di una porzione non trascurabile della macchina, anche quando la macchina è fisicamente dall'altra parte dell'oceano.

Questa altra parte (giurisdizione) può decidere, domani mattina, che quel canale non è più disponibile per te, per la tua nazionalità, per la finalità che hai dichiarato o che qualcuno ha deciso di attribuirti senza neppure avertelo davvero chiesto.

La fase romantica dell'AI come meraviglia universalmente accessibile a chiunque abbia un plafond di una carta di credito è un'idea che sta forse finendo.

Una fase adulta e un poco sgradevole prende il suo posto.

Vogliamo fare quelli dotti? Chiamiamola identity, jurisdiction, end-use, compliance, export control, foreign nationals, compute, cloud, model weights, access policy, audit trail, dual-use risk.

Qualcuno ancora dice burocrazia... io dico 'finalmente la geografia del potere torna visibile invece di nascondersi sotto l'interfaccia'.

Le infrastrutture strategiche hanno sempre avuto giurisdizioni.

Poi per quale motivo ci siamo convinti che questa fosse diversa, sarà una analisi storica che occuperà qualche pagina di qualche libro tra qualche decennio.

Forse perché non aveva corpo, nessun peso fisico né frontiera tangibile; abbiamo quindi scambiato l'immaterialità per neutralità, e questa è la confusione concettuale che pagheremo più cara, perché si installa lentamente, si confonde con la fiducia, e quando diventa visibile ha già strutturato processi che non si smontano in una settimana.

La nave degli stolti naviga adesso con le GPU a bordo, e ci sono salito anch'io e lo dico senza compiacenza; forse solo con la piccola soddisfazione di chi fa autoironia da una posizione di sicurezza ma ci sono salito davvero.

Ho progettato processi su accessi che davo per garantiti, ho costruito aspettative su canali che non governavo, ho scritto di sovranità cognitiva mentre dipendevo strutturalmente da infrastrutture su cui non avevo e non ho controllo.

Riconosco pertanto il responsabile della sicurezza convinto di aver comprato tale sicurezza perché ha acquisito un tool; riconosco il manager che scambia la demo per strategia; riconosco, nelle giornate in cui scrivo di queste cose per un pubblico che non ha tempo di approfondire e si fida di chi sembra sicuro, anche il consulente che vende ciò che promette senza poterlo garantire.

Siamo tutti sulla nave, e la nave non distingue facilmente tra chi è salito per ignoranza, per convinzione o per convenienza: l'esposizione al momento in cui il canale smette di risponderci è la stessa.

Il dual-use, in questo scenario, non è un'etichetta burocratica inventata da qualcuno per complicare la vita ai dipartimenti di compliance ma la struttura stessa della potenza operativa, ed era tale ben prima che esistesse una parola per descriverla.

Shannon, con quella fredda sobrietà che rendeva insopportabili le sue conferenze e indispensabili i suoi teoremi, resta l'antidoto più efficace che conosco agli autoinganni collettivi che ci permettiamo (auto compiaciuti) in questo momento. Ci ricorda che prima del mito c'è il canale, e che il canale non è mai stato un oggetto neutro; che la domanda sulla coscienza delle macchine, per quanto inevitabile, arriva sempre dopo un'altra domanda più imbarazzante: quanta capacità passa, da dove passa, chi controlla il canale, chi può ridurne la portata, chi può interromperlo, a quali condizioni, per quali soggetti, secondo quale politica che può cambiare senza che tu sia stato nemmeno consultato?

Fable e Mythos sono nomi quasi profetici, ma non per le ragioni che immaginavano chi li ha scelti.

Lo sono perché ci restituiscono, involontariamente, il ritratto fedele di una narrazione confortante dell'accesso come diritto acquisito, di una fede infrastrutturale che confonde la disponibilità corrente con la disponibilità permanente, del mito del servizio neutro che esisterebbe fuori dalla storia del potere così come esisterebbero, fuori dalla storia del potere e nell'immaginario ingenuo, le leggi della fisica e la grammatica.

La favola promette che basta connettersi mentre il mito, che il modello più potente vincerà.

Shannon aveva un'altra risposta, meno spettacolare e più dissacrante:

nessun messaggio esiste senza canale, e nessun canale è mai stato innocente, nemmeno quando lo sembrava, soprattutto quando lo sembrava.

Oggi mi chiedo, quando parlo con un modello, chi altro sta governando il canale?

Mi giro questa domanda tra le mani senza avere una risposta neppure sufficiente... Shannon forse mi avrebbe detto che è un buon segno... vuol dire che il rumore è reale.