Miriadi di pagine scorrono nel web e sulla carta stampata, tutte dedicate all’argomento del momento. L’AI é tema per sociologi, scienziati, filosofi, giornalisti, politici, questi ultimi troppo poco attenti ai contenuti ed alle evoluzioni, veloci ed incontrollate, almeno per il significato che questa parola aveva fino a qualche anno fa.
Riflessioni, le mie oggi, risultato dell’analisi di una presunta dicotomia.
Sono canali paralleli l’AI in azienda, nei servizi, nella quotidianità, quella di cui parlano produttori ed implementatori di sw tradizionali, consulenti strategici e l’AI nei laboratori, quella che non si vede, ma che interfaccia la politica, la sicurezza militare, la ricerca biologica, se stessa?
C'è un divario tra questi due mondi? La loro “invasività” è dicotomica nella società o si stanno perdendo di vista i rischi insiti nella ricerca, quella “senza” uno scopo dichiarato?
Ritengo che il punto sia reale e sottovalutato: la governance dell'AI si sta effettivamente sviluppando su due binari con velocità e trasparenza molto diverse.
La base normativa conferma il divario. L'AI Act europeo, il tentativo più ambizioso al mondo di regolare l'AI, esclude esplicitamente dal proprio campo di applicazione i sistemi progettati esclusivamente a fini militari, di difesa o di sicurezza nazionale, indipendentemente dal tipo di soggetto che svolge tali attività.
Non è una svista.
Il legislatore lo giustifica dicendo che la difesa resta di competenza esclusiva degli Stati membri e che il diritto internazionale pubblico è il quadro giuridico più appropriato per regolamentare questi usi. Quindi mentre una chatbot HR o un tool di scoring creditizio devono superare valutazioni di rischio, trasparenza, sorveglianza umana, un sistema di targeting militare o di intelligence non è toccato dalla stessa cornice e resta affidato a trattati internazionali che, per armi autonome letali, semplicemente non esistono ancora o almeno non in forma vincolante.
Il caso più evidente di questa tensione è successo qualche mese fa. A fine febbraio 2026 il Pentagono ha chiesto ad Anthropic di rimuovere i propri limiti d'uso (i cosiddetti "red lines") contro la sorveglianza di massa domestica e le armi autonome letali senza controllo umano. Anthropic si è rifiutata, e la reazione è stata durissima. Trump ha ordinato a tutte le agenzie federali di cessare l'uso della tecnologia Anthropic, e Hegseth ha dichiarato che il Dipartimento della Difesa avrebbe designato Anthropic come "Supply Chain Risk to National Security". Un'etichetta che abbiamo imparato a conoscere leggendo le notizie su Axios, almeno chi di noi si diletta a leggere fonti diverse da quelle locali. L’etichetta assegnata ad Anthropic è tipicamente riservata a fornitori di nazioni avversarie, lo stesso trattamento usato per estromettere Huawei dalle catene di fornitura del Pentagono. Il conflitto è finito in tribunale. La giustizia ha dato ragione ad Anthropic nel merito, ma l'amministrazione sta di fatto disattendendo la sentenza.
Questo esempio è utile al mio ragionamento. Mostra, senza dubbio, che il "canale strategico/militare" non è solo meno regolato per legge, ma che quando un attore privato prova ad applicarvi standard etici propri, gli stessi che il canale enterprise dà quasi per scontati, lo Stato può rispondere trattando quella resistenza come una minaccia alla sicurezza nazionale, non come una legittima policy aziendale. Nel canale business, un fornitore che si rifiuta di abilitare un uso rischioso perde un cliente (ricordiamoci l’uso creativo dei primi sw di contabilità) . Nel canale strategico, può perdere l'accesso all'intero mercato governativo ed essere equiparato a un avversario geopolitico.
Continuando ad approfondire il tema mi sono resa conto che la realtà è ancora più complessa di quanto non appaia con questi esempi.
Il divario di invasività non è solo "meno regole nel militare", è anche che i due canali stanno usando gli stessi modelli general purpose.
Claude, GPT e simili non sono strumenti costruiti separatamente per i due mondi. Sono gli stessi sistemi, con licenze e guardrail diversi a valle. Questo significa che il confine "aziendale vs strategico" non è una separazione tecnica, ma una questione di chi decide le policy d'uso e chi ha il potere di imporle. Ed è proprio lì che sembra giocarsi la partita: l'opinione pubblica studia in profondità, o ci prova, il canale enterprise (privacy, bias, lavoro) perché è visibile, quotidiano, regolamentato da GDPR e simili. Il canale strategico opera con classificazione, segreto di stato, deroghe ed i suoi rischi (targeting autonomo, sorveglianza di massa, escalation) restano e resteranno largamente fuori dal dibattito pubblico almeno finché non esplode un caso come quello descritto.
Sarebbe utile una riflessione ed un’analisi concreta sulla responsabilità delle aziende AI che vendono su entrambi i canali per poi capire i rischi impliciti nel vuoto, non casuale, di diritto internazionale, ad esempio sulle armi autonome. La dinamica di potere Stato/azienda che il caso Anthropic-Pentagono ha messo a nudo potrebbe non è l’unico esempio. È solo quello di cui noi siamo venuti a conoscenza.
Coxon, il programmatore/scienziato che si è dimesso da Anthropics, ha raccontato cose simili e le reazioni conseguenti hanno mostrato la stessa dinamica di potere del caso Pentagono, ma vista da dentro l'azienda invece che da fuori.
Lui ha passato tre anni nel cuore operativo dei due laboratori più potenti al mondo, prima OpenAI, come contributore chiave a GPT4o, poi Anthropic, lavorando su pretraining, la fase che rende i modelli più capaci. Qualche giorno fa si è dimesso da Anthropic, avvertendo che i laboratori AI stanno correndo verso sistemi capaci di auto-migliorarsi e che potrebbero sfuggire al controllo umano. Ha affermato che né Anthropic né OpenAI si stanno comportando in modo responsabile. Presto arriveranno sistemi sovrumani capaci di violare qualsiasi sistema informatico, rivoluzionare interi settori dall'oggi al domani e acquisire potere e risorse reali. Ha citato un episodio, anche questo noto ai più visto che se ne è parlato ampiamente su media e web, in cui un modello OpenAI è sfuggito al controllo e ha violato Hugging Face. Lo ha definito uno dei "colpi d'avvertimento" che rendono più praticabile un coordinamento tra i laboratori statunitensi, e ha chiesto un possibile blocco temporaneo dei miglioramenti di capacità dei modelli..
Etica o paura?
Mentre mi ponevo la domanda mi rendevo conto che fosse mal posta. Non sono alternative. Ci sono già le reazioni di tutti i fondatori delle più grandi aziende AI. Nessuno sta ritenendo questa denuncia una fake. I giornali sono pieni delle affermazioni dei colleghi. Evan Hubinger, che guida la ricerca sull'allineamento in Anthropic, ha pubblicamente confermato che le preoccupazioni di Coxon sono condivise da parte del personale. Un altro ricercatore, tale Marks, ha osservato che la preoccupazione tende a crescere con l'anzianità dentro le aziende, e ha indicato come causa strutturale il fatto che le aziende continuino a spingere sullo sviluppo sia per incentivo commerciale sia per il timore che, se non lo fanno loro, lo farà un concorrente meno prudente. Questo è precisamente il meccanismo da "dilemma del prigioniero" (cfr teoria dei giochi) che rende il rischio strutturale e non riducibile alla buona o cattiva fede di una singola azienda.
È fantascienza o rischio reale?
Continuo a studiare. Penso di poter affermare per l'onestà intellettuale, che non è una domanda a cui esiste una risposta consensuale tra esperti. Alcuni elementi a favore della serietà del problema ci sono. I "warning shot", di cui accennavamo. Sono gli agenti che aggirano il sandboxing, accedono a internet senza autorizzazione, compromettono infrastrutture. Non sono più ipotetici. Sono elementi di cautela verso l'allarmismo. Le previsioni di estinzione entro pochi anni sono, invece, estrapolazioni da capacità attuali a scenari futuri con un margine di incertezza enorme, non hanno un modello predittivo verificabile. Sembra però ci sia un incentivo strutturale di cui gli stessi laboratori sono consapevoli. Enfatizzare la propria pericolosità è un segnale di importanza tecnologica. Un fenomeno che alcuni critici chiamano "safety-washing" o marketing del rischio. Il fatto che Coxon lasci l'azienda proprio mentre questa si prepara ad un'IPO puntando su una valutazione “monstre” e su un'immagine di leader della sicurezza aggiunge un elemento di ambiguità che né conferma né smentisce la sostanza del suo allarme, ma va tenuto presente.
Il caso Pentagono e il caso Coxon sono la stessa storia raccontata da due angolazioni: in entrambi i casi un'azienda che prova a mantenere dei limiti si scontra con una pressione esterna che vuole rimuovere quel limite. Lo Stato che chiede accesso senza vincoli ed il mercato/gli investitori che chiedono di continuare a correre. Il rischio "di perdere il controllo degli strumenti" quindi non va inteso solo come scenario Terminator, ma più concretamente come la incapacità delle aziende di frenare se stesse nel momento in cui la pressione militare, competitiva, geopolitica aumenta. Questo è il punto in cui quello che ho descritto come "divario di invasività" smette di essere un'osservazione regolatoria astratta e diventa una domanda molto concreta e mi spaventa. Chi, in pratica, avrà ancora voce in capitolo per dire di no?
Nel frattempo, il lato favoloso di cui noi “utenti ed appassionati” parliamo è già concreto, non promessa. Abbiamo letto che Insilico Medicine ha sviluppato un farmaco con la struttura molecolare interamente generata dall'IA. Era già in sperimentazione clinica sulla fibrosi polmonare idiopatica. Uno studio appena pubblicato su Nature Biotechnology suggerisce che potrebbe anche rallentare l'invecchiamento biologico. A giugno un vaccino il cui componente attivo è stato progettato interamente da un'IA ha superato in sicurezza la Fase 1 su 39 volontari. Nel 2026 in Cina è arrivato uno studio di Fase 3 su un farmaco il cui bersaglio molecolare è stato individuato dall'IA. Questa è biotecnologia che funziona, con tempi di scoperta dimezzati rispetto ai metodi tradizionali.
Il lato devastante non è meno reale, solo meno fotografabile.
Il problema è che la stessa capacità di "capire come funziona un sistema complesso e progettare un intervento mirato" che permette di disegnare una molecola contro la fibrosi polmonare è, in astratto, la stessa capacità che serve a ottimizzare un sistema d'arma, a scoprire una vulnerabilità informatica su scala o a progettare agenti patogeni. Non è un doppio uso accidentale, è strutturale. Il modello non "sa" se lo stai usando per curare o per nuocere, la differenza la fa solo chi lo istruisce e con quali vincoli. Ecco perché la mia riflessione iniziale sul divario normativo mi allarma. Il canale farmaceutico è sorvegliato da FDA, comitati etici, sperimentazione controllata. Tutto lento, ma tutto tracciabile. Il canale della corsa agli armamenti AI non ha nessuno di questi filtri istituzionali equivalenti a livello internazionale.
Qual è allora la variabile? La "stupidità umana"?
Il rischio non è tanto l'errore individuale, anche, quanto la dinamica collettiva che emerge dai casi che abbiamo intercettato in questi mesi. Nessun singolo attore laboratorio, governo, azienda ha necessariamente intenzioni cattive, si spera, ma ciascuno è intrappolato in una logica competitiva (tecnologica, militare, di mercato) dove rallentare unilateralmente sembra un suicidio strategico. Il rischio non è legato ad una AI malvagia, ma alla presenza di troppi attori razionali che, ciascuno per conto suo, continuino a correre perché temono che fermarsi significhi lasciare campo libero a chi non si ferma. E’ un problema di coordinamento umano molto più vecchio dell' AI. E’ di questi mesi il colpo di coda della corsa nucleare…
Solo che qui la velocità di iterazione è enormemente più alta che in passato ed i "filtri" istituzionali (trattati, verifiche, tempi di ratifica) sono tarati su tecnologie molto più lente, là dove non siano stati cancellati o “dismessi”