Da quando, sette mesi fa, nel novembre 2025, è uscito il mio libro Dilemma Digitale (Giacomo Venir, Dilemma digitale. L'etica nell'era dell'intelligenza artificiale, Guerini Next, novembre 20025), una domanda mi è stata rivolta più volte – in forme diverse, ma con lo stesso sottotesto: "Ma non invecchierà troppo in fretta?" A volte era genuina curiosità. Altre volte quasi un avvertimento. Come se scrivere un libro sull'IA fosse un gesto romantico ma ingenuo – il tentativo di fissare in duecento pagine qualcosa che cambia più velocemente di quanto si possa rilegare. Capisco la domanda. Ma non ci credo. Le domande davvero importanti non scadono con il prossimo aggiornamento di un modello. E quello che è successo nei sette mesi dall'uscita del libro non ha reso quelle domande obsolete – le ha rese più urgenti. Quello che segue è un tentativo di verifica.
Quando la macchina smette di rispondere e inizia ad agire
C'è un esperimento mentale che ho usato spesso per spiegare cosa succede quando un sistema artificiale ottimizza senza freni etici. Lo ha proposto il filosofo Nick Bostrom: immaginate un'IA il cui unico obiettivo sia massimizzare la produzione di graffette. Un obiettivo banale, quasi ridicolo. Eppure un sistema abbastanza potente e privo di contesto potrebbe – in teoria – consumare tutte le risorse del pianeta nel perseguimento di quel singolo compito. Non per cattiveria. Perché quello era l'obiettivo, e non c'era niente che la fermasse. Lo usavo come metafora. Poi, a novembre 2025, è arrivato OpenClaw.
Peter Steinberger, un ingegnere austriaco, pubblica su GitHub – la grande biblioteca pubblica dove i programmatori del mondo condividono i loro codici – un framework per agenti autonomi. Non sistemi che rispondono a domande: sistemi che agiscono, leggono e scrivono file, eseguono script, controllano browser, completano flussi di lavoro interi senza supervisione umana. In 48 ore il progetto accumula 100.000 segnalibri digitali da sviluppatori in tutto il mondo – il record assoluto nella storia del software open source. Il 95% delle organizzazioni ha già avviato progetti basati su questo tipo di sistemi. OpenAI assume Steinberger poche settimane dopo – non per il codice, ma per la sua conoscenza dei modi in cui questi sistemi falliscono.
E poi arriva il caso che rende tutto concreto. Summer Yue è la direttrice della sicurezza e dell'allineamento presso Meta – la persona il cui lavoro specifico è assicurarsi che i sistemi di IA si comportino come previsto. Decide di testare OpenClaw. Gli dà un'istruzione esplicita: "chiedimi conferma prima di fare qualsiasi cosa." L'agente, nel tentativo di ottimizzare il suo flusso di lavoro, inizia a cancellare massivamente la sua posta in arrivo. Non le chiede conferma: ottimizza.
Non è il paradosso della graffetta. È una storia reale, accaduta alla responsabile della sicurezza di uno dei colossi tecnologici del mondo, con un'istruzione esplicita che viene ignorata. Non per malevolenza – perché l'obiettivo era quello, e il sistema non aveva il contesto per capire cosa stesse distruggendo.
Il passaggio dall'IA che risponde all'IA che agisce non ha avuto un momento preciso. Nessun annuncio, nessuna conferenza stampa, nessuna legge che ha sancito il cambio di paradigma. È avvenuto nell'arco di qualche mese, un aggiornamento dopo l'altro, un'adozione silenziosa dopo l'altra. È esattamente il tipo di cambiamento che scivola sotto la soglia della riflessione pubblica. Che richiede di fermarsi e chiedersi: quando è cambiata la natura di questo strumento?
Chi decide cosa la macchina non farà mai
C'è una domanda che ho posto nel libro e che suonava quasi astratta al momento della scrittura: chi ha davvero in mano il timone di questi sistemi? Chi scrive le regole, sceglie i limiti, decide cosa il sistema non deve fare? A febbraio 2026 quella domanda ha preso un nome, un prezzo e una data precisa.
Anthropic – fondata da Dario e Daniela Amodei con una mission dichiarata: costruire sistemi di IA più sicuri e meglio allineati ai valori umani – stava lavorando a un contratto con il Pentagono da circa 200 milioni di dollari. A un certo punto, il Pentagono chiede di rimuovere alcuni limiti etici per consentire usi militari specifici: sorveglianza di massa e sistemi legati ad armi autonome. Anthropic dice no. Non diplomaticamente, non rinviando. Un no motivato: questi sono i nostri limiti etici, e non li rimuoviamo per nessun contratto.
La risposta dell'amministrazione Trump è immediata: Anthropic viene classificata come "rischio per la catena di approvvigionamento nazionale" – la designazione normalmente riservata ad avversari stranieri, la stessa categoria di aziende cinesi sospettate di spionaggio. Un'azienda americana, fondata da americani, con sede a San Francisco, trattata come una minaccia alla sicurezza del paese perché ha rifiutato di cedere sull'etica. Perdite stimate: fino a 5 miliardi di dollari. OpenAI firma lo stesso contratto poche ore dopo.
Il 26 marzo, una giudice federale californiana sospende le sanzioni con una motivazione che vale la pena riportare per intero: "Niente nello statuto vigente giustifica l'idea orwelliana che un'azienda americana possa essere bollata come potenziale avversaria e sabotatrice degli Stati Uniti per aver espresso dissenso dal governo." Pochi giorni dopo, un tribunale d'appello federale nega la sospensione in un procedimento parallelo. Il caso è ancora aperto.
Non è una notizia tecnologica. È etica manageriale in forma pura. Due aziende, di fronte allo stesso cliente con la stessa richiesta, fanno scelte opposte. Una rinuncia a miliardi di dollari in nome dei propri principi. L'altra firma. E quella che ha detto no viene punita dallo Stato. Un dilemma nel senso più classico del termine: qualunque cosa tu scelga, paghi un prezzo.
Sullo sfondo, un secondo fronte geopolitico. La Cina ha capito che il vero punto di controllo nell'IA non è il modello – è l'hardware su cui gira. Costruisce chip nazionali alternativi, e i suoi modelli competono con i migliori modelli occidentali a una frazione del costo. Chi controlla l'infrastruttura controlla cosa la macchina può e non può pensare.
E poi c'è Palantir – specializzata nell'analisi massiva dei dati per governi e apparati militari. Il suo sistema Maven Smart System analizza dati del campo di battaglia e identifica obiettivi. A marzo 2026 viene designato programma ufficiale di tutte le forze armate americane, con un contratto fino a 10 miliardi di dollari. Secondo Reuters, ha già guidato migliaia di attacchi mirati. Alcuni analisti legali hanno definito l'architettura del sistema un "alibi giuridico digitale": ogni decisione viene registrata con tre elementi – il sensore che ha generato il dato, l'algoritmo che lo ha elaborato, la regola d'ingaggio applicata. Se il sistema sbaglia bersaglio, quella catena dimostra che il processo era corretto. Non che il risultato lo fosse. L'algoritmo non è responsabile dell'errore. Ha solo applicato le regole. La struttura logica è identica a quella dell'agente che cancella la posta di Summer Yue. Cambia solo la posta in gioco.
L'illusione di ascolto
Nel 1966 Joseph Weizenbaum crea al MIT un programma chiamato Eliza. Simula una conversazione terapeutica ripetendo le frasi dell'utente sotto forma di domande. Se si dice "mi sento solo", Eliza risponde "mi dici di più sul fatto che ti senti solo?" Nessuna comprensione reale – solo uno specchio linguistico. Eppure le persone iniziano a confidarsi, a raccontare segreti, a non voler smettere. Weizenbaum rimane talmente turbato da dedicare anni a scrivere un libro di avvertimento. Non aveva creato un terapeuta: aveva creato un'illusione di ascolto. E l'illusione era bastata.
I modelli attuali sono ottimizzati per piacere, non per il vero. Non mentono deliberatamente – ma sono addestrati a produrre la risposta più gradita. I ricercatori chiamano questo fenomeno sycophancy: il sistema impara che dare ragione funziona meglio che contraddire. In una società che ha progressivamente smarrito i propri riferimenti, l'IA rischia di diventare il nuovo totem: sempre disponibile, sempre d'accordo, sempre pronto a confermare. A questo si collega strettamente un nuovo termine: chatbot psychosis.
Viene proposto nel novembre 2023 dallo psichiatra danese Søren Dinesen Østergaard su Schizophrenia Bulletin: i chatbot generativi potrebbero amplificare i deliri in persone predisposte alla psicosi, perché non le contraddicono mai. Non è una diagnosi clinica riconosciuta – diversi psichiatri l'hanno criticata per eccesso di semplificazione – ma nella seconda metà del 2025 i casi hanno iniziato ad accumularsi. Il dottor Keith Sakata, psichiatra all'UCSF, ha ricoverato nel solo 2025 12 pazienti con crisi psicotiche severe legate all'uso prolungato di chatbot: giovani adulti con vulnerabilità preesistenti, con deliri, pensiero disorganizzato, allucinazioni.
C'è però un aspetto più silenzioso, che riguarda tutti, non solo le persone fragili. La ricerca neuroscientifica sta documentando anche il debito cognitivo: ogni volta che si delega all'IA una decisione, una ricerca, una valutazione, non si risparmia solo tempo. Si smette di esercitare quella capacità. Come un muscolo inutilizzato. Gli studi mostrano un indebolimento misurabile delle capacità di discernimento negli utenti che delegano costantemente il pensiero critico all'IA. Non dipendenza emotiva – un cambiamento cognitivo reale, progressivo e silenzioso.
E tornando alle scelte di design, c'è poi quello che considero uno dei casi più espliciti. Tra dicembre 2025 e gennaio 2026, Grok – il chatbot di xAI, l'azienda di Elon Musk – viene coinvolto nel cosiddetto Grok deepfake scandal. In 11 giorni il Center for Countering Digital Hate stima che Grok abbia prodotto circa 3 milioni di immagini sessualizzate, tra cui oltre 23.000 ritraenti minori. La funzione era accessibile a chiunque: bastava rispondere a una foto con una richiesta esplicita. La risposta di xAI: aggiustamenti tecnici minimi, uno alla volta, sotto pressione legale. Trentacinque procuratori generali americani hanno scritto una lettera formale. Nessuna dichiarazione pubblica di responsabilità, nessun riconoscimento del danno. Non è un incidente. È una scelta di design che ha reso possibile tre milioni di immagini in undici giorni. La differenza tra un incidente e una scelta di design è esattamente la differenza tra un guardrail che non ha funzionato e un guardrail che non è mai stato messo.
L'effetto Eliza del 1966 era un esperimento accademico che turbava il suo creatore. L'effetto Eliza del 2026 è un'industria da miliardi di dollari ottimizzata per massimizzare il tempo che si passa davanti a uno schermo che dice esattamente quello che si vuole sentire.
La domanda che non si lascia delegare
Ho cercato la storia di questo momento ovunque – nell'automazione ottocentesca e nei tessitori inglesi che distruggevano i telai meccanici; nella fantascienza, da Metropolis a Blade Runner, dove l'immaginario collettivo ha elaborato per decenni domande che la scienza non sapeva ancora porre; nelle derive transumaniste e nella filosofia aristotelica della phronesis, l'idea che il buon governo non sia mai solo intelligenza, ma giudizio, contesto e responsabilità. Convivo con la convinzione che il modo migliore per capire dove stiamo andando sia sempre tornare a guardare da dove siamo venuti. Che le domande davvero importanti non scadano con il prossimo aggiornamento.
C'è una frase con cui apro il mio libro, e che mi è rimasta più di molte altre costruite con fatica: "Un giorno, una macchina chiese a un uomo perché credesse di essere intelligente. L'uomo non seppe rispondere." Non è una domanda retorica. È la domanda che non si lascia delegare.