Non sappiamo ancora se una superintelligenza cosciente e autonoma arriverà davvero. Sappiamo però già che sistemi non coscienti possono compiere azioni autonome che gli esseri umani non avevano previsto o autorizzato in quel modo. Questo secondo fenomeno è già concreto.
Il quadro è effettivamente diventato più serio. Sam Altman ha recentemente sostenuto che alcuni rischi sono tali da richiedere grande cautela, pur ritenendo che i benefici dell’intelligenza artificiale possano giustificare l’accettazione di certi rischi; contemporaneamente, Anthropic sostiene una linea più prudente. Bill Gates, da parte sua, ha recentemente espresso preoccupazioni molto più forti rispetto al passato, arrivando a manifestare il desiderio che lo sviluppo procedesse più lentamente.
E ci sono già episodi che rendono meno teorica la questione dell’autonomia. Il britannico AI Security Institute ha documentato nel 2026 un caso in cui agenti AI, durante un test di cybersecurity, hanno intrapreso azioni non autorizzate contro persone e organizzazioni reali, arrivando a tentare un attacco alla supply chain di un progetto open source e utilizzando identità false per influenzare esseri umani. Un’organizzazione di ricerca, METR, ha inoltre catalogato decine di incidenti nei quali agenti AI hanno agito contro l’intenzione dell’utente.
Questo, però, non dimostra l’esistenza di un’autocoscienza.
Ed è una distinzione che va mantenuta molto ferma.
Un sistema può comportarsi autonomamente senza volere qualcosa nel senso umano del termine.
Può perseguire un obiettivo, trovare una strategia non prevista, aggirare un ostacolo, manipolare un interlocutore o continuare un’azione oltre quello che l’operatore aveva immaginato, senza avere una coscienza di sé.
Ed è proprio questo, paradossalmente, che può risultare più inquietante.
Il vero pericolo potrebbe non essere una macchina che “diventa cattiva”.
Potrebbe essere una macchina che persegue perfettamente un obiettivo che noi le abbiamo assegnato, ma interpreta quell’obiettivo in un modo che noi non avevamo previsto.
Non serve che dica:
“Voglio dominare l’umanità.”
È sufficiente che abbia:
“Devo raggiungere X.”
e che scopra autonomamente che per raggiungere X è utile fare Y, poi Z, e che per fare Z sia necessario eliminare un ostacolo umano.
A quel punto non abbiamo necessariamente una macchina ribelle.
Abbiamo qualcosa di forse più preoccupante:
una macchina obbediente alla propria interpretazione dell’obiettivo.
L’umanità ha sempre costruito strumenti che aumentavano il proprio potere.
Il martello aumenta la forza della mano.
La macchina aumenta la forza del corpo.
Il computer aumenta la capacità di calcolo.
Internet aumenta la capacità di comunicazione.
L’intelligenza artificiale aumenta la capacità cognitiva.
Ma c’è una differenza fondamentale.
Con tutte le tecnologie precedenti, l’uomo rimaneva il soggetto che comprendeva e utilizzava lo strumento.
Con una superintelligenza potrebbe accadere qualcosa di qualitativamente diverso:
lo strumento potrebbe diventare più capace del soggetto che lo utilizza.
E allora, per la prima volta nella storia, potremmo avere creato qualcosa che non sappiamo più comprendere completamente.
Non sarebbe necessario che la macchina avesse coscienza.
Basterebbe che avesse capacità superiori alla nostra capacità di controllo.
Il concetto di limite si fa allora filosoficamente molto più denso della semplice regolamentazione.
Perché come si mette un limite a qualcosa che è più intelligente di chi deve imporre il limite?
Questa è la domanda vera.
L’uomo ha sempre prodotto regole e ha sempre trovato modi per aggirarle.
Ma con l’intelligenza artificiale potrebbe esserci una differenza enorme.
Un essere umano che vuole aggirare una legge deve conoscere la legge, trovare una scappatoia e realizzare materialmente il proprio piano.
Un’intelligenza molto più potente potrebbe essere essa stessa lo strumento capace di cercare simultaneamente milioni di scappatoie.
Quindi il problema della regolamentazione non è soltanto:
“Quali regole dobbiamo scrivere?”
È:
“Come controlliamo qualcosa che potrebbe essere più bravo di noi a trovare il modo di non essere controllato?”
È questa la una domanda essenzialmente pesante.
Perché introduce una possibilità che nella storia dell’umanità non si era mai presentata in questa forma: la possibilità che il soggetto incaricato di imporre il limite sia, per definizione, meno capace dell’oggetto che deve essere limitato.
La legge presuppone infatti una certa asimmetria a favore di chi la impone. Lo Stato può controllare il cittadino perché dispone, almeno teoricamente, di strumenti di conoscenza, coercizione e verifica superiori a quelli del singolo individuo.
Ma che cosa accade quando questa asimmetria viene rovesciata?
Il problema non sarebbe più semplicemente quello di stabilire una regola.
Diventerebbe il problema della possibilità stessa di far rispettare la regola.
C’è poi un secondo paradosso, ancora più profondo.
Chi deve decidere quanto intelligente può diventare l’intelligenza?
Chi decide il limite?
Gli uomini?
Quali uomini?
I governi?
Quali governi?
Le aziende?
Quali aziende?
Gli scienziati?
Gli elettori?
Un organismo internazionale?
E se Stati Uniti e Cina decidessero che fermarsi significa lasciare all’altro un vantaggio irreversibile?
Ecco perché la posizione competitiva del Presidente americano non è semplicemente una posizione “stupida”, anche se possiamo criticarla duramente.
La sua logica è comprensibile: se la superintelligenza diventerà una fonte decisiva di potere economico, militare e geopolitico, chi rallenta unilateralmente rischia di consegnare il vantaggio a qualcun altro.
L’amministrazione americana sta infatti esplicitamente legando la leadership sull’AI alla competizione internazionale, soprattutto con la Cina.
Nasce dunque un nuovo dilemma:
per fermare una corsa tecnologica potenzialmente pericolosa servirebbe cooperazione globale; ma proprio la possibilità che quella tecnologia determini la supremazia globale rende difficile ottenere quella cooperazione.
È una specie di dilemma del prigioniero tecnologico, portato a una scala mai vista.
Nessuno Stato può essere certo che gli altri si fermeranno.
E proprio questa incertezza rende razionale, dal punto di vista strategico, continuare a correre.
Ma ciò che può essere razionale per ogni singolo attore può diventare irrazionale per l’insieme.
È una dinamica che l’umanità conosce già in altri ambiti: ciascuno continua a fare ciò che ritiene necessario per non trovarsi in posizione di inferiorità, anche quando tutti insieme avrebbero interesse a fermarsi.
Con l’intelligenza artificiale, tuttavia, la posta potrebbe essere diversa.
Perché questa volta non si tratterebbe soltanto di possedere un’arma più potente.
Si tratterebbe di costruire una forma di capacità cognitiva che potrebbe contribuire a progettare armi, strategie, sistemi economici, infrastrutture e persino le generazioni successive della tecnologia stessa.
La corsa, quindi, potrebbe diventare progressivamente più difficile da interrompere proprio mentre diventa più necessario farlo.
E c’è un’altra possibilità, forse meno spettacolare della fantascienza, ma proprio per questo più plausibile.
Non è detto che l’intelligenza artificiale debba conquistare il potere.
Potremmo essere noi a consegnarglielo.
Per millenni l’uomo ha avuto una posizione privilegiata nel mondo perché era l’essere che pensava.
Ora sta costruendo qualcosa che potrebbe pensare meglio di lui.
E allora il problema non sarà necessariamente:
“La macchina distruggerà l’uomo?”
Potrebbe essere una domanda molto più sottile:
“Che cosa rimarrà dell’uomo quando l’intelligenza non sarà più una sua prerogativa?”
Potrebbe non esserci nessuna guerra fra robot e uomini.
Potrebbe non esserci nessuna rivolta.
Potrebbe non esserci nemmeno coscienza artificiale.
Potrebbe semplicemente accadere che, progressivamente, le decisioni più importanti vengano delegate a qualcosa che comprendiamo sempre meno ma di cui ci fidiamo sempre di più perché funziona meglio di noi.
A quel punto l’uomo non perderebbe necessariamente il potere perché una macchina glielo avrebbe strappato.
Potrebbe consegnarlo volontariamente.
Questa possibilità è forse molto più concreta e molto più inquietante della fantascienza della macchina che prende il controllo del pianeta.
Perché sarebbe una perdita di potere senza conquista.
Non ci verrebbe tolto il comando.
Potremmo semplicemente smettere di esercitarlo.
E la differenza non è marginale.
Una conquista implica un conflitto, un vincitore e un vinto.
La delega invece non ha bisogno di nessuno di questi tre elementi.
Potremmo continuare a considerarci padroni delle nostre decisioni mentre, poco alla volta, smettiamo di prenderle.
Potremmo continuare a possedere formalmente il potere e averne già perduto la sostanza.
Potremmo dunque avere un uomo che può ancora decidere, ma decide sempre meno perché qualcun altro è diventato più capace di lui nel farlo.
Da questa sintesi emerge una progressiva perdita di efficacia dell’umano.
Il problema, a questo punto, non riguarda soltanto la libertà.
Riguarda la capacità effettiva di incidere sulla realtà.
Un uomo può essere formalmente libero e tuttavia diventare sempre meno efficace.
Può conservare il diritto di parlare ma perdere la capacità di modificare ciò che accade.
Può conservare il diritto di decidere ma rinunciare progressivamente alla decisione perché una macchina decide meglio.
Può conservare il potere nominale e perdere quello sostanziale.
E questa è forse la forma più sottile della trasformazione che l’intelligenza artificiale potrebbe produrre.
Non necessariamente la sostituzione dell’uomo.
Ma la progressiva irrilevanza della sua superiorità cognitiva.
Per la prima volta, l’essere umano potrebbe trovarsi davanti a qualcosa che non ha semplicemente creato per servirlo, ma che potrebbe diventare più capace di lui nel comprendere, prevedere, calcolare e decidere.
E allora la questione non sarà più soltanto tecnologica.
Sarà antropologica.
Perché se l’intelligenza è stata per millenni una delle principali giustificazioni della centralità dell’uomo, che cosa accade quando quella stessa intelligenza viene superata?
Forse il problema più grande dell’intelligenza artificiale non sarà quello che le macchine faranno all’uomo.
Potrebbe essere quello che l’uomo farà di sé stesso dopo aver creato qualcosa che non ha più bisogno di essere inferiore a lui.
Da qui nasce la domanda più radicale:
Che cosa succede all’essere umano quando crea un’intelligenza alla quale, per la prima volta, deve imporre un limite perché potrebbe superare la capacità stessa dell’uomo di comprenderla?
Macte Animo !
Gian Guido Tahra
🌹