I teorici esperti della sicurezza dell'Ai ci mettono spesso in guardia sul fatto che l'Ai potrebbe diventare un formidabile avversario per l'uomo attraverso la cybersicurezza. In buona sostanza sarebbe un super hacker implacabile che potrebbe entrare ovunque e colpire in ogni dove.
Ho la sensazione, da tempo, che coloro che patrocinano questa teoria non sappiano granchè di hacking. Molto probabilmente la loro idea di hacker è frutto del cinema o delle serie televisive. Quasi certamente si immaginano qualcuno con una felpa, un cappuccio e una maschera che in una stanza (inspiegabilmente) buia come la mitica Bat-Caverna digita codici su due o tre tastiere davanti a degli schermi dove scorrono caratteri incomprensibili per i comuni mortali.
E l'hacker è lì, nascosto agli occhi del mondo, che da un momento all'altro, come in un fumetto dichiara (non si sa perchè oltre a stare al buio parla anche da solo): sono dentro!
E' davvero difficile provare a razionalizzare un contenuto per l'Ai cercando di evitare i luoghi comuni.
Fermo restando che l'Ai è in questo momento il principale sviluppo sul tema della cybersicurezza e viene adottata da tutte le superpotenze, compresa l'Italia che per inciso ha molto bisogno di essere competitiva in questo settore, cercherò di fare chiarezza sul rischio Ai-hacking.
Lo farò sviluppando il ragionamento cercando di tracciare due realtà complementari fra loro ma diverse: una è quella fisica in cui interagisce l'umano-hacker e l'altra è quella informatica dove interagisce l'Ai-hacker.
Partiamo anzitutto dalla definizione più comune di "hack". Che è corretto definire come un modalità ingegnosa e imprevista per lo sfruttamento di un sistema in grado di fare potenzialmente due cose: sovvertire regole e norme, andando a discapito di un soggetto influenzato dal sistema stesso.
Già da questa definizione possiamo decidere che l'hack, affinché sia tale, dovrebbe possedere una componente pratica. Non è una semplice esplorazione o simulazione per vedere se è possibile farlo. Occorre dargli attuazione.
Ed ecco che possiamo aggiungere alla nostra definizione che quel "qualcosa" che viene fatto dev'essere consentito da un sistema ma non previsto o voluto da chi, quel sistema, l'ha concepito o progettato.
Un hack da parte di un'Ai diventa paradossalmente molto difficile da ricondurre a questa definizione. Ci sono problematiche concettuali di non poco momento da affrontare e capiremo il perché nel prosieguo ma è essenziale tenere presente che la definizione di hack è parametrata sulla mente dell'hacker umano. Sulla sua coscienza e volontà di agire.
Questo per via del fatto che da un punto di vista tecnico l'hacking prende di mira un sistema e lo sfida con le sue stesse armi. Senza però distruggerlo.
Per questo motivo da sempre definire un attività di hacking come illegale non è semplice. La sua identificazione è stata spesso associata al più categorizzabile concetto di "attacco informatico" per via del fatto che in questi casi la volontà di danneggiare un sistema consentiva di più e meglio di adeguare le norme che lo avrebbero dovuto difendere alle esigenze della sicurezza. Non è certo un caso che spesso le disposizioni normative che fanno seguito a una legge, che disciplina un determinato sistema in termini di sicurezza, sono tarate su singoli eventi della pratica e finiscono per non rispettare lo spirito che ha animato il provvedimento primigenio.
Ecco perché si utilizzano i testi unici come base su cui intervenire, poi, con adeguamenti normativi simili a interventi di microchirurgia. E' più facile far diventare illegale una condotta o un evento quando c'è una norma omnicomprensiva che li vieta espressamente.
Considerate che il termine hack così come concepito al Tech Model Railroad Club identificava in realtà una pratica di problem solving basata su innovazione e intraprendenza. Fu solo negli anni 80 che il termine venne associato ad alcune infiltrazioni non autorizzate nei sistemi di sicurezza di base informatica. Ad opera di alcune figure di spicco che sono poi diventati famosi hacker.
Ci sono diversi Libri interessanti su questo argomento, io consiglio: "Sulle tracce di Kevin" scritto da Tsutomu Shimomura insieme al giornalista John Markoff. La mitica caccia a colui che è stato il più grande hacker della storia: Kevin Mitnick. E consiglio anche i Libri di quest'ultimo, in particolare "The art of deception" e "The art of intrusion". Ci sono poi una moltitudine di testi più recenti ma partire da questi potrebbe essere utile perché credo che il lettore potrebbe svolgere delle similitudini con alcuni argomenti che oggi vengono spesi sull'Ai.
Il problema attuale dell'Ai malevola viene affrontato a macchia di leopardo. Alcuni suppongono che prima di essere preso sul serio sia necessario l'avvento di una superintelligenza. Altri invece e con maggior ragionevolezza e buon senso identificano il problema nel supporto che l'Ai può dare al compimento di tecniche di hacking. Sia intrusive che di controllo o simulative.
Per questa ragione il principale interesse sembra essersi focalizzato sulle vulnerabilità dei sistemi. O meglio, sulla necessità di disinnescare la possibilità che vengano sfruttate di più e meglio attraverso l'Ai.
Nella storia della tecnologia informatica il concetto di vulnerabilità ha generato la prassi di sfruttare i c.d. bug di sistema. Spesso esagerati per via del fatto che rappresentano eventi di frontiera. Come tali sconosciuti. Si pensi al panico dovuto al "mitico" Y2K, il Millennium Bug.
Nella realtà odierna del c.d. pericolo Ai il problema delle vulnerabilità associate ai bug si presenta più simile ai c.d. loophole. Praticamente si tratta di ambiguità o di una mancanza di chiarezza in un sistema, come ad esempio in una legge o un regolamento. Questa assenza od opacità permette di aggirare lo scopo originale. Senza però che ciò comporti infrangere direttamente la regola ispiratrice. Rammentate quando ho scritto che allo spirito ideale della norma occorre poi aggiungere dei micro interventi?
Possiamo fare alcuni paragoni come ad esempio il forum shopping nel fisco o il riuscire a godere di contenuti senza pagare il relativo canone nel caso dello streaming.
L'Ai mette paura perché con la sua capacità computazionale potrebbe trovare dei loophole che consentirebbero per esempio a grandi studi internazionali di far risparmiare sulle tasse a clienti facoltosi oppure di guardare servizi a pagamento tramite un percorso di Vpn, Proxy, falsi account simulando collegamenti da altre nazioni o creando persone addirittura duplicate.
Però questo pericolo, che è reale ben inteso, ci porta anche a una deduzione davvero rilevante. L'hacking è il frutto naturale di un pensiero sistemico.
E, per quanto non ci faccia piacere ammetterlo, i sistemi sono alla base della nostra complessità.
La nostra società è antropologicamente ed economicamente organizzata sulla base di una serie di insiemi di sistemi e sottoinsiemi di sistemi. E' una finta autogestione simile a un allevamento di pensiero o a un alveare dove il condizionamento è scomposto in una serie di influenze, soggezioni, dipendenze e subordinazioni.
Sulla base di questi quattro fattori un'Ai può identificare la relazione tra complessità e crescita dei sistemi nella società. L'hacking nasce dall'idea che se comprendi a fondo un sistema non devi sottostare alle stesse regole di tutti gli altri. La ricerca dei limiti è legata alla conoscenza. Per l'uomo significa che più conosce il sistema più lo aggira o lo manipola (i loophole visti poco sopra). Per l'Ai è più una proporzione che la macchina intelligente analizza in modo simile a come nella chimica si utilizza la stechiometria.
Per semplificare, dovete immaginarvi un'immensa sala dove non siete in grado di vedere altro se non il soffitto e il pavimento. Non riuscite a distinguere le pareti. E non importa perché ovunque ci sono delle colonne. Potreste perdere tempo cercando le pareti. Oppure potreste cercare di contare le colonne. O, potreste togliere di mezzo le colonne, mantenendo solo quelle che partendo dal presupposto che non siano necessarie le pareti facciano in modo che la struttura non crolli. Non subito almeno.
Questo ragionamento l'Ai è in grado di compierlo. E porta al bilanciamento delle forze in campo. La definizione del perimetro dell'azione. Il portatore di conoscenza, colui che reca l'illuminismo del suo narcisismo per sfuggire al sistema così facendo, tramite l'Ai, ha un arma formidabile per scomporlo ai minimi termini. Però è l'uomo che procederebbe in questo modo. L'uomo direbbe all'agente Ai di fare questo per lui. L'Ai senziente non lo farebbe di suo. Perchè quello che per noi è la complessità di un sistema dove interagiamo per un'Ai non è riconosciuto come tale.
Paradossalmente impedendo il riconoscimento si potrebbe anche ipotizzare che non agirebbe nemmeno per dare seguito alle indicazioni derivanti dall'uomo. Ma questa è un idea che viene già percorsa con risultati molto ondivaghi. Mi risulta che alcuni test abbiano in effetti dato esiti soddisfacenti. Il non riconoscimento del campo d'azione blocca l'Ai o la spinge a una ripetizione ossessiva di tentativi.
A questo punto però dobbiamo conseguentemente domandarci se una vulnerabilità sia anche un difetto?
Qui il paragone tra il sistema informatico e la società è davvero difficoltoso.
Dal punto di vista informatico la risposta ci porta al concetto di exploit che è alla radice di numerosi crimini informatici essendo un codice o persino un programma se non anche una tecnica progettata per sfruttare una o più vulnerabilità o difetti di progettazione siano essi in un software o hardware.
Nella società arriveremo a un idea di stratificazione antropologica altamente compartimentalizzata e settorializzata che alterna statismo e dinamismo per cercare soluzioni adattabili. In quella che potremmo definire un'architettura evolutiva vivente.
A prescindere da questa distinzione però c'è un minimo comune denominatore. E' considerato vero il fatto che non tutti i sistemi sono hackerabili in egual misura. Un sistema complesso dove ci sono tante regole è più probabile che sia hackerabile perché proporzionalmente è più possibile che si verifichino eventi imprevisti o inaspettati.
E prima di tutto una vulnerabilità è una caratteristica che offre un'opportunità. Può essere piccola o grande, può essere un difetto che annida nella progettazione o persino nel codice sorgente stesso. Tanto più un sistema è complesso quanto più è possibile che produca una vulnerabilità.
Ci sono molte tipologie di hacking a seconda del contesto, per esempio il furto o la sottrazione indebita di informazioni allo scopo di usare un sistema di pagamento di un terzo oppure per creare un duplicato del mezzo di pagamento la qual cosa ha letteralmente imperversato nel sistema (complesso) dei pagamenti. Si pensi al fenomeno del carding. Per chi volesse davvero capire il livello a cui siamo arrivati anni addietro può leggere il Libro di Misha Glenny: "Mafia.com" che vi parlerà di una struttura incredibile e diffusa, con tanto di incontri annuali in modalità fiera o think tank e corsi / scambi di informazioni e tutoraggio nel dark web. Numeri da capogiro.
Nel mondo dell'informatica la principale forma di difesa è da sempre l'aggiornamento con l'applicazione delle patch. Che tuttavia, come ben sanno i fruitori degli home computer con i vari sistemi operativi, arrivano sempre in ritardo in quanto la patch cura qualcosa che è già malato. Quindi interviene su di una vulnerabilità già esistente. Non necessariamente sfruttata. Forse sconosciuta.
In questo l'Ai potrebbe essere rivoluzionaria e mi risulta che alcune ricerche lo stiano già dimostrando. I sistemi ripensati dall'Ai con riscrittura del codice presentano meno vulnerabilità e la tendenza a rifiutare il concetto di patch preferendo una sorta di upgrade di cui è molto complesso parlare e credo che in futuro questa tecnica dovrà avere un nome a sé stante. Riduce la complessità pur mantenendola. Perché gestisce la complessità stessa come se non lo fosse. Del resto ci sono dei limiti umani che l'Ai riesce a superare con estrema facilità se parliamo di questo genere di applicazioni.
Non tutto però può essere oggetto di patch.
Motivo per cui è invalsa la tecnica di scovare le vulnerabilità nella cybersicurezza utilizzando dei cacciatori di vulnerabilità. Si chiamano Red team. L'Ai in effetti li sta sostituendo più che integrarli e aiutarli nell'essere efficaci. Questo accade per via del fatto che all'Ai viene domandato di studiare e analizzare il threat modeling cioè le potenziali minacce che possono colpire un sistema. Da un certo punto di vista l'Ai non "studia" bensì interpreta e cerca all'interno dell'interpretazione. I risultati sono davvero notevoli. Qualunque nazione non abbia una struttura di cybersicurezza con Ai non solo a gestirla ma anche a testarla corre il rischio di essere obsoleta e di esporsi a pericoli elevatissimi.
Nella realtà della vita invece l'Ai provoca una situazione nota come regulatory capture. L'organismo regolatore diventa preda del settore che sta cercando di regolare. Nella storia di questo fenomeno accade che le lobby riescono a fare in modo che il policy maker che dovrebbe fungere da regolatore guardiano finisca per servire le aziende e non il settore pubblico. L'Ai sta producendo una situazione analoga su se stessa. La situazione è quella di una burocratizzazione esasperante dove si alternano correnti per la deregolamentazione contro altre favorevoli a un controllo "stop & go". I policy makers stanno agendo in modi diversi e sono anche prede di esperti che suggeriscono soluzioni ispirate a logiche corporative più concordate che utili.
Faccio davvero fatica a immaginarmi l'Ai che diventa l'hacker implacabile di cui alcuni temono le trame alla Dottor Doom mentre trovo senza ombra di dubbio più probabile che sia l'hacker malevolo cerchi, attraverso l'Ai di potenziare le sue capacità. Tuttavia l'Ai sarà anche un vero e proprio "mirino" da cecchino per consentire a chiunque di filtrare le notizie, per esempio nel whistleblowing. Uno dei problemi a volte è che le informazioni rivelate sono davvero tante e leggerle tutte può necessitare di moltissimo tempo, persino quanto la vita umana non è in grado di offrire. L'Ai migliorerà questo aspetto. Offrendoci quello che una volta veniva definito il nocciolo della questione. A portata di mano (o di click).