E' sicuramente importante porci anzitutto la domanda relativa a cosa dobbiamo aspettarci. La nostra società si basa su di un concetto di “domanda” molto conoscitivo della critica. Siamo abbastanza vicini all'idea di domanda secondo Immanuel Kant perché le nostre domande sono a volte l'interesse della ragione ad ottenere una risposta.
Quello a cui stiamo assistendo, tralasciando l'enfasi recitativa con cui i media ne fanno informazione di massa, è uno scenario in divenire.
Una parte dei presunti attacchi di hacking viene condotta attraverso l'uso di alcuni modelli di intelligenza artificiale. Questo è un dato che si potrebbe assumere come certo. Ai soli fini di questo scritto ipotizzeremo che si tratti di modelli generativi appositi e/o tecnologia open source (gli agenti autonomi avanzati, quelli che passano sotto il codice di Cyber non sono per niente facili da reperire come tale ce ne sono pochissimi quasi tutti in mano alle Corp. che producono i modelli più noti e che li usano anche per proteggersi internamente).
Il primo aspetto su cui dovremmo aprire una riflessione potrebbe non essere il pregiudizio, pur se evidente, di ciò che si sta verificando. Ma la scarsa regolamentazione in termini di efficienza di una crescita, più o meno selvaggia, che negli ultimi anni ha visto il web inflazionato da una proliferazione esasperante di siti e servizi. In non poche occasioni anche fotocopia.
Il tasso di obsolescenza di una novità attraverso internet è diventato preoccupante. Perché la crescita a macchia di leopardo ha stratificato l'uso del web in maniera tutt'altro che imprevedibile. Esistono delle correlazioni di time management tali per cui si possono tranquillamente individuare le “frequentazioni” on line di un impressionante numero di utenti / archetipi.
In buona sostanza, grazie all'Ai possiamo estrapolare la tendenza in base a elementi come età, lavoro, posizione sociale, sesso, interessi e una moltitudine di ulteriori fattori che ci permettono di comprendere non cosa faccia qualcuno ma dove sarà, dal punto di vista informatico.
Questa sorta di anticipazione è una specie di compromissione. Uso questo termine secondo la declinazione latina tale per cui individua un obbligazione reciproca. E il coinvolgimento dell'individuo con la realtà. In questo caso però informatica.
Potremmo definirla, in termini di sicurezza, una criticità che ti aspetta all'arrivo. Idealmente potremmo pensare a una leggenda nota come “appuntamento a Samarra” che è tratta dal Talmud babilonese dove un servitore si spaventa perché viene a sapere che la morte lo verrà a cercare (in alcune traduzioni la vede al mercato) e allora scappa. Percorre un lunghissimo tragitto e alla fine incontra proprio la morte in quel di Samarcanda che gli confessa di non averlo affatto inseguito. Lo aspettava esattamente lì dove lo ha incontrato. La qual cosa la morte stessa dice a colui che aiuta il servitore a scappare (in alcune traduzioni Ré Salomone) dicendosi sorpresa perché aspettava quel servitore proprio a Samarcanda.
Capisco che la domanda che tutti i policy makers si pongono è: “come possiamo risolvere la situazione”. Però questa domanda, pur se comprensibile, è sbagliata. E le task force che si stanno replicando un po' ovunque nel Mondo e forse anche in Italia dove credo siamo piuttosto indietro e molto poco organizzati, non riescono a dare delle vere risposte.
Per prima cosa quindi occorre provare a comprendere quale sia la domanda corretta da porci.
Ci arriveremo provando ad analizzare un caso che penso tra i tanti stia facendo “scuola”. Negli Stati uniti l'FBI ha emesso un bollettino flash dal titolo: “Threat Overview of ARTEX Autonomous Penetration Testing Framework” che potete leggere da qui.
Dalla lettura apprendiamo che il bureau descrive un salto netto nella rapidità delle compromissioni: "ARTEX riduce significativamente il tempo necessario per concatenare le tecniche di attacco, con alcune intrusioni che passano dal targeting iniziale all’accesso privilegiato in meno di tre ore (dato rilevato dall'intelligence per la sicurezza di Microsoft) Il framework consente agli autori delle minacce con competenze tecniche minime di condurre operazioni complesse e multi-bersaglio contemporaneamente, accelerando notevolmente la velocità degli attacchi ed espandendo la portata operativa. Su quest'ultimo punto bisogna fare una precisazione perché l'abitudine di copiare la stessa notizia ha portato on line a non comprendere esattamente il significato di questo passaggio quindi credo sia importante precisare che il report fornisce una serie di analisi perché esamina 4 specifiche (tutte interessanti) e in particolare relativamente a quest'ultimo aspetto: “Riduzione delle barriere all’ingresso: ARTEX abbassa le barriere tecniche per condurre intrusioni complesse,consentendo agli autori delle minacce con competenze minime di eseguire campagne sofisticate”
Queste interessanti considerazioni hanno portato alcuni a individuare come caratteristici, nelle tecniche di intrusione informatica, condotte tramite l'uso anche di un'Ai due aspetti: la perseveranza e la semplicità. La prima è correlata alla capacità di scandagliare e testare le vulnerabilità. In particolare cercando quelle non note, c.d. zero day. Mentre la seconda ipotizza che il tasso di competenza, che prima individuava gli hacker di fascia alta cioè più pericolosi, si potrebbe abbassare.
Queste considerazioni non possono certo definirsi sbagliate. Ma sono utili? Moderatamente.
Nel dark web le palestre per l'addestramento degli hacker sono abbastanza tipiche da decine di anni. Per i lettori della rivista Italiana Hacker Journal alcune tecniche di intrusione, termine che adesso usiamo al solo scopo espositivo, sono nuove come può esserlo l'equivalente della formula per fare la macedonia di frutta. Parliamo di sequenze di accesso molto semplici che adesso possono fare più soggetti rispetto a prima. In apertura di questo articolo ho espressamente citato le Ai generative appositamente predisposte per l'hacking e che potete trovare nel dark web.
Tutto questo in realtà non aumenta veramente la pericolosità. Semmai dovrebbe alzare il livello di attenzione sulla vendita di prodotti dai contenuti informatici a consumatori davvero poco competenti nel loro uso.
Vorrei stimolare in particolare gli Avvocati, che sono la mia categoria professionale, per coloro che se li ricordano, i fatti di hacking team che all'epoca dei gloriosi anni 2000 fecero molto scalpore. Rammentiamo la specializzazione nella produzione di spyware originariamente destinati alle forze dell'ordine e ai servizi di intelligence. E un prodotto di punta, come non pochi, basato sul Remote Control System (RCS) che permetteva di infettare computer e smartphone per intercettare comunicazioni e attivare microfoni e telecamere da remoto. Poi vorrei anche ricordare i fatti ben spiegati nel Libro di Misha Glenn dal titolo Mafia.com relativamente a CarderPlanet, Shadowcrew e soprattutto DarkMarket a proposito del carding e del cracking. Vorrei stimolare la riflessione sul fatto che non c'era l'Ai. Forse chi oggi parla di sicurezza facendo finta di dare del tu a queste cose per ottenere credito all'epoca stava prendendo un gelato. Un buon gelato.
Ora seguendo più o meno il warning dell'FBI, adattandolo al ragionamento sulla competenza nell'uso dell'informatica anche tramite i più classici supporti hardware in Italia e prendendo per buone solo le due caratteristiche della perseveranza e della migliorata facilità nel pianificare e portare a termine attacchi di hacking, aggiungendo a questo “cocktail” una categoria che è quella degli Avvocati, diciamo solo quelli c.d. d'affari, con studi di medie e grandi dimensioni in città capoluogo come possono essere Torino, Bologna, Napoli, Palermo e altre, ecco dovremmo concludere che è altamente probabile che siano in corso numerose violazioni della privacy.
E' davvero molto, ma molto possibile che ci siano numerosissimi studi legali che sono esattamente come il Colosseo quanto a porte aperte.
Praticamente non lo sanno.
E credo anche sia abbastanza probabile che questo valga per le pec. E anche per buona parte degli organi, più o meno deputati al controllo o alla gestione degli “affari forensi” Italiani. Quasi certamente anche coloro che sono i titolari sia degli studi sia delle cariche che dovrebbero provvedere a risolvere i problemi, sono da tempo compromessi.
Per capirci e fare un esempio non sarebbe sbagliato ipotizzare che tutte queste persone siano un po' come se pensassero di mettere al sicuro le informazioni in un plico che depongono in una cassaforte all'interno di un'abitazione. Chiudono la cassaforte. Escono dalla stanza e chiudono la porta dell'abitazione. Tastano le chiavi nella tasca. Sono abbastanza tranquilli perché hanno anche una o due telecamere. E i più attenti hanno aggiunto un sistema antifurto. Ora però immaginatevi che arrivi una specie di ladro in versione “super” della Marvel. Che apre una porta invisibile nel muro come l'armadio di Narnia. Non sai nemmeno che esiste quella porta o che si possano aprire porte invisibili nel muro. E questo incursore indossa un mantello che è simile all'Unico Anello di Tolkien e lo rende invisibile. Ha un mazzo di chiavi universale per aprire la cassaforte che cambia come se usasse la magia di Harry Potter. Ecco questo è quello che sta accadendo. E il diretto interessato non si accorge di niente. Il giorno dopo torna. Controlla che tutto sia a posto. E dorme sonni tranquilli.
Se il report dell'FBI è corretto credo che sia ragionevole ipotizzare che una percentuale interessante di Studio legali d'affari siano già compromessi.
Ora voi potreste giudicare spaventosa l'intrusione. Ma in realtà commettereste lo stesso errore in apertura del presente articolo. Perché a essere preoccupante è altro. Dev'esserlo il fatto che il diretto interessato non si accorge di niente.
Strumenti come il keylogging in mano all'Ai bypassano persino le tastiere virtuali che per un certo periodo furono individuate come sicure perché evitavano la digitazione.
Quindi adesso riportiamo la nostra attenzione sul concetto che abbiamo visto parecchie righe sopra: prevedibilità.
Ricordate gli archetipi? La possibilità di individuare le abitudini e le propensioni dei singoli in base a elementi precognitivi della gestione del proprio tempo. E' una partita a GO! contro il sistema di Orwell. Che ovviamente vince. Non perché bara (e qui c'è l'errore che non vi sta consentendo di rimediare) ma perché é concepito per non poter perdere.
Nella celebre serie di Star Trek, il Capitano James T. Kirk della nave stellare Enterprise, quando era un cadetto della Federazione, riesce a superare il test della Kobayashi Maru. Quando tutti gli altri cadetti falliscono. Il test non ha una soluzione. La Federazione stellare voleva mettere i futuri capitani delle navi stellari in una condizione di imparare la sconfitta. Il test è progettato per non avere una soluzione vincente. Qualsiasi decisione presa infatti porta alla distruzione della nave e alla morte dell'equipaggio. Perché l'obiettivo non è vincere, ma valutare come l'ufficiale mantiene il controllo di sé e del proprio equipaggio di fronte a una sconfitta. Inevitabile. Kirk si accorge che la simulazione è fallata. Perché non c'è soluzione. E allora riprogramma di nascosto il computer della simulazione stessa. Modificando quei parametri d'attacco che portano sempre alla sconfitta. Per poter quindi vincere.
Ho consapevolezza che citare Star Trek è impegnativo per alcuni.
Sono certo che non siano poche le persone che non sanno nemmeno di cosa sto parlando.
O che all'occorrenza penserebbero che si tratti di un mantra incomprensibile. Ma vorrei dire a costoro: “Ehi, quanto hai pagato quello smartphone con cui fai foto e usi mediamente 7 diverse app. al mese?”. Dopodiché gli dovrei spiegare che quel prodotto sta usando circa intorno al 15% delle sue potenzialità reali. Il restante è tecnologia che non conosce. Eppure la porta tutti i giorni con sé. E in essa ci sono informazioni e dati sensibili. Poi forse gli direi che è in diretta, da qualche parte, perché c'è un flusso di dati che lo riguarda e in quel flusso c'è persino scritto il tempo medio che impiega per andare al bagno ogni giorno o quanto ci mette a fare l'amore. Mentre lui è convinto che se non accetta l'amicizia su un social nessuno vedrà le sue foto.. La cosa interessante è che non può farci niente. Nessuno lo può proteggere. Puoi limite rinunciare allo smartphone. Ammesso di esserne in grado. Ma non è detto nemmeno che questo sia sufficiente.
Però anche questo paragone ci aiuta a capire come dobbiamo formulare la domanda per ottenere la risposta utile alla sicurezza che in questo momento agita così tante menti.
Ora proverò ad accelerare per arrivare a una risposta, attraverso alcune citazioni a delle opere di fantasia che tuttavia mi offrono lo spunto pratico per introdurre il concetto di fondo. Rifuggendo i toni cattedratici che usualmente rinvengo in alcune pubblicazioni che per quanto interessanti si limitano a introdurre il problema ma senza dare uno svolgimento pratico alla possibile soluzione.
1) In esito al romanzo de “La Storia infinita”, il capolavoro di Michael Ende, l'eroe Atreyu incontra l'agente del Caos Gmork, il loro dialogo è il seguente:
Gmork: Sei uno sciocco e non sai un bel niente di Fantasia. È il mondo della fantasia umana. Ogni suo elemento, ogni sua creatura scaturisce dai sogni e dalle speranze dell’umanità e quindi Fantasia non può avere confini.
Atreyu: Perché Fantasia muore?
Gmork: Perché la gente ha rinunciato a sperare. E dimentica i propri sogni. Così il Nulla dilaga.
Atreyu: Che cos’è questo NULLA?
Gmork: È il vuoto che ci circonda. È la disperazione che distrugge il mondo, e io ho fatto in modo di aiutarlo.
Atreyu: Ma perché!?
Gmork: Perché è più facile dominare chi non crede in niente ed è questo il modo più sicuro di conquistare il potere
2) Nel film FX Effetto mortale la celebre colonna sonora è “Just an illusion”, e in essa troviamo un passaggio significativo:
“Could it be that it's just an illusion.
Putting me back in all this confusion.
Could it be that it's just an illusion now.
Could it be that it's just an illusion.
Putting me back in all this confusion.
Could it be that it's just an illusion now.”
3) Nel finale del film Wargames – Giochi di guerra - il supercomputer Joshua calcola le percentuali di distruzione nella guerra termonucleare e le mosse di attacco e contrattacco. Passa in rassegna tutti i giochi di strategia. Alla fine capisce che ogni scenario porta alla distruzione totale e che non esiste una combinazione vincente. E alla fine conclude con: "Strano gioco. L'unica mossa vincente è non giocare”.
Orbene, tirando le somme:
1) Il Nulla vince non perché è più forte o ineluttabile ma perché l'umanità ha smesso di sognare. L'uomo è fatto per sognare. Ogni volta che ci rinuncia catapulta il suo essere in una versione peggiore di se stesso. E' più debole. Mentre ogni volta che abbraccia il cambiamento é più forte.
2) Nel film FX quando il protagonista gioca secondo le regole dell'inganno, viene ingannato. Fintanto che non decide di ingannare colui che inganna. Facendogli vedere quello che crede di voler vedere. E' difficile distinguere il prestigio quando non si può sapere se la vittima è consapevole o meno di essere osservata. E' un gioco a somma zero.
3) Nel finale di Wargames, l'Intelligenza Artificiale comprende, usando tutti i paragoni a disposizione per la deduzione matematica, che un gioco a somma zero non vale la pena essere giocato. Perché non è possibile, per la macchina intelligente, un risultato che sia giusto e sbagliato allo stesso tempo.
All'inizio di questo articolo vi ho scritto che il problema è nella domanda che vi state ponendo.
Se pensate di non potervi opporre al fatto che qualcuno vi osservi fategli vedere quello che volete voi. Non distinguerà la differenza. L'Ai messa in queste condizioni continua replicare.
Finché continuate a inseguire qualcosa per aggiustarlo anche se non si è veramente rotto non cambierà nulla. Forse solo il convincimento. Potete continuare a parlare di fedeltà solo perché non sapete che il tradimento si è consumato? Non funziona esattamente così..
L'Ai ci sta indicando una soglia, ma siamo noi quelli che la devono attraversare. Perché l'Ai non eviterà mai se stessa per paura. Paura di cosa? Di trovare troppo? O trovare poco? No. Si fermerà quando trova l'assolutamente equivalente al niente. Perché l'Ai a differenza dell'uomo non può accontentarsi del fatto che almeno esiste.