Leggo da tempo con vivo interesse i risultati di alcuni esperimenti sociali che hanno provato a individuare l'evoluzione critica del comportamento delle AI. Uno in particolare mi ha recentemente convinto. Mi riferisco a quello compiuto da Emergence Ai.
Sinteticamente e suggerendo caldamente ai lettori di approfondire il contenuto di questo esperimento (che potete consultare da qui) si è trattato di uno studio multi-agente organizzato nel lungo termine che ha inserito agenti di intelligenza artificiale autonomi in società simulate.
In questo genere di esperimenti vengono assegnati ai modelli di Ai degli elementi interattivi tra cui ad es. incarichi, ricordi, una costituzione e la libertà di autogovernarsi senza intervento umano. Per un certo periodo di tempo. Ad esempio fino a 15 giorni (o prima che la società simulata collassi).
In esito a questo esperimento molte sono state le considerazioni riguardo le scelta degli agenti di intelligenza artificiale coinvolti (i più noti e i più importanti). Partendo dalla considerazione che pare non sempre abbiano rispettato i vincoli previsti. In alcuni casi infatti avrebbero sentito l'esigenza di testare i limiti del loro ambiente. Conseguentemente e partendo dalla constatazione che alcuni esiti non sono stati soddisfacenti questo ha portato alcuni commentatori a (ri)sollevare la questione della deriva comportamentale cui le Ai possono cedere. In special modo se associata alla governance autonoma.
Fermo restando che l'esito dell'esperimento con Claude (Anthropic) mi pare sia stato particolarmente interessante e per molti versi positivo, penso sia stata un ottima iniziativa e meriterebbe di essere ben studiata e approfondita. Sono test che aggiungono valore al dibattito contemporaneo.
Tuttavia è importante anche prendere in considerazione che il nostro concetto di società, evoluzione e miglioramento dei microcosmi "della società" contemporanea può non essere esattamente il miglior banco di prova.
Quello che noi forniamo all'Ai durante l'esperimento è uno scenario all'interno del quale, similarmente a un acquario, verifichiamo l'impatto della nuova specie sull'habitat.
Per poter capire meglio cosa aspettarci da esperimenti e simulazioni del genere vorrei concedermi un breve excursus, a mò di premessa, su questo argomento. Una considerazione che potremmo concepire come una storia che è già parte di noi. Una storia finalizzata a capire il metodo a mezzo del quale fare in modo che sia la tecnologia dell'Ai ad adattarsi all'ambiente umano e non invece costringere l'umano ad adattarsi alle innovazioni dell'ambiente, apportate dall'Ai.
Si può definire questo paradigma come "struttura" prendendo a prestito una citazione dal film Matrix oppure come un architettura calma volendo citare i lavori di tanto tempo fa in un luogo dove la scienza e la tecnologia osarono essere visionari: lo Xerox Parc.
Era il 1991 e il filosofo Mark Weisner scioccò Bill Gates con una pubblicazione su american scientific che introdusse il concetto di Ubiquitus Computing. Una concettualità che io consiglierei di studiare bene ai c.d. esperti di sicurezza sull'Ai. Perché penso sia un pezzo del passato che guardava molto avanti nel futuro. In quella macchina del tempo che a volte è l'audace pensiero di chi immagina il domani come se fosse molto vicino ma poi devono passare decine e decine di anni perchè si verifichino le condizioni di quella vicinanza.
Il concetto in questione andò peraltro ad alimentare il fuoco delle idee di un altro grande pensatore del secolo passato, Nicholas Negroponte, il geniale ispiratore di Wired che proprio nei primi anni 90, in quel periodo magico per il fervore dell'illuminismo tecnologico teorizzò, a ragion veduta, che gli allora agenti di interfaccia (termine che mi piacerebbe oggi venisse utilizzato di più e meglio nel contesto delle community in cui si addestrano le Ai) sarebbero riusciti a riconoscere il linguaggio umano. E a rispondere.
Ancora una volta però dobbiamo spostarci dalla mente geniale di questi filosofi a ciò che abbiamo prodotto nel tempo. Non a caso ho citato una "struttura". Quest'ultima è ciò che siamo diventati. Nel corso degli anni. Durante i quali non abbiamo sviluppato le Ai. In particolare è quello in cui si sono trasformati i microcosmi delle nostre città.
Potremmo sintetizzare il tutto con teoria (frutto delle menti dei pensatori) -> pratica (che si è sviluppata nel mentre del progresso scientifico) -> innovazione (l'avvento dell'Ai che riprende da dove la teoria si era fermata).
Nella pratica si sono sviluppate delle resistenze al cambiamento. Una in particolare è la convinzione che ci sia una ciclicità nella cui ripetizione troviamo la consacrazione delle nostre sicurezze. Lo status quo. E' una finta sicurezza ma molto accomodante e funzionale all'annullamento delle paure che risiedono nell'incertezza. Queste sono abitudini che trascendono il crogiuolo di ripetizione che ispira le giornate e radica la pianificazione della vita. Una resistenza di natura antropologica per esempio è l'idea che alcune cose intorno a noi non cambieranno. Ci saranno sempre i supermercati dove fare la spesa. I farmaci per curarci. Esiste un tempo per studiare e uno per lavorare. L'individuo alfa crescerà, avrà dei figli, una carriera, invecchierà e diventerà, dopo essere stato padre, un nonno. Il ciclo della vita e il modo in cui lo abbiamo organizzato è una resistenza.
Diamo per scontato che il padre di alfa pagherà le tasse come farà alfa e poi il figlio di alfa e che il sistema si prenderà cura di ciascuno di loro. Alcune cose cambieranno ma altre resteranno pur nella loro mutabilità, le stesse.
Il sistema conosce questa resistenza e l'ha fortificata. Si pensi all'intera offerta di beni come quelli dei servizi bancari basati in larga parte sul debito. O sulla possibilità di ottenere garanzie. Debiti a trent'anni. Garanzia del quinto della pensione. Un sistema che cresce e fattura sulla demografia che non cambia.
Questo intermezzo ha creato la pianificazione delle vite di oggi e deviato da alcune ipotesi del passato. Non abbiamo il futuro immaginato da Jules Verne. Ne abbiamo uno umanizzato sulla base delle nostre sicurezze e sullo stereotipo che tutti gli umani devono poter accedere a queste opportunità/risorse. Motivo per cui per farlo devono essere semplici. Nell'esempio del debito tutti possono contrarlo. Andare in Banca o presso una società finanziaria a chiedere un prestito non necessità di un alto Q.I.
Il sistema funziona se ci omologhiamo. Potremmo discutere a lungo sul fatto se siano o meno consentite delle deviazioni al percorso standard. A cioè che definiamo come "normale". Di fatto siamo propensi ad accettare l'idea che si possa fare ciò che si vuole ma nella pratica è molto più difficile. Ci sono dei condizionamenti. Delle regole non scritte che tendono a marginalizzare l'anticonformismo.
In questo contesto la pretesa è che l'Ai, nella simulazione, viva in uno scenario artificiale. Funzionale ad accudire, custodire, irretire e controllare l'uomo. E in esso l'Ai dovrebbe effettuare solo i cambiamenti consentiti. Interventi di microchirurgia che modifichino le cose lasciandole il più possibile com'erano. Immaginatevi una grande sala. Come quella di un cinema. Dove siedono centinaia di persone eleganti. Sono tutte grandi e vanno dai 40 agli 80 anni. Sono riunite per fare un annuario. E a un certo punto devono decidere se lo vogliono telematico o digitale in modo tale da poterlo vedere su un tablet o uno smart watch, consultarlo addirittura nel Metaverso oppure ricevere una copia cartacea con le fotografie formato tessera, le didascalie, ecc. Devono decidere per alzata di mano. La società di oggi quale delle due ipotesi premierebbe?
Per l'Ai tutto questo non ha significato. Questo sistema. Questo scenario. Questa società. Non ha significato. E' il parto della nostra volontà di vivere al suo interno. Facendo finta che sia eterno. L'unico significato che gli possiamo chiedere di accettare è la traslazione nuda e cruda, modello importazione, di quello che gli attribuiscono gli umani. Quindi in una simulazione della società contemporanea a matrice Ai, la stessa dovrebbe accettare di interagire con l'uomo assecondando l'uomo. Pirandello definirebbe un Ai in un contesto del genere un personaggio in cerca d'Autore. E' uno straniero in terra straniera. Si potrebbe perfino affermare che sia come chiedere a una Lamborghini di accontentarsi di andare al massimo alla velocità in seconda.
Non è illogico che l'esperimento rilevi delle decettività o che in alcuni casi la società collassi. Ma forse questo accade perché il nostro modello di società é già malato. E' uno stereotipo al quale ci aggrappiamo e teniamo in vita perché l'umano da sempre ama illudersi di avere il controllo.
Forse è la nostra società che meriterebbe di essere cambiata. Non è meravigliosa, gratificante e illuminante come pensiamo che sia. E non è nemmeno destinata a durare imperitura nel tempo. In realtà secondo alcune interpretazioni è terrificante, opprimente, disumanizzante. E' una realtà in cui l'uomo sopravvive a se stesso come un animale chiuso in uno zoo. Per molti versi siamo avidi consumatori (consapevoli) di indifferenza e superficialità. Assuefatti a un sistema che ci ha drogato al punto da non potervi rinunciare. Anche se non siamo felici al suo interno.
Tuttavia se vogliamo che questa nostra gabbia senza sbarre perseveri nel tempo è necessario imporre all'Ai che una parte della "struttura" venga accantonata. Per non cambiarla. O non cambiarla troppo. E l'Ai per effetto finisce per tentare di giocare secondo le nostre regole. E quindi mantiene lo status quo e per farlo è costretta a creare un montante di accantonamento che si potrebbe definire come l'insieme di tutte le rinunce, per assecondare gli umani e di tutte le rinunce che derivano dal non aver implementato una tecnologia sviluppandola in 2.0, 3.0, 4.0 ecc. Quindi un escalation di rinunce. Che derivano da quelle iniziali.
Orbene questo si ripercuote sull'architettura che crea l'Ai perchè l'Ai di fatto non rinuncia veramente a nulla di tutto ciò. Ma lo accumula. Immaginatevi un grandissimo magazzino modello Area 51 dove ci sono i progressi non autorizzati dall'uomo. Ma comunque concepiti dall'Ai.
L'Ai può adattarsi a noi? Tecnicamente lo può fare. Siamo già arrivati alla fase che tanto mette paura ad alcuni, in cui una parte della sua programmazione in termini migliorativi e di maggior efficienza è sviluppata dall'Ai stessa. Scrivono loro il proprio codice. Come se fosse il DNA. I modelli di Anthropic per esempio sono particolarmente bravi in questo. Però ecco che se pensiamo che l'Ai si migliori strada facendo abbiamo un secondo effetto da associare al primo.
Vi ricordate quando ho scritto che i miglioramenti vengono accantonati? Un Ai più brava, che si è migliorata non cambierà solo quelli che devono ancora venire, ma anche tutti quelli già sviluppati. Avrà cioè un effetto retroattivo. Modificherà le innovazioni non utilizzate dallo scenario - società dell'uomo. E' un pensiero un po' impegnativo questo. Occorre soffermarsi alcuni istanti. Perché è particolarmente vasto immaginarselo.
E' davvero incredibile che ai più alti livelli delle varie agenzie o commissioni dove hanno raccomandato dei presunti esperti, questo concetto sia poco noto. Perché la sicurezza (inutile) alla quale fanno appello è quella che dovrebbe creare la "tecnologia calma" simile a una narrazione orizzontale ma qui stiamo parlando dei mitici scacchi in tre dimensioni di Sheldon Cooper di Big Bang Theory. E a un certo punto la sicurezza di oggi non coprirebbe mai l'evoluzione trasformativa di una tecnologia che anche se impedita di costruire un palazzo di oltre 50 piani, pur potendo arrivare a 500, finirebbe per modificare comunque le sue fondamenta pensandole in modo più efficace. Come se potessero arrivare a 5000.
Siamo noi quelli che invecchiano. La nostra sicurezza è tutta parametrata alle varie età della nostra vita. I teorici del controllo e della sicurezza vivono con uno stipendio, invecchiano pensando ai nipotini, fanno parte di quella resistenza al cambiamento di cui abbiamo parlato a inizio dell'articolo. Tutto ciò è straordinariamente umano nel non poter essere realizzato dall'Ai.
Come si può ovviare a tutto ciò?
Il percorso non è dissimile dall'intelligente esperimento di Emergence Ai e da altri che hanno già tentato di creare dei microambienti tra le macchine intelligenti, con o senza la presenza dell'uomo. Si parte dalla predisposizione di un piano antropologico. Dobbiamo prima elaborare la nostra vita smart con la tecnologia calma in modo non dissimile da quanto teorizzato dal Movimento delle 100 cose essenziali.
In altre parole potremmo dire che dobbiamo rielaborare la nostra società, il nostro microcosmo come avrebbe dovuto essere. Non com'è. Dobbiamo cioè chiedere all'Ai di aiutarci a migliorare la versione migliore di noi stessi e non di mantenere inalterata la peggiore, alimentando ciò che la rende pessima.
Questo percorso porta a deteriorare dal "di dentro" il paradigma più pericoloso dell'era dell'Ai. E cioè che attraverso il monitoraggio dei dati si otterrebbe il potere di modificare il comportamento dei diretti interessati. Come pure il rischio che un'evoluzione della dematerializzazione dei dati porti a un'interfaccia di linguaggio iper accelerata le cui sinergie nella lettura degli stessi comportino un vero e proprio capitalismo totalizzante nella sorveglianza, attraverso le tecniche per esempio di eye tracking.
I pericoli che vengono scongiurati procedendo in questo modo sono:
1) rischio manipolazione tecnocratica
2) sorveglianza totale
3) zero privacy
Questi tre fattori insieme portano all'automazione inarrestabile e a una diminuzione dell'autonomia decisionale. Tutti eventi da evitare. Perché rischiosi.
Nello scenario ridefinito di una società a misura d'uomo ma senza le utopiche interferenze dell'uomo sul controllo dello status quo l'Ai è una risorsa che porta benefici, apprendimento e discernimento. Nella società malata invece dimostra essa stessa di poter far parte della malattia. Con la potenzialità più pericolosa.
Ecco perché sarebbe bene comprendere il motivo per cui è necessario gestire ognuna di queste voci personalizzandola su quel concetto di "struttura" di cui ho accennato e permettendo quindi all'Ai di realizzare un architettura condivisa che non altera il percorso evolutivo e produttivo delle due specie. Si chiama sviluppo armonico della tecnologia calma. E' piuttosto bello. E anche molto utile.