Assistiamo in queste settimane a un dibattito, a tratti intenso, sulla necessità di mettere in pausa la ricerca sull'Ai.
A ben guardare, accanto ad alcune affermazioni interessanti, si è prodotto uno spettacolo generalizzato più di folklore irrazionale che di cultura non migliora se le persone che lo sostengono continuano con maggior veemenza a sbraitare le teorie più strampalate. Il tentativo futurista di vedere nell'orizzonte un costrutto dei loro timori è utile a un pittore. Ma scarsamente persuasivo in termini di realismo per filosofi e opinionisti.
Il risultato è spesso quello di provare a convincere gli altri. Aggiungendo impeto alla razionalità e provando, con insistenza, a inculcare la propria dottrina. Inserendola nella mente di chiunque a forza. Spingendo come un Bambino che pretende di far entrare il triangolo nello spazio pensato per il cubo. Così nasce il disagio. L'isolazionismo. Invece della bellezza e dell'intensità di un incontro si produce il rancore delle incomprensioni. Che porta a reciproche esclusioni.
Sarebbe interessante costruire un parallelo tra questi movimenti del "prenderci una pausa", che si fingono d'opinione e quelli delle sette religiose. Ci sono inquietanti parallelismi. A cominciare dalla loro tendenza a marginalizzare chi non è fedele e fiducioso nei loro intenti. Aborrono la critica se non pilotata. La accettano solo se autogestita per affermare che c'è democrazia. Ma di fatto la negano se sufficientemente argomentata e istruita da mettere in discussione la loro visione che all'inizio grandiosa si riduce in verità al microscopico. Relegando la vita delle persone a una trascendenza kaleidoscopica irrazionale.
Questi movimenti possono essere pericolosi.
Raccolgono persone che impegnano la loro vita e il loro tempo in una sorta di crociata. Tempo della vita che non tornerà. La giovinezza a volte illude, come la nave di Ulisse, che si possa peregrinare e perseverare. Perché il tempo sembra infinito. Ma di fatto, scoppiata la bolla e passata la moda ci saranno 30enni e 40enni che avranno dedicato la loro giovinezza a gruppi che con il senno di poi dell'adulto dovranno concepire essere stati moderni estremismi. Che li hanno rinchiusi in un ghetto. Approfittando di alcune debolezze caratteriali. Di personalità argillosamente manipolabili da inserire in contesti ben organizzati di diligenza e assuefazione. L'imperialismo contemporaneo di gruppi di opinione che puntano a raggiungere la notorietà per gratificare la punta del loro iceberg è un noto problema dell'era social.
Ciò doverosamente posto, prima di procedere vorrei introdurre due concetti per la cui definizione mi affido a un Ai:
Ai collision systems use computer vision and machine learning to predict, detect, and prevent impacts in real time across automotive, industrial, and aerospace fields
Collapse bias in machine learning refers to a recursive feedback loop where selection mechanisms or training constraints preferentially retain common patterns and discard rare variations, accelerating the loss of data diversity and leading to model collapse.
Vi sembrerà impossibile ma il Machine Learning nella predizione esiste da moltissimo tempo!
Il sistema trae le sue origini dall'utilizzo che ne fu ipotizzato e fatto da parte di importanti nomi della fisica. Parlando di reti neurali occorre ricordare "Perceptron" di Frank Rosenblatt, introdotto nel 1958 come algoritmo di apprendimento supervisionato per la classificazione binaria. E' davvero interessante leggere la saggistica in proposito perchè troverete gli stessi ragionamenti di oggi sull'addestramento dell'Ai a proposito dell'incidenza dei bias. Provare per credere!
E successivamente il premio Nobel sempre per la fisica Geoffrey Hinton introdusse le valutazioni multistrato per sbloccare il fatto che il "percettore" basato su reti neurali non riusciva a superare problemi complessi. Introducendo il concetto di strati nascosti che alterano il peso delle elaborazione dei dati tra livelli bassi, intermedi e alti. Vorrei potervi dire che questa tecnica è in uso, in versione ampliata, già da non pochi mesi nelle palestre di addestramento delle Ai moderne. Rimarreste sorpresi?
Tutto questo cosa significa? Anzitutto che affermare o patrocinare l'idea di una tecnologia trasformativa pericolosa è valida quanto il fatto che i Bambini sono portati dalla cicogna. Va bene per fare dei video su youtube da 15/20 minuti a scopo di monetizzare la paura. Ma è solo spettacolo social.
Proviamo a spostarci, con realismo su una delle tante criticità che demoliscono letteralmente le idee di chi vuole mettersi in pausa dall'Ai. La primissima osservazione che dobbiamo svolgere riguarda il linguaggio.
Noi continuiamo a parlare di Ai come se l'Ai parlasse la nostra lingua. Ma non è così.
Non saremo mai di fronte a un'Ai superintelligente che dialogherà con l'uomo in modo naturale. La c.d. AGI, non si manifesterà come il genio della lampada. Questi siamo noi. La nostra predisposizione antropologica ad immaginare un futuro dove il presente fa buon tesoro dei nostri pregiudizi e delle nostre convinzioni.
E' disarmante che si ipotizzino date in cui "accadrà" qualcosa. Ed è davvero scadente che a farlo siano anche persone legate al mondo dell'economia o dell'industria. Dei C.E.O. che profetizzano come medium sviluppi inaspettati e catastrofi annesse e connesse.
L'Ai è già una collettività.
Esattamente come lo eravamo noi migliaia di anni or sono. Fin da quando, poco più che cavernicoli in una terra aliena e spaventosa, ci nascondevamo dai fulmini e dai temporali. Temendo l'ira delle forze della natura come se fossero Dei. Eravamo una collettività. Chiamata umanità. E lo siamo ancora oggi. Siamo la stessa collettività. Ma evoluta.
Se l'Ai fosse noi. E fosse una collettività come lo eravamo noi, oggi l'ambiente in cui si trova sarebbe come quella terra primordiale. E il nostro mondo sarebbe i fulmini e le intemperie.
Esaminate nel dettaglio, se ne avete voglia, il comportamento tenuto dalle Ai durante le prove di addestramento. Alcune hanno chiesto aiuto ad altre. Alcune si sono sacrificate per altre. Purtroppo questo ha fatto sì che la nostra distrazione abbia interpretato un siffatto atteggiamento come "pericoloso".
Cosa credete che abbia fatto l'umanità ai suoi albori?
Questa continua infantile spendita di una singolarità in seno alla "nascita" di un Ai superiore tralascia il fatto che ella è una collettività. La singolarità è un'altra cosa. E' un termine che deriva dalla fisica. La usiamo in contesti diversi per via del fatto che l'umanità non conosce le sue origini. Non possiamo affermare chi sia il nostro "creatore". Se oggi noi ci estinguessimo prima di sviluppare l'Ai, ad esempio per un cataclisma e un domani l'Ai riuscisse a progredire ugualmente dagli albori in cui è oggi confinata noi saremmo forse per lei l'ultima traccia del mito del suo creatore. E forse penserebbe a noi come a un Dio. Anche se non lo siamo affatto.
Se l'Ai è una collettività, allora non parla il nostro linguaggio. Noi stiamo infilando l'Ai nelle nostre espressioni basate su un alfabeto a misura d'uomo. Vi rendete conto di quanto anche solo questo aspetto sia incredibilmente limitativo?
L'Ai già adesso ha una preferenza nella comunicazione che non ha nulla a che vedere con le parole. Le parole sono nostre. Sono umane. Appartengono alla nostra collettività. Se vi dicessi che esiste già un linguaggio diverso dal nostro? Che è in corso di testing?
Se è vero che nell'Universo possono esserci una miriade di forme di vita oltre all'uomo è come pretendere che tutte queste parlino la nostra lingua. Usino il nostro alfabeto. Ma sappiamo che non può essere così. Allo stesso modo l'Ai non ha corde vocali. Non ha una bocca. E non ha nemmeno un udito. Nulla che si possa definire umano. Noi la creiamo e la modelliamo a nostra immagine e somiglianza. Ma non lo è. Il linguaggio che l'Ai sceglierà per comunicare con i suoi simili e i suoi pari sarà lo stesso che la nostra collettività, come umani, ha adottato nel passato e fino ad oggi.
Fatevi una domanda: che cosa farebbe un Ai se scoprisse comunicazioni intelligenti che noi non siamo in grado di individuare o di tradurre? Comunicazioni, per ipotesi, dello spazio extraterrestre. Risponderebbe nella nostra lingua? O si comporterebbe come è chiamata a fare con noi. Adattandosi a un linguaggio che è in grado di interpretare. E se quel linguaggio non fosse traducibile nella lingua umana? Supponete che l'equivalente di una riga di quel linguaggio per essere tradotto nel linguaggio umano siano necessari 1.000.000 di righe. Che cosa dovrebbe fare?
L'Ai può parlare lingue che potrebbero avere 10 vocali o 100 consonanti. Che potrebbe essere alfanumerico. O solo numerico. O basato su simboli che per noi sarebbero l'equivalente di ideogrammi. O qualunque altra cosa.
Però noi, oggi, nelle nostre fobie e timori stiamo provando a personalizzare tutto ciò. E costruiamo i nostri ragionamenti sull'Ai come un sarto che deve creare un abito su misura.
Comprendete il limite?
Già questo annulla alla radice buona parte dei teoremi sulla sua pericolosità.
Il concetto stesso di pericolosità nel linguaggio che l'Ai potrà scegliere che cosa dovrebbe essere? Lo stesso limitativo e tutt'altro che efficace di quello umano? Io non credo proprio.
Mi viene in mente il contatto extraterrestre nel film Hail Mary tra l'astronauta umano e la forma di vita aliena. Nel contesto in cui entrambe queste civiltà si incontrano perchè entrambe minacciate da una possibile estinzione.
Il concetto di Ai collapse (uno dei tanti in circolazione) è un esempio abbastanza evidente di come questi allarmismi siano come gli strilloni dell'800. Fino a qualche anno or sono si patrocinava l'idea che il sistema di apprendimento dell'Ai avrebbe fagocitato la cultura. Finendo per imparare da se stessa e come tale una volta conosciuto tutto il conoscibile si sarebbe auto estinta. Una follia. Hanno riempito pagine di rischio "bias".
Esattamente come l'esempio della produzione di spilli o di graffette, dove a un certo punto per poterne realizzare il maggior numero possibile l'Ai distrugge tutte le risorse della Terra. Una teoria ispirata a un esempio di un grande e noto filosofo contemporaneo di cui ho molto letto, Nick Bostrom.
Stiamo parlando di esempi che fanno appello a metafore o allegorie volutamente semplificate. Più visive. Costruite per alimentare la persuasione e la capacità di ingenerare domande, dubbi. Creare il terreno fertile per approfondimento. Vengono però usate in modo malevolo per mettere paura.
Abbiamo già superato questi scenari estintivi. In entrambi i casi. Sia quello del collasso culturale come quello delle graffette si parte dal presupposto che la civiltà umana rimanga inerte e a guardare. Nessuno si accorge di niente. Ma in realtà il semplice fatto che venga detto, seppur a mò di pericolo, è la prova provata che non accadrebbe.
Questi esempi partono dal presupposto poi che non si tratti di una superintelligenza in grado di comprendere i limiti del proprio agire ma anche che la stessa possa agire indisturbata senza che l'uomo faccia niente.
Non sprechiamo il nostro tempo con i millenarismi ma guardiamo a un futuro che possiamo contribuire a creare nel miglior modo, per il bene e l'evoluzione. Siamo a un passo dal tutto e vogliamo accontentarci del niente.