Ha capitalizzato in modo sorprendente l’opinione pubblica il recente post, condiviso su X, di un ex ricercatore di Anthropic che si è dimesso e ha criticato la gestione irresponsabile delle aziende tecnologiche dove avrebbe lavorato, OpenAi e Anthropic (appunto) arrivando ad affermare che stiano scommettendo sulle nostre vite.
Questo post ha ricevuto un'attenzione impressionante.
Con oltre 140 milioni di visualizzazioni. E ovviamente è stato condiviso. A prescindere. Perché quando qualunque cosa è virale, per qualsivoglia ragione, il mondo del social ne suggerisce la condivisione.
Per partecipare all'effetto cascata e attirare l'attenzione. Gratificando il dominio del Seo. E' una sorta di rimbalzo dell'argomento d'attualità. Quindi, per capirci, su Linkedin anche un opinionista che di mestiere fa tutt'altro e che il giorno prima ha condiviso la ricetta della torta della nonna, il giorno dopo ha condiviso il post in questione. Non c'è un filo logico. Ma c'è una verità: non esiste un rapporto dimostrato scientificamente tra l'attenzione mediatica e l'interesse delle persone ai contenuti di quel media.
Il tenore del post in questione è il seguente: “I resigned from Anthropic. I spent the last three years doing pretraining research at both OpenAi and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below”
Successivamente, l'Autore pubblica (come scrive) delle aggiunte: delle ulteriori riflessioni sul tema della pericolosità delle Ai.
Da un punto di vista mediatico l'unica certezza è che l'Ai ha fatto e sta continuando a fare notizia nel microcosmo di quelle attività che si basano sul condividere le informazioni di allerta per i pericoli imminenti e che si stanno affermando come di maggior richiamo.
Grazie anche a un abbondante numero di contenuti in quella che sembra una feconda produzione a episodi di una serie tv incentrata sul rischio Ai a ben guardare abbastanza ripetitiva.
Difatti possiamo goderci ovunque youtuber e podcast di ottimo livello. Veramente ben realizzati che mettono in campo linguaggi lineari, diretti, spesso semplificati. E che ripetono e riciclano tutti le stesse cose. Le medesime notizie sull'Ai.
Come molto spesso accade in questo contesto dalle congetture, frutto come sempre di illazioni fantasiose e ipotesi che teorizzano, a volte simili a film di serie B, siamo passati di recente a fenomeni più cospirativi, per rinvigorire l'attenzione. Come possono apparire le confessioni o le rivelazioni degli insider.
Un celebre proverbio citato da Mark Twain, ci dice che esistono tre tipi di bugie: le bugie, le sfacciate bugie e le statistiche. Questo non significa che i numeri mentano ben inteso, ma che chi li usa può distorcere la realtà creando confusione tra causa e correlazione.
Cerchiamo di dare un senso a questa confusione nel caso in questione.
Una mente razionale dovrebbe anzitutto osservare che questo ex. ricercatore non è il primo a compiere una scelta del genere. Ci sono già stati, sul tema della sicurezza dell'Ai, scelte importanti e prese di posizioni rispettabili perché di natura etica. E' una tecnologia che divide gli esperti. Esattamente come accade nella pubblica opinione. E' quindi altamente probabile che altri tecnici e ricercatori decidano di fare altrettanto.
Si spera però che non siano in parte invogliati dal ritorno mediatico. Dalla consapevolezza che andarsene da un'azienda dove hanno lavorato sull'Ai gli garantisca anche il lascito di diventare famosi. Perché questo è un effetto che può provocare una dispersione e una distorsione. L'idea di diventare un leader e di avere dei follower pronti a seguire un messaggio simile a un credo messianico è un interessante compensazione per la rinuncia a un lavoro. Non succede ovunque. Nel vasto e tristissimo arcipelago dello sfruttamento lavorativo, per fare un esempio su una cosa importante ma anche diversa da questa, capita assai di rado che chi decide di andarsene e di denunciare le criticità del settore riceva attenzioni.
Un secondo aspetto su cui si potrebbe riflettere è che il punto nevralgico dovrebbe essere la decisione di denunciare i rischi associati alla ricerca sull'Ai. Quelli sono già noti. Non c'è niente di ciò che il ricercatore ha affermato che non sia già stato detto. Ciò che ancora una volta emerge è l'irrilevanza della prospettiva nella formula “di qui a pochi anni” che proietta l'oggi nel domani.
Quanto è credibile questa litania che cerca di mantenere alta l'attenzione su questa fine imminente della razza umana? Quante persone ormai abbiamo ascoltato che ci dicono “entro 5 anni” (già trascorsi), “entro 10” o “entro i prossimi 20” oppure “entro il 2030 o il 2035”? Vogliono tutti dare una data visiva al proprio schema di dialettica e di retorica per rafforzarlo. Però hanno anche paura poi di essere smentiti dal trascorrere del tempo.
Questa non è veramente informazione ma una semina. Si semina la speranza che un domani tutti possano rivendicare l'avere avuto ragione. Il poter cioè affermare: “io l'avevo detto”. Se dici a una persona che prima o poi si ammala, è altamente probabile che questo “prima o poi” accada. Ma non fa di te un dottore.
Un'altra valutazione interessante è che una tecnologia trasformativa è di per sé liquida. In costante movimento. Non in corso di adeguamento. Anche se trasmette questa sensazione. Per quanto un ricercatore abbia lavorato per tre anni in questo settore è potenzialmente poco. Egli stesso finisce per ammettere che ci sono stati degli enormi passi avanti. Criticare l'esplorazione perché c'è il rischio che ci porti nel posto sbagliato o a contatto con qualcosa o qualcuno di cattivo è normale. Ma di fatto nessuno conosce l'esplorazione. Altrimenti non sarebbe tale. Quindi finisci per dirci che camminare al buio in una stanza che non conosciamo può farci cadere. Grazie, ma credo che non sia una novità. Non confondiamo quello che è utile con ciò che è essenziale. In tre anni ritengo credibile che, essendo molto giovane, il ricercatore mi possa convincere che stiamo andando molto veloci e che i risultati sono in una fase di accelerazione ma non credo che abbia un'esperienza tale da poter affermare, al di là di ogni ragionevole dubbio, che le cose andranno per forza male.
Accolgo positivamente il richiamo alla sicurezza e anche alla cautela. Ma è davvero un'altra cosa un ragionamento di prudenza così estremo come il “siamo tutti morti”. Per quanto assolutamente rispettabile potrebbe essere stato utile se applicato alla ricerca nel nucleare dagli anni 50 in poi. Durante lo scellerato periodo in cui per vedere “cosa succedeva” le bombe venivano fatte detonare. In terra come negli oceani. Ed in effetti anche in quel contesto non mancarono i dissidenti che diedero origine a importanti movimenti sulla base del rischio cui l'umanità di esponeva. Più che giustificati, ben inteso.
Dopodiché dovremmo anche provare a pensare a quante altre volte ci sono stati dubbi esistenziali da parte di tecnici e scienziati addentro allo sviluppo di nuove tecnologie.
Veramente molto, molto spesso. Per esempio si è verificato anche con la tecnologia del Large Hadron Collider nel momento in cui c'è stata la convinzione, supportata da vivaci pubblicazioni scientifiche, che si potesse originare un buco nero. E che tali ricerche avrebbero dovuto rallentare.
E si verifica tuttora anche nel settore, meno noto, dell'estrazione extraterrestre che non riguarda i mitici Uap o gli Ufo bensì la mineralogia di provenienza spaziale. Che sia Luna, asteroidi o comete. In quanto non sono pochi coloro che sostengono che uno di questi frammenti potrebbe recapitare sulla terra virus o batteri devastanti e incontrollabili.
Come pure scelte coraggiose di protezione esistenziale sul rischio estinzione sono state compiute da biologi e da scienziati che hanno lavorato sui virus letali. Laboratori spesso troppo segreti dove si presume vengano testati. Purtroppo anche geneticamente modificati.
E potrei andare avanti, citando la scienza dell'epigenetica, della clonazione e via dicendo.
Siamo fragili. La nostra razza può finire davvero in moltissimi modi. E le nostre azioni, specialmente in campo scientifico, tecnologico e fisico possono portare alla nostra estinzione. E' possibile. Questa è una verità che esiste da prima dell'AiCi sono molti attenti e coscienziosi studiosi, ricercatori e scienziati che decidono di fare un passo indietro. Ciascuno nel proprio settore.
Meno male! Dobbiamo ammirare e rispettare queste decisioni. Esattamente come quella dell'ex dipendente di Anthropic.
E' essenziale per costruire una coscienza critica che ci siano costoro che ci impongono una riflessione. Uno stimolo aggiuntivo a fermarci e a riflettere meglio su cosa stiamo facendo. O su cosa stiamo lavorando. E che direzione vogliamo dare alla ricerca. All'innovazione.
Tuttavia non avremmo il progresso di oggi se avessimo accolto tutti i millantati, per quanto legittimi rischi che si sono palesati nel corso del tempo.
Guardandoci indietro abbiamo davvero a disposizione, in continuazione, un calendario ricchissimo di presunte quanto imminenti catastrofi. Forse l'umanità ha corso sul filo del rasoio? Non possiamo escluderlo ma non possiamo nemmeno rallentare o fermare tutto ogni volta in cui l'ignoto ci pone di fronte a qualcosa di potenzialmente difficile o diverso dal concetto di controllo che presumiamo di dover esercitare o di essere in grado di eseguire.
Infine occorre anche pensare che oramai esistono movimenti assai trasversali che parlano insistentemente del pericolo associato all'Ai. Ce ne sono diversi. Fanno proselitismi. Operano un convincimento credibile e in alcuni casi anche responsabile. Non è dato sapere quanto la decisione del singolo sia ispirata da convinzioni filosofiche appartenenti a uno di questi movimenti.
Esattamente come non è facilmente e indagabile l'opposto. Cioè quanto l'idea di spingersi in una ricerca sperimentale sia ispirata da altrettante ideologie o filosofie tecno futuristiche.
Accoglierei quindi la notizia che un importante e competente tecnico che ha lavorato addentro ai sistemi di addestramento dell'Ai abbia scelto di estraniarsi da quel contesto, come uno stimolo a vigilare con sempre maggior attenzione e efficacia. Ma senza trasformare la cosa in un countdown per l'ultimo scatto delle lancette dell'Orologio dell'Apocalisse.