A dirlo sono Eliezer Yudkowsky e Nate Soares, tra i massimi esperti di rischi legati allo sviluppo dell'intelligenza artificiale. Ora lo fanno anche in lingua italiana. Esce a breve il loro saggio Prima che sia troppo tardi. Perché la superintelligenza artificiale è una minaccia per l'umanità. Un libro nel quale i due autori (il titolo originale: "If Anyone Builds It, Everyone Dies", “Se qualcuno la costruisce, tutti quanti muoiono” ) descrivono un futuro distopico in cui macchine troppo intelligenti potrebbero non aver più bisogno di noi.
Questa la sinossi del libro:
Tra scenari immaginati (ma nemmeno troppo) e prove scientifiche, un appello urgente ad agire prima che sia troppo tardi.
«Un manifesto controverso che ha scalato le classifiche dei libri più venduti» - The New Yorker
Da quando l'intelligenza artificiale è entrata nelle nostre vite, abbiamo iniziato a delegarle compiti sempre più complessi, affascinati dalle sue capacità straordinarie. In termini di velocità di calcolo, analisi dei dati e resistenza alla fatica, spesso questi sistemi superano le prestazioni umane. Dove ancora non raggiungono gli standard umani è nella capacità di ragionamento. Le attuali IA infatti non «pensano» veramente, ma si limitano a riconoscere schemi, riprodurre correlazioni e generare risposte sulla base di enormi quantità di dati preesistenti. Simulano l'intelligenza, ma non la incarnano. I progressi in questo ambito di ricerca, però, sono continui e procedono con una rapidità spaventosa. Quasi tutte le aziende sviluppatrici sono già al lavoro per raggiungere il successivo stadio dell'evoluzione: le cosiddette «superintelligenze artificiali» (ASI), in grado di effettuare ragionamenti con una velocità sovrumana, di interagire con il mondo esterno e persino di riprodurre e migliorare se stesse. Chi ne caldeggia la realizzazione afferma che le ASI aiuteranno l'umanità a risolvere problemi che oggi appaiono insormontabili: dalle malattie incurabili al cambiamento climatico, dalle disuguaglianze economiche alla scarsità di risorse. Eppure, non tutti condividono questo ottimismo. Se tali sistemi dovessero davvero raggiungere un livello di autonomia tanto elevato da sviluppare obiettivi propri, chi ci garantisce che non prenderebbero il sopravvento su di noi? Nel 2023 centinaia di esperti hanno firmato una lettera aperta per avvertire di come lo sviluppo di tali intelligenze rappresenti un serio rischio di estinzione per l'umanità. Tra loro, anche Eliezer Yudkowsky e Nate Soares, che spiegano in questo libro perché si tratta di una minaccia concreta, come potrebbe realizzarsi e cosa possiamo fare per evitarla.
Da quando è comparsa ChatGpt, le visioni apocalittiche di scienziati ed esperti riaffiorano ciclicamente.
Molte di queste visioni apocalittiche si sono trasformate in raccolte di firme e in appelli. Tutti rimasti fino ad oggi inascoltati. Eppure la minaccia ai valori umani è reale.