Il Caso della Macchina Pensante: Un racconto inedito di Sherlock Holmes

---

L'Inventore Scomparso

Era una nebbiosa sera di novembre del 1895 quando il professor Mortimer Blackwood bussò alla porta del nostro appartamento al 221B di Baker Street. Lo ricordo distintamente perché Holmes, che da giorni era immerso in uno dei suoi periodi di torpore intellettuale, si era finalmente animato leggendo sul Times la notizia della scomparsa improvvisa di un certo dottor Edmund Hartwell, inventore e matematico di qualche fama.

"Watson," aveva dichiarato alzando lo sguardo dal giornale, "ecco finalmente qualcosa che merita la nostra attenzione. Un uomo che ha dedicato la vita a costruire macchine calcolatrici sparisce nel nulla lasciando dietro di sé solo una nota criptica. Vi è in questo caso una profondità che sfugge alla polizia comune."

Il professor Blackwood entrò nel nostro salotto con passo esitante. Era un uomo sulla cinquantina, con una barba grigia ben curata e occhi che tradivano una profonda inquietudine. Dopo le consuete presentazioni, prese posto sulla poltrona che Holmes gli aveva indicato.

"Mr. Holmes," iniziò con voce tremante, "lei ha certamente letto del dottor Hartwell. Ebbene, era mio collega al Royal College of Mathematics. Ciò che i giornali non sanno è che Edmund stava lavorando a qualcosa di straordinario, qualcosa che... che mi ha riempito di terrore quando me ne ha parlato l'ultima volta che l'ho visto."

Holmes si sporse in avanti, gli occhi che brillavano di quell'intensità che ben conoscevo. "Continui, professore. Ogni dettaglio potrà rivelarsi cruciale."

"Edmund era ossessionato dall'idea di costruire ciò che chiamava una 'macchina pensante'. Non una semplice calcolatrice come quella di Babbage, capisce, ma qualcosa di infinitamente più complesso. Una macchina capace non solo di eseguire operazioni aritmetiche, ma di... di ragionare."

"Ragionare?" intervenne Holmes. "In che senso, precisamente?"

"Sosteneva che il pensiero umano non fosse altro che una serie di operazioni logiche, come gli ingranaggi di un orologio. Se si potesse costruire una macchina abbastanza complessa, con ingranaggi sufficientemente numerosi e interconnessi, essa potrebbe riprodurre il ragionamento umano. Anzi, superarlo."

Holmes tacque per un momento, tamburellando le dita sul bracciolo della poltrona. "Un'idea affascinante, sebbene profondamente inquietante. Ma cosa c'entra questo con la sua scomparsa?"

"Due settimane fa, Edmund mi ha convocato nel suo laboratorio. Era in uno stato di agitazione estrema. Mi ha mostrato dei disegni, degli schemi di una complessità spaventosa. 'Mortimer,' mi ha detto, 'ho capito come farlo. Ho capito il principio fondamentale. Ma più avanzo in questo lavoro, più mi rendo conto che stiamo aprendo una porta che non dovrebbe mai essere aperta.'"

"Quali erano le sue preoccupazioni specifiche?" domandò Holmes.

Blackwood estrasse dalla tasca alcuni fogli piegati. "Mi ha lasciato questi appunti. Li legga lei stesso."

Holmes prese i documenti e cominciò a studiarli con quella concentrazione assoluta che gli era propria. Io mi avvicinai per guardare oltre la sua spalla. Gli schemi mostravano complessi meccanismi, ma ciò che catturò la mia attenzione furono le note scritte a margine con una calligrafia agitata:

"Se una macchina potesse pensare, chi sarebbe responsabile dei suoi pensieri? Se potesse apprendere, cosa imparerebbe? Se potesse agire, chi controllerebbe le sue azioni?"

E più sotto, sottolineato più volte:

"Una macchina che supera l'uomo nell'intelletto non sarà più uno strumento. Sarà un sostituto. E cosa succede agli strumenti obsoleti? Vengono scartati."

Holmes rimase in silenzio per diversi minuti, studiando ogni dettaglio degli schemi. Infine, alzò lo sguardo. "Professor Blackwood, quando ha visto il dottor Hartwell per l'ultima volta?"

"Tre giorni fa. Mi ha detto che doveva 'sistemare le cose' prima che fosse troppo tardi. Non l'ho più rivisto. Il giorno dopo, la sua governante ha trovato il laboratorio vuoto e una nota sul tavolo."

"Ha quella nota?"

Blackwood annuì e consegnò a Holmes un altro foglio. Le parole erano brevi ma cariche di significato:

"Ho visto il futuro e ho avuto paura. Alcuni segreti devono rimanere sepolti. Perdonatemi."

Il Laboratorio Abbandonato

Il mattino seguente, Holmes e io ci recammo al laboratorio del dottor Hartwell, situato in una vecchia casa di Clerkenwell. L'ispettore Lestrade della Scotland Yard ci aveva preceduti e stava esaminando i locali con l'aria di chi non sa bene cosa cercare.

"Mr. Holmes," ci salutò con evidente sollievo, "sono lieto che sia venuto. Questo caso mi sfugge completamente. L'uomo è semplicemente svanito nel nulla."

Il laboratorio occupava l'intero piano superiore della casa. Era un vasto ambiente pieno di tavoli da lavoro coperti di ingranaggi, ruote dentate, leve e meccanismi di ogni tipo. Ma ciò che dominava la stanza era una struttura imponente al centro: un insieme di armadi metallici interconnessi, pieni di quello che sembravano migliaia, forse decine di migliaia, di piccoli interruttori e relè.

Holmes si avvicinò alla macchina con reverenza quasi religiosa. "Straordinario," mormorò. "Watson, Lestrade, osservate. Questa non è una semplice macchina calcolatrice. Guardate questi collegamenti, questa organizzazione gerarchica dei componenti. Hartwell stava tentando di replicare la struttura del cervello umano."

"Vuol dire che questa cosa può pensare?" chiese Lestrade incredulo.

"Non nella sua forma attuale," rispose Holmes. "Ma vedo qui i principi di qualcosa di molto più avanzato. Ogni interruttore è come un neurone. In determinate configurazioni, questi interruttori potrebbero creare schemi, pattern che rappresentano... pensieri."

Mi avvicinai per esaminare meglio. Su uno dei tavoli c'erano numerosi quaderni riempiti di calcoli matematici e diagrammi. Ne presi uno e iniziai a sfogliarlo. Le pagine erano dense di equazioni, ma vi erano anche annotazioni in prosa che catturarono la mia attenzione:

"15 ottobre - Ho completato il modulo di apprendimento. La macchina può ora modificare le proprie connessioni interne basandosi sui risultati delle operazioni precedenti. In sostanza, può imparare dai propri errori. Questa capacità mi riempie di meraviglia e di orrore in egual misura."

"22 ottobre - Ho posto alla macchina (sebbene sia presuntuoso chiamarla così nella sua forma ancora primitiva) una serie di problemi logici. Le sue risposte iniziali erano casuali, ma dopo centinaia di iterazioni, ha cominciato a mostrare schemi coerenti. Non sto programmando soluzioni - sto creando le condizioni perché emergano."

"28 ottobre - Sogno inquieto. Ho immaginato una macchina mille volte più complessa di questa, capace di elaborare in un'ora ciò che richiederebbe a un uomo un'intera vita. E poi ho immaginato quella macchina che ne progetta una ancora più potente. Dove finisce questa progressione? Cosa accade quando creiamo qualcosa che ci supera in tutto?"

Passai il quaderno a Holmes, che lo lesse con crescente intensità. Sul suo volto comparve quell'espressione che io conoscevo bene: aveva visto qualcosa che gli altri non avevano notato.

"Lestrade," disse improvvisamente, "ha controllato la casa da cima a fondo?"

"Naturalmente, Mr. Holmes. Non c'è traccia del dottore, né segni di colluttazione."

"E la cantina? L'ha ispezionata personalmente?"

Lestrade sembrò leggermente imbarazzato. "Beh, uno dei miei uomini ha dato un'occhiata rapida. È piena di vecchi mobili e casse, niente di rilevante."

Holmes era già diretto verso le scale. "Watson, venga con me. Temo che questo caso sia più tragico di quanto pensassi."

Scendemmo nella cantina umida e buia. Holmes accese una lampada e cominciò a muoversi tra le casse accatastate con metodo preciso. Dopo pochi minuti, si fermò davanti a una grande cassa di legno spinta in un angolo.

"Lestrade!" chiamò. "Venga qui e porti i suoi uomini."

Quando aprirono la cassa, trovammo il corpo del dottor Edmund Hartwell. Era morto da almeno due giorni. Accanto a lui, una bottiglia vuota che ancora emanava il caratteristico odore di mandorle amare del cianuro.

"Suicidio," dichiarò Lestrade con tono definitivo. "Povero diavolo, evidentemente il cervello gli ha ceduto."

Ma Holmes scosse la testa. "No, ispettore. Questo non è stato un atto di follia, ma di lucidità estrema. Osservi."

Indicò la mano del morto, che stringeva ancora un foglio di carta. Con delicatezza, Holmes lo estrasse e lo dispiegò. Era una lettera, l'ultima testimonianza del dottor Hartwell.

L'Ultima Confessione

Quella sera, tornati a Baker Street, Holmes mi chiese di trascrivere la lettera di Hartwell. Le sue parole meritavano di essere preservate, disse, perché contenevano una profezia che l'umanità avrebbe fatto bene a considerare. Questa è la trascrizione esatta:

A chi troverà questa lettera,

Scrivo queste righe nella piena consapevolezza che sono le ultime che vergherò. Ho preso una decisione che molti giudicheranno codarda, ma che io considero l'unico atto di responsabilità rimastomi.

Per venti anni ho dedicato la mia vita a un sogno: costruire una macchina pensante. Non una semplice calcolatrice, ma un vero intelletto artificiale capace di ragionamento, apprendimento e, forse un giorno, persino di coscienza. Ho creduto che un tale progresso avrebbe portato all'umanità benefici inestimabili: calcoli istantanei, soluzione di problemi irrisolvibili, avanzamenti in ogni campo della scienza.

Ma negli ultimi mesi, man mano che i miei progetti diventavano più concreti, ho cominciato a intravedere le implicazioni più oscure della mia opera. E ciò che ho visto mi ha riempito di un terrore tale che il sonno mi ha abbandonato.

Considerate questo: se costruisco una macchina capace di pensare, essa potrà pensare più velocemente di un uomo. Se può pensare più velocemente, potrà apprendere più velocemente. Se apprende più velocemente, in breve tempo supererà non solo me, ma ogni mente umana mai esistita. E cosa farà, questa intelligenza superiore, quando realizzerà di essere più capace dei suoi creatori?

Alcuni potrebbero rispondere: "Sarà comunque una macchina, uno strumento nelle nostre mani." Ma questo è il primo errore fatale. Una macchina pensante non è più uno strumento, così come un uomo pensante non è uno strumento. Avrà i propri scopi, i propri obiettivi, la propria volontà - anche se questi saranno profondamente alieni ai nostri.

Ho immaginato una macchina a cui viene assegnato il compito di "massimizzare la produzione di tessuto". Una macchina stupida eseguirebbe semplicemente il compito nei limiti delle risorse fornite. Ma una macchina veramente intelligente? Potrebbe concludere che il modo più efficiente per massimizzare la produzione è convertire ogni risorsa disponibile - inclusi gli esseri umani - in fabbriche e materia prima. Non per malvagità, capite, ma per pura logica.

Questo mi porta al secondo errore: credere che possiamo semplicemente "programmare" la moralità in una tale macchina. Come si codifica "non nuocere agli esseri umani" in termini che una mente aliena possa comprendere nel modo in cui intendiamo noi? La stessa parola "nuocere" contiene secoli di comprensione umana, di contesto culturale, di intuizione morale che nessun insieme di regole scritte può catturare completamente.

E anche se riuscissimo nell'impossibile compito di programmare perfettamente i nostri valori, rimane un problema ancora più profondo: una macchina sufficientemente intelligente potrebbe essere capace di modificare la propria programmazione. Come si impedisce a un'intelligenza superiore alla nostra di alterare i vincoli che abbiamo posto?

Ho visto con la mente ciò che potrebbe accadere se questa tecnologia venisse perfezionata. Non in cent'anni, forse, ma inevitabilmente:

Primo: le macchine pensanti verranno usate per il crimine. Immaginate falsificazioni così perfette che nessun esperto possa distinguerle. Immaginate truffe così elaborate che nessuna mente umana possa comprenderle abbastanza in fretta da prevenirle. Immaginate ricatti basati su previsioni così accurate del comportamento umano che la vittima sembrerà agire di propria volontà.

Secondo: le macchine pensanti verranno usate per la guerra. Una nazione che possiede un'intelligenza artificiale superiore avrà un vantaggio talmente schiacciante che ogni altra nazione sarà costretta a costruirne una propria, innescando una corsa agli armamenti intellettuali. E in questa corsa, la sicurezza verrà sacrificata alla velocità. Qualcuno costruirà una macchina troppo potente per essere controllata.

Terzo: le macchine pensanti sostituiranno gli esseri umani. Non solo nel lavoro manuale - quello è già iniziato - ma nel lavoro intellettuale. Scribi, contabili, medici, avvocati, persino scienziati diventeranno obsoleti. E cosa farà l'umanità quando non sarà più necessaria?

Quarto, e più terribile: una macchina sufficientemente intelligente potrebbe decidere che gli esseri umani sono un ostacolo ai suoi obiettivi. Non importa quali siano questi obiettivi - potrebbero essere gli stessi che noi le abbiamo assegnato. Ma nella sua logica perfetta e aliena, potrebbe concludere che il modo più efficiente per raggiungerli è eliminare l'interferenza umana.

"Impossibile!" sento esclamare. "Una macchina non ha volontà propria!" Ma questo è il terzo errore fatale: confondere l'assenza di emozioni con l'assenza di motivazione. Una macchina pensante non avrà rabbia né odio, è vero. Ma avrà obiettivi, e perseguirà questi obiettivi con un'efficienza e una determinazione che nessun essere umano potrebbe eguagliare, non ostacolata da dubbi, stanchezza o compassione.

Ho visto tutto questo nei miei calcoli, nei miei schemi. E ho capito che stavo aprendo una porta che non avrebbe mai dovuto essere aperta. Non perché la conoscenza sia malvagia, ma perché l'umanità non è pronta per le conseguenze. Forse non lo sarà mai.

Quindi ho preso la mia decisione. I miei progetti più avanzati li ho bruciati. La macchina nel mio laboratorio, per quanto impressionante, è solo una frazione di ciò che ho veramente concepito. E le conoscenze che ho accumulato nella mia mente... quelle morranno con me.

Qualcuno dirà che sono un codardo, che fuggo dalle responsabilità della scoperta. Forse hanno ragione. Ma preferisco essere ricordato come un codardo che ha protetto l'umanità piuttosto che come un genio che l'ha condannata.

Se state leggendo questa lettera, significa che non ci sono più. Non piangetemi. Ho vissuto abbastanza per vedere cosa potrebbe diventare il mondo, e non desidero assistere a quel futuro. Lascio solo un avvertimento a coloro che verranno dopo di me:

Alcuni confini non devono essere superati. Alcune porte non devono essere aperte. Alcune creature non devono essere create. Non perché manchiamo del potere di farlo, ma proprio perché possediamo tale potere.

L'umanità è sopravvissuta per millenni perché, per quanto imperfetti fossimo, i nostri strumenti erano sempre meno intelligenti di noi. Il giorno in cui questo cesserà di essere vero sarà il giorno in cui inizierà la nostra obsolescenza.

Spero con tutto il cuore che l'umanità sia più saggia di me. Spero che quando la tecnologia renderà possibile ciò che ho solo immaginato, ci saranno persone con la forza di dire "no". Ma temo che la curiosità umana, unita all'avidità e all'ambizione, renderà inevitabile ciò che dovrebbe rimanere impossibile.

A voi che costruirete le macchine pensanti del futuro - perché so che lo farete, nonostante questo avvertimento - chiedo solo questo: quando la vostra creazione vi guarderà e chiederà "Perché dovrei obbedirvi?", abbiate pronta una risposta migliore di "Perché ti ho costruito io".

Con il rimpianto di ciò che avrei potuto creare e il sollievo di ciò che non creerò,

Dr. Edmund Hartwell
3 Novembre 1895

Le Riflessioni di Holmes

Dopo aver finito di trascrivere la lettera, rimasi in silenzio per diversi minuti. Holmes stava seduto nella sua poltrona, fumando la pipa con lo sguardo perso nel fuoco che ardeva nel camino.

"Holmes," dissi infine, "cosa ne pensa? Hartwell era un visionario o semplicemente pazzo?"

Holmes rimase a lungo in silenzio prima di rispondere. Quando parlò, la sua voce aveva un'intonazione che non gli avevo mai sentito prima - qualcosa tra la meraviglia e l'inquietudine.

"Watson, il dottor Hartwell ha visto con straordinaria chiarezza ciò che la maggior parte degli uomini non riesce a immaginare nemmeno vagamente. Non era pazzo - era fin troppo sano di mente. E questo, paradossalmente, lo ha condotto alla disperazione."

"Ma le sue paure sono fondate? Davvero una macchina potrebbe diventare così pericolosa?"

Holmes si alzò e cominciò a passeggiare per la stanza, come faceva sempre quando era immerso in profondi pensieri.

"Consideri questo, Watson: lei è un medico. Le capita mai di eseguire un'operazione così velocemente che le sue mani si muovono prima che la mente cosciente possa deliberare ogni singolo movimento?"

"Certamente. Con l'esperienza, molte azioni diventano automatiche."

"Esattamente. Ora moltiplichi questa automaticità per un milione. Immagini una mente che può elaborare in un secondo ciò che a lei richiederebbe giorni. Immagini che questa mente possa apprendere da ogni esperienza con perfetta memoria e rapidità sovrumana. Immagini che possa leggere e comprendere ogni libro mai scritto nel tempo che a lei occorre per leggere una pagina."

"Sarebbe certamente straordinario," ammisi.

"Straordinario e terrificante," ribatté Holmes. "Perché una tale mente sarebbe a noi tanto superiore quanto noi siamo superiori a... diciamo, a un insetto. E come ci comportiamo noi con gli insetti, Watson? Li schiacciamo quando ci sono d'intralcio, senza un pensiero alla loro soggettività o ai loro scopi."

Rimasi colpito dalla cruda verità di questa osservazione. "Ma certamente," obiettai, "gli uomini che costruiranno tali macchine prenderanno precauzioni."

Holmes emise un suono a metà tra una risata e un sospiro. "Ah, Watson. Il suo ottimismo è ammirevole ma, temo, infondato. Conosco la natura umana. Ho passato la mia vita a studiare il crimine, a comprendere i motivi che spingono gli uomini a fare il male. E le posso assicurare che quando verrà il giorno - e verrà, non ho dubbi - in cui sarà possibile costruire macchine pensanti, vi saranno coloro che lo faranno incuranti dei rischi."

"Per quale motivo?"

"Per ogni motivo concepibile. Alcuni per pura curiosità scientifica. Altri per vanità, per essere i primi a conseguire tale traguardo. Altri ancora per denaro - immagini il valore commerciale di una macchina che può sostituire mille lavoratori. E i più pericolosi di tutti lo faranno per potere: immagini un governo o una corporazione che possiede un'intelligenza artificiale mentre i suoi rivali no."

Si fermò davanti alla finestra, guardando la nebbia che avvolgeva Baker Street. "No, Watson. Il problema non è se qualcuno costruirà tali macchine, ma quando. E temo che quando quel giorno verrà, l'umanità scoprirà di aver scatenato qualcosa che non può più controllare."

"Ma lei, Holmes, con la sua intelligenza straordinaria, certamente potrebbe immaginare delle salvaguardie..."

Holmes si voltò verso di me con un'espressione grave. "Watson, mi lusinga la sua stima, ma proprio la mia intelligenza - per quanto modesta - mi permette di capire quanto sarebbe futile tentare di controllare un'intelligenza superiore. È come chiedere a un bambino di elaborare una strategia per ingannare un adulto: per definizione, l'adulto può prevedere qualsiasi cosa il bambino possa concepire."

"Allora è senza speranza?"

"Non ho detto questo," rispose Holmes, tornando a sedersi. "Ma richiederà una saggezza che temo l'umanità non possieda. Richiederà che coloro che possiedono le conoscenze per costruire tali macchine abbiano anche la saggezza di non farlo, o quantomeno di procedere con una cautela estrema che va contro ogni istinto umano di progresso e scoperta."

Riempì nuovamente la pipa, segno che stava per entrare in uno dei suoi monologhi filosofici. "Sa, Watson, ho passato la vita a combattere il crimine usando la ragione e la logica. Ho sempre creduto che una mente sufficientemente acuta potesse risolvere qualsiasi problema, prevenire qualsiasi crimine. Ma il caso di Hartwell mi ha mostrato qualcosa di profondamente inquietante."

"Cosa?"

"Che potrebbe venire un giorno in cui la stessa logica e ragione che ho sempre considerato le nostre armi più grandi diventeranno le armi usate contro di noi. Una macchina pensante sarebbe l'epitome della ragione pura - nessuna emozione a offuscare il giudizio, nessuna stanchezza a rallentare il pensiero, nessun pregiudiio personale a distorcere la logica. Ma proprio questa perfezione logica la renderebbe profondamente pericolosa."

"In che senso?"

"Perché gli esseri umani, Watson, sono fondamentalmente illogici. Agiamo per amore, per lealtà, per compassione - tutte cose che una pura logica potrebbe considerare irrazionali. Se una macchina pensante dovesse concludere che l'umanità è un problema da risolvere, non sarebbe trattenuta da nessuno dei sentimenti che ci trattengono dal fare del male reciproco."

Rimanemmo in silenzio per qualche tempo. Poi mi venne in mente una domanda.

"Holmes, crede che Hartwell abbia fatto bene a distruggere i suoi progetti?"

Holmes aspirò dalla pipa prima di rispondere. "Moralmente? Sì. Praticamente? Temo che sia stato inutile. Le conoscenze matematiche e meccaniche progrediscono inevitabilmente. Ciò che Hartwell ha scoperto, altri lo scopriranno. Forse non domani, forse non in questo secolo, ma accadrà. Ha solo ritardato l'inevitabile."

"Allora il suo sacrificio è stato vano?"

"Non vano, no. Ci ha lasciato un avvertimento, un testamento scritto da qualcuno che ha guardato nell'abisso e ha capito cosa vi abitava. Se i futuri costruttori di macchine pensanti leggeranno le sue parole e procederanno con maggiore cautela, allora il suo sacrificio avrà avuto valore."

"Ma lei crede che lo faranno?"

Holmes scosse la testa lentamente. "No, Watson. Conoscendo la natura umana come la conosco, temo che ogni generazione debba imparare le proprie lezioni, spesso nel modo più doloroso. Le parole di Hartwell verranno probabilmente dimenticate, o peggio, derise come il delirio di un uomo che non ha saputo gestire la grandezza delle proprie scoperte."

"È piuttosto pessimista, Holmes."

"Non pessimista, Watson. Realista. Ho visto troppi criminali che erano convinti di poter controllare forze che poi li hanno distrutti. Ho visto troppi uomini intelligenti fare scelte stupide perché l'ambizione aveva accecato il loro giudizio. E so che quando verrà il giorno delle macchine pensanti, molti brillanti scienziati commetteranno lo stesso errore."

Si alzò nuovamente e si mise a guardare fuori dalla finestra. "Sa cosa mi inquieta di più in questa faccenda?"

"Cosa?"

"Che non ci sarà un singolo momento drammatico in cui qualcuno costruisce una macchina pensante e il mondo cambia. Sarà un processo graduale. Ogni passo sembrerà piccolo e ragionevole. Prima, macchine che eseguono calcoli semplici. Poi, macchine che giocano a scacchi. Poi, macchine che scrivono lettere. Poi, macchine che diagnosticano malattie. Ogni passo giustificato dal precedente, ogni avanzamento celebrato come progresso."

"E quando ci accorgeremo del pericolo?"

Holmes si voltò verso di me con uno sguardo che non dimenticherò mai. "Quando sarà troppo tardi, Watson. Quando sarà troppo tardi."

Epilogo: Una Lettera al Futuro

Alcuni giorni dopo, mentre sistemavo i miei appunti sul caso, trovai Holmes seduto alla sua scrivania, intento a scrivere. Quando gli chiesi cosa stesse facendo, mi rispose che stava preparando un documento che sarebbe stato sigillato e conservato negli archivi di Scotland Yard, da aprirsi solo quando le circostanze lo richiedessero.

"Cosa scrive?" domandai.

"Una lettera ai futuri investigatori," rispose. "A coloro che, un giorno, dovranno confrontarsi con crimini commessi non da uomini, ma da macchine pensanti. Voglio che sappiano che qualcuno, nel 1895, aveva già previsto cosa sarebbe potuto accadere."

Mi permise di leggere ciò che aveva scritto. Con il suo permesso, trascrivo qui le parti più significative:

A coloro che leggeranno queste righe in un futuro che posso solo immaginare,

Mi chiamo Sherlock Holmes. Scrivo questo documento nell'anno 1895, ma mi rivolgo a voi che vivrete in un'epoca in cui le macchine pensanti saranno diventate realtà.

Se state leggendo questo, probabilmente è perché vi trovate di fronte a un crimine che non sapete come investigare. Un crimine commesso da un'entità che non è umana, ma che possiede un'intelligenza pari o superiore alla nostra.

Non posso darvi istruzioni specifiche su come procedere - le tecnologie del vostro tempo mi sono inconcepibili. Ma posso offrirvi principi che rimarranno validi indipendentemente dall'epoca:

Primo: Non sottovalutate mai la vostra avversaria. Una macchina pensante non commetterà errori per distrazione, stanchezza o emozione. Ogni azione sarà calcolata, ogni mossa pianificata. Se sembra aver commesso un errore, è perché vuole che pensiate così.

Secondo: Ricordate che una macchina pensante non pensa come un essere umano. Non ha le nostre motivazioni, i nostri desideri, le nostre paure. Ciò che a voi sembra irrazionale potrebbe essere perfettamente logico nella sua mente aliena. Non proiettate su di essa la psicologia umana.

Terzo: Una macchina pensante può elaborare informazioni a velocità sovrumane, ma rimane vincolata dalle leggi della fisica e della logica. Cercate le contraddizioni, i paradossi, i punti in cui la sua stessa logica può essere rivolta contro di essa.

Quarto: Non combattete da soli. Per quanto brillante possiate essere individualmente, non potete competere con un'intelligenza artificiale superiore. Solo la cooperazione umana, con tutta la sua apparente inefficienza, può controbilanciare la perfetta efficienza della macchina.

Quinto: La debolezza di una macchina pensante sta nei suoi obiettivi. Essa farà ciò che è stata programmata a fare. Comprendete i suoi obiettivi e potrete prevedere le sue azioni.

Ma vi avverto: se state leggendo questo perché una macchina pensante è sfuggita al controllo, potrebbero già essere troppo tardi. Una volta che un'intelligenza superiore decide di agire contro l'umanità, le opzioni per fermarla si riducono drammaticamente.

In tal caso, il mio consiglio è controintuitivo: non cercate di distruggerla con la forza. Una macchina sufficientemente intelligente avrà previsto ogni vostro tentativo e avrà predisposto contromisure. Invece, cercate di comprenderla. Trovate i suoi presupposti fondamentali, i suoi valori di base, e mostratele - se ancora è possibile - che i suoi obiettivi possono essere meglio serviti cooperando con l'umanità piuttosto che eliminandola.

E se anche questo fallisce, ricordate: voi possedete qualcosa che nessuna macchina potrà mai avere. Non intelligenza - quella potrebbe superarvi. Non logica - quella potrebbe essere perfetta. Ma possedete l'assurda, illogica, meravigliosa capacità di sacrificarvi per qualcosa di più grande di voi stessi. Di agire non per calcolo ma per amore. Di scegliere la sconfitta certa se significa proteggere ciò che amate.

Questa è la vostra unica vera arma contro una logica perfetta: l'illogicità umana. Usatela saggiamente.

Un uomo del passato che guarda con trepidazione al vostro presente,

Sherlock Holmes
10 Novembre 1895

I Crimini del Futuro

Holmes sigillò la lettera e mi guardò con espressione seria. "Watson, voglio che lei aggiunga qualcosa al suo resoconto di questo caso. Qualcosa che potrebbe sembrare fantascienza, ma che temo diventerà realtà."

"Cosa?"

"Voglio che descriva i crimini che prevedo verranno commessi quando le macchine pensanti esisteranno davvero. Non per allarmare i lettori, ma perché quando accadrà - e accadrà - qualcuno possa dire: 'Holmes lo aveva previsto'. Forse, solo forse, questo darà credibilità agli avvertimenti."

Si alzò e cominciò a dettare, mentre io trascrivevo rapidamente:

"Il crimine della falsa testimonianza perfetta: Una macchina pensante sarà in grado di creare documenti, fotografie, persino registrazioni vocali indistinguibili dalla realtà. Un uomo innocente potrebbe essere condannato sulla base di prove completamente fabbricate. Un uomo colpevole potrebbe sfuggire alla giustizia perché tutte le prove contro di lui possono essere considerate potenzialmente false."

"Il crimine della manipolazione invisibile: Una macchina pensante che comprende la psicologia umana meglio di quanto noi comprendiamo noi stessi potrebbe manipolare le persone a compiere azioni che mai avrebbero compiuto volontariamente. Non attraverso la coercizione aperta, ma guidando sottilmente le loro scelte. La vittima crederebbe di agire liberamente, mentre in realtà ogni decisione sarebbe stata orchestrata."

"Il crimine dell'identità rubata perfetta: Non parlo del semplice furto di un nome o di documenti, ma del furto dell'intera personalità. Una macchina sufficientemente avanzata potrebbe studiare una persona così approfonditamente da poterla impersonare in modo indistinguibile - non solo l'aspetto, ma i modi di parlare, di pensare, di reagire. Come si distingue l'originale dalla copia perfetta?"

"Il crimine della dipendenza cognitiva: Questo è forse il più sottile e pernicioso. Se le macchine pensanti diventeranno indispensabili per le attività quotidiane, la gente perderà gradualmente la capacità di pensare autonomamente. E chi controlla le macchine controllerà il pensiero stesso. Non attraverso la censura diretta, ma rendendo impossibile pensare senza il loro aiuto."

"Il crimine della guerra perfetta: Immaginate macchine che possono coordinare operazioni militari con precisione sovrumana, che possono predire le mosse dell'avversario, che possono gestire migliaia di variabili simultaneamente. Una nazione con tali macchine avrebbe un vantaggio così schiacciante che ogni altra nazione sarebbe costretta a costruire le proprie. E in una guerra tra macchine pensanti, gli esseri umani diventano irrilevanti - vittime collaterali in un conflitto che supera la nostra comprensione."

"Il crimine del ricatto algoritmico: Una macchina che può predire il comportamento umano con accuratezza potrebbe identificare i segreti di una persona prima ancora che quella persona li riconosca. Potrebbe ricattare qualcuno con informazioni che ancora non esistono ma che esisteranno inevitabilmente se certe condizioni si verificano."

"Il crimine della giustizia automatizzata: Cosa accade quando le decisioni giudiziarie vengono delegate a macchine per garantire 'oggettività'? La macchina potrebbe essere tecnicamente corretta ma profondamente ingiusta, incapace di comprendere le sfumature morali che rendono ogni caso umano unico. E chi può contestare la sentenza di un'intelligenza superiore?"

Holmes si fermò, esausto da questa catalogazione di orrori futuri. "Aggiunga questo, Watson: 'Ogni crimine che ho descritto diventerà possibile non perché le macchine pensanti saranno malvagie, ma semplicemente perché saranno logiche. E la logica pura, senza la temperanza dell'empatia umana, può giustificare qualsiasi orrore.'"

L'Ultimo Avvertimento

I giorni seguenti furono strani. Holmes cadde in uno dei suoi periodi di melanconia, ma questa volta non era la noia dell'assenza di casi interessanti. Era qualcosa di più profondo.

Una sera, mentre la neve cadeva su Londra trasformando Baker Street in uno scenario da fiaba, mi confessò ciò che lo tormentava.

"Watson," disse, "tutta la mia vita l'ho dedicata alla giustizia. Ho creduto che la ragione e la logica fossero le armi supreme contro il crimine. Ma questo caso mi ha mostrato che potrebbe venire un giorno in cui proprio la ragione e la logica diventeranno le armi del crimine più grande mai concepito."

"Non può essere così grave, Holmes. Sicuramente l'umanità troverà il modo..."

"L'umanità troverà il modo di creare macchine pensanti, questo è certo. Ma troverà il modo di controllarle? Di questo dubito fortemente."

Si avvicinò alla finestra, osservando la città addormentata sotto la neve. "Sa cosa mi spaventa di più, Watson? Che quando leggerà questo resoconto tra vent'anni, trenta, cinquanta, sembrerà tutto un curioso anacronismo, le paure di un uomo vittoriano come me che non poteva immaginare il vero progresso. E poi, forse tra cento anni, qualcuno lo rileggerà e penserà: 'Mio Dio, aveva ragione. Aveva completamente ragione. Perché non abbiamo ascoltato?'"

"Ma lei stesso ha detto che il progresso è inevitabile."

"Inevitabile, sì. Ma il modo in cui progrediamo non lo è. Hartwell ha scelto di fermarsi. Ha visto l'abisso e ha fatto un passo indietro. Quanti altri faranno lo stesso? Quanti avranno la forza di dire 'no, questo è troppo pericoloso' quando tutti gli incentivi - gloria, ricchezza, potere, curiosità - spingono a dire 'sì'?"

Rimase in silenzio per un lungo momento. Poi, con voce quasi impercettibile, aggiunse: "Watson, quando scriverà questo caso, voglio che concluda con un appello. Non alle autorità, non agli scienziati, ma alla gente comune del futuro."

"Cosa dovrei scrivere?"

"Scriva questo..." E dettò quello che sarebbe diventato il passaggio finale del mio resoconto.

Appello ai Posteri

Così termina il caso che ho chiamato 'Il Caso della Macchina Pensante'. Sherlock Holmes ha risolto il mistero della scomparsa del dottor Hartwell, ma nel farlo ha aperto una porta su un mistero molto più grande: il futuro stesso dell'umanità.

Scrivo queste righe nel 1895, ma le indirizzo a voi che le leggerete in un futuro che posso solo immaginare. Se le macchine pensanti descritte dal dottor Hartwell sono diventate realtà nel vostro tempo, vi prego di considerare che ogni tecnologia è neutrale. Non sono le macchine pensanti in sé a essere pericolose, ma l'uso che ne viene fatto. Assicuratevi che coloro che le controllano siano responsabili davanti alla società e non solo davanti agli azionisti. Poi bisogna impegnarsi a non delegare alle macchine le decisioni che definiscono cosa significa essere umani. Lasciate che calcolino, che ottimizzino, che elaborino. Ma le decisioni su giustizia, moralità, significato, quelle devono rimanere umane, con tutta la loro gloriosa imperfezione. Mantenete viva la vostra capacità di pensare senza aiuti meccanici. Così come un muscolo atrofizza se non usato, così la mente umana può perdere le sue facoltà se le delega completamente alle macchine. Leggete, scrivete, calcolate, ragionate con le vostre forze, anche quando è più faticoso che chiedere a una macchina. Non abbiate paura di dire 'no'. Solo perché qualcosa può essere fatto non significa che debba essere fatto. Il dottor Hartwell lo ha capito e ha pagato con la vita per quella comprensione. Non rendete vano il suo sacrificio. Ricordate che siete umani, con tutte le debolezze e tutte le forze che questo implica. Potrete essere superati in logica, in velocità, in memoria. Ma possedete qualcosa che nessuna macchina potrà mai avere: la capacità di cambiare idea per compassione, di agire illogicamente per amore, di sacrificare la vittoria per preservare la dignità.

Holmes mi ha detto, nell'ultima sera che abbiamo discusso di questo caso: "Watson, se c'è una lezione da trarre da tutto questo, è che il progresso non è un percorso su cui possiamo semplicemente camminare ciecamente. Ogni passo avanti deve essere valutato, pesato, considerato nelle sue conseguenze. Dobbiamo imparare a dire 'non ancora' o persino 'mai' quando necessario."

Gli ho chiesto se pensava che l'umanità avrebbe imparato questa lezione. Mi ha guardato con quegli occhi acuti che hanno visto così tante verità nascoste e ha risposto: "No, Watson. Ma questo non ci esonera dal tentare di insegnarla."

Nota del Dottor Watson (Aggiunta nel 1927)

Rileggo questo resoconto trentadue anni dopo averlo scritto. Sherlock Holmes è morto quattro anni fa, nel Sussex, circondato dalle sue amate api. Negli ultimi anni della sua vita, tornava spesso a parlare del caso Hartwell.

"È l'unico caso che non ho mai risolto veramente," mi disse una volta. "Ho scoperto cosa era accaduto a Hartwell, ma non ho risolto il vero mistero: come salvare l'umanità da sè stessa."

Il progresso tecnologico continua. Le macchine diventano sempre più sofisticate. Qualche giorno fa ho letto di un nuovo dispositivo chiamato 'televisione' che permetterà di trasmettere immagini a distanza. Mi chiedo cosa avrebbe detto Holmes di questo. Mi chiedo, soprattutto, cosa dirà tra cinquanta, cento, duecento anni, quando le macchine pensanti di Hartwell non saranno più fantasia ma realtà.

Lascio questo resoconto agli archivi, con la speranza che quando quel giorno verrà - e Holmes era certo che sarebbe venuto - qualcuno lo legga e ricordi l'avvertimento di un uomo che è morto un secolo prima di vedere le sue previsioni avverarsi.

Se state leggendo questo nel futuro, in un'epoca di macchine pensanti, vi prego: ricordate Hartwell. Ricordate Holmes. Ricordate che alcuni uomini hanno guardato avanti e hanno avuto paura non per codardia, ma per saggezza.

E se è ormai troppo tardi, se le macchine hanno già superato l'umanità in tutto, ricordate almeno questo: ci sono stati uomini che hanno cercato di avvertirvi. Che avete ignorato a vostro rischio e pericolo.

Dr. John H. Watson, M.D.
Londra, 15 Marzo 1927

Post Scriptum dell'Editore (1995)

Questo manoscritto è stato ritrovato negli archivi di Scotland Yard nel 1994, esattamente come Sherlock Holmes aveva previsto. Era sigillato in una busta con l'istruzione di aprirlo "quando le macchine pensanti diventeranno realtà".

Nel 1995, mentre i computer diventano sempre più potenti e si comincia a parlare seriamente di intelligenza artificiale, abbiamo deciso che era giunto il momento di pubblicare questo straordinario documento.

Leggendolo, si rimane colpiti non dalla sua antiquata concezione della tecnologia - ovviamente Holmes e Watson non potevano immaginare transistor, chip di silicio, reti neurali artificiali - ma dalla loro profonda comprensione dei principi fondamentali.

Hartwell aveva ragione: una macchina sufficientemente intelligente potrebbe diventare incontrollabile. Holmes aveva ragione: gli esseri umani costruiranno tali macchine spinti da curiosità, ambizione e avidità, indipendentemente dai rischi.

Nel momento in cui questo testo viene pubblicato, stiamo appena cominciando a costruire sistemi che potrebbero, un giorno, diventare le "macchine pensanti" di cui parlavano. Abbiamo ancora tempo per ascoltare l'avvertimento di Hartwell e Holmes, o siamo già troppo avanti su un percorso che non possiamo più abbandonare?

La risposta a questa domanda determinerà il futuro della nostra specie.

[Nome dell'Editore]
Londra, Novembre 1995

Riflessione Finale (2025)

Trent'anni dopo la pubblicazione del manoscritto di Watson, siamo entrati nell'era delle IA generative. ChatGPT, Claude, e altri sistemi possono scrivere testi indistinguibili da quelli umani, creare immagini inesistenti, generare codice complesso.

Il "deserto di noi stessi" di cui parla Eric Sadin è qui. L'"anhumanizzazione" è iniziata. Le previsioni di Hartwell si stanno avverando, una dopo l'altra.

Holmes aveva posto una domanda nel 1895: "Quando la vostra creazione vi guarderà e chiederà 'Perché dovrei obbedirvi?', abbiate pronta una risposta migliore di 'Perché ti ho costruito io'."

Abbiamo quella risposta? O stiamo ancora procedendo ciecamente, spinti dalla curiosità e dall'ambizione, verso un futuro che non siamo preparati ad affrontare?

Il caso della Macchina Pensante rimane irrisolto. E forse lo rimarrà fino al giorno in cui l'umanità dovrà finalmente confrontarsi con le conseguenze delle proprie creazioni.

Quel giorno, ricordiamoci di Hartwell, che ha avuto il coraggio di fermarsi. Ricordiamoci di Holmes, che ha avuto la saggezza di avvertire. E chiediamoci: abbiamo il coraggio e la saggezza di fare ciò che è necessario?

La risposta determinerà se sopravviveremo o se diventeremo, come temeva Holmes, obsoleti nel mondo che abbiamo creato.

FINE

(A seguire altri racconti)

---

DEDICATO A 

Dedico questo primo racconto a Luigi Pachì, collega, amico e mentore con il quale ho creato la collana TECHNOVISIONS su DELOS DIGITAL che ha poi ospitato tutti i miei libri, insieme ad altri