errare [lat. errare "vagare; sbagliare"] (io èrro, ecc.). - ■ v. intr. (aus. avere) 1. a. [andare qua e là senza meta certa: e. per i campi, per i monti, per le strade] ≈ girovagare, peregrinare, (lett.) ramingare, vagabondare, vagare. b. (non com.) [mettersi sulla cattiva strada, anche fig.: e. dalla via, dal retto sentiero] ≈ perdersi, pervertirsi, sviarsi, tralignare, traviarsi. Da Enc. Treccani.
Errare humanum est declamavano i latini. E in questo concetto si possono intravvedere due fondamentali significati: 1) l'uomo erra in quanto uomo (è insito nella sua natura); 2) l'errore definisce l'uomo (non vi è aspetto umano senza errore).
Ora, cosa c'entra tutto ciò con l'Intelligenza Artificiale? Proverò a spiegarmi in questo breve scritto.
Negli ultimi anni abbiamo assistito al fiorire di soluzioni che modellano uno dei fenomeni più ragguardevoli e distintivi dell'umanità: il linguaggio. Le capacità dei moderni LLM di emulare la produzione della lingua, nelle sue più variegate sfaccettature, hanno raggiunto livelli impensabili anche solo 3 anni fa. Più di recente, l'evoluzione del mercato ha chiaramente imboccato la strada di costruire modelli integrati di gestione e reperimento delle informazioni, basandosi fortemente sulla tecnologia degli LLM ma abbinando a questa svariate altre tecnologie nel campo dell'indicizzazione, reperimento e rappresentazione dell'informazione. Esempi sono le versioni di ChatGPT, Mistral Le Chat, DeepSeek ed altri, tutti allineati nel proporre all'utente la possibilità di interagire con fonti web, analizzarne il contenuto e ottenere una sintesi ragionata. Questi servizi possono essere - e sono in generale - definiti come servizi di deep search.
Ho letto da qualche parte che questa modalità rappresenterebbe una rivoluzione nel modo di implementare la relazione tra utenti e informazioni, facendo riferimento - in maniera piuttosto arbitraria a parer mio - a teorie di famosi neuroscienziati e vedendo nei sistemi di deep search la prossima frontiera della relazione tra clienti e business.
A parte il puro marketing, qualcosa di davvero nuovo? Quasi. Sebbene dotati di vetrine e packaging scintillanti questi motori non possono che basarsi sulla medesima infrastruttura di servizi che alimenta tuttora la ricerca Internet, non potendo - di fatto - implementare da capo meccanismi di indicizzazione analoghi per potenza e completezza. La differenza sostanziale tra l'approccio "tradizionale" alla ricerca Internet e quella proposta dai servizi di deep search risiede fondamentalmente nell'aggiunta - a valle del reperimento delle risorse - della parte di analisi-ragionamento-sintesi (ARS) dei risultati. Vale a dire, la parte che stimola l'effetto wow.
Ed è qui che vorrei focalizzare il ragionamento tecno-filosofico di oggi.
E' davvero indubbio, come sostenuto da quasi tutti, che le capacità di ARS di questi sistemi sono stupefacenti e non meno che assolutamente desiderabili? Dipende da come valutiamo le cose. Se - come al solito - rimaniamo inclini a valutare la variabile tempo come unico parametro da ottimizzare nella nostra esistenza allora la risposta è certamente positiva. Non saremmo mai in grado di ricercare, analizzare, ragionare e sintetizzare la stessa quantità di dati nel medesimo lasso di tempo utilizzato dal più lento dei sistemi deep search.
Ma se allarghiamo la prospettiva e, come ho provato a fare nel numero precedente, consideriamo le altre variabili implicate (qualità, costo) e le loro variazioni nel campo non conservativo dell'informazione, ci accorgiamo che la valutazione diventa un po' meno certa.
Il problema fondamentale, infatti, risiede nella nostra capacità di valutare la qualità di qualcosa senza riferimento. Qui non intendo la qualità assoluta (che finisce inevitabilmente a riferirsi a qualche criterio esterno guidato da spinte di marketing o da obiettivi estranei alle nostre intime necessità o a valori di riferimento astratti che guidano il nostro agire), quanto piuttosto la qualità relativa al nostro obiettivo. Se è infatti contraddittorio considerare un risultato come più o meno soddisfacente rispetto ad un altro se non si conosce quest'ultimo (oppure se non si conosce il risultato vero), se ci pensiamo, questo è esattamente la fallacia in cui cadiamo quando usiamo i servizi di deep search. Essi confezionano risultati apparentemente completi, accattivanti e convincenti al punto da non lasciar spazio al nostro dubbio - o meglio - al nostro naturale istinto di errare verso la soluzione che ci soddisfa di più.
Quello che allora si fa è scambiare una qualità assoluta (quella proposta, apparente) per una qualità relativa (quella utile), accontentandosi della prima come superveloce surrogato della seconda. Peccato però, che come richiamato poco sopra, la qualità assoluta è vittima di parametri di giudizio quanto mai aleatori.
Ma la situazione può essere anche peggiore: i parametri di valutazione della qualità possono essere definiti aprioristicamente o in maniera mediata. Ne sono un esempio le funzioni di reward con le quali si fanno evolvere gli LLM verso obiettivi ottimali. Tuttavia, mentre in domini formali (come la matematica) l'obiettivo da raggiungere è per definizione unico, negli altri tipi di dominio (quelli più complessi e interessanti) l'obiettivo non può che essere di natura individuale. Qualcuno dirà: basta sfruttare i dati utente per personalizzare le analisi a runtime. Tuttavia, a parte gli ovvi problemi di privacy che sono indipendenti dalla tecnologia in gioco, le tracce digitali che lasciamo sono - ancora una volta come direbbe B. Stiegler - una versione codificata e parziale di noi stessi e - soprattutto - espressione di circostanze spaziotemporali definite che sono il risultato delle nostre azioni, non la loro motivazione, che invece può essere quanto di più assurdo e irrazionale possiamo concepire.
Il quadro che si delinea, quindi, è la cessione da una parte di una facoltà "alta" - assieme peculiare e distintiva - che è la facoltà di analisi-ragionamento-sintesi, e dall'altra di una facoltà "ingenua" che è quella dell'errore. Ma non è attraverso l'errare/errore che ci siamo trovati in passato qualche volta a scoprire nuovi aspetti della realtà? A individuare elementi nuovi e critici di una nostra credenza? Ad esprimere sentimenti di disprezzo e lontananza verso situazioni che non si confanno ai nostri valori? O più prosaicamente: a trovare la fonte decisiva per un nostro obiettivo di informazione?
Se da una parte, quindi, i servizi di deep search facilitano l'interazione con le informazioni, dall'altra - indubbiamente - ci privano della libertà di errare. Un po' lo stesso effetto già iniziato con la sindrome della "prima pagina dei risultati Google" - qualcuno dirà. Certo, ma con un elemento in più: lo spostamento/cessione/centralizzazione della facoltà ARS e l'abdicazione della nostra capacità di voler deviare da un percorso prestabilito senza alcuna ragione apparente. Entrambe facoltà che di fronte ad una semplice pagina di risultati possiamo ancora scegliere di esercitare.
Tutto sbagliato? Può darsi. D'altra parte c'è sempre chi si accontenta di considerare ineluttabile quello che in realtà è una scelta ben precisa (fatta da chi?) e c'è chi prova a ragionarci su.
In fondo - errare humanum est perseverare autem diabolicum.
Buon deep search a tutti!