L'omogeneità che cresce senza essere ordinata
I sistemi di raccomandazione imparano da comportamenti già influenzati dalle raccomandazioni precedenti. Questo produce un problema noto come feedback ricorsivo. Se un contenuto viene mostrato più spesso, riceve più occasioni di essere scelto. Se viene scelto, il sistema interpreta la scelta come prova della sua rilevanza e può mostrarlo ancora di più.
Simulazioni e studi teorici hanno mostrato che questo processo può aumentare l'omogeneità anche senza una volontà esplicita di chiudere l'utente in una bolla. Il sistema ottimizza su dati che esso stesso ha contribuito a produrre.
Immagina una persona che ascolta per curiosità due brani di un genere musicale. Il suggeritore aumenta leggermente quel genere. La persona ne ascolta altri perché sono disponibili. Il sistema registra un interesse crescente e riduce la varietà. Dopo alcune settimane il profilo appare stabile, ma una parte della stabilità è stata costruita dal dialogo fra proposta e risposta.
Nel campo politico e identitario il processo è più delicato. Una curiosità può essere trattata come appartenenza; un momento di rabbia come preferenza duratura; una ricerca compiuta per lavoro come segnale personale. Il modello non conosce la differenza se il comportamento osservabile è simile.
L'errore non consiste soltanto nel mostrare qualcosa di sbagliato. Consiste nel restituire continuamente una versione semplificata della persona finché quella versione diventa il percorso di minor resistenza.
L'inferno dell'uguale
La personalizzazione promette di eliminare il rumore. Se funziona troppo bene, può eliminare anche l'incontro. L'incontro autentico contiene una quota di disadattamento. Un libro che non avremmo cercato, una persona che non parla il nostro linguaggio, un'idea che inizialmente irrita, un fatto che costringe a correggere il modello. La crescita non nasce soltanto da ciò che conferma; nasce dal rapporto con ciò che non era previsto.
Un sistema orientato alla pertinenza tende a ridurre questo attrito perché l'attrito può produrre abbandono. Ma la continuità della coscienza non coincide con una permanenza senza disagio. Richiede anche la capacità di restare davanti a ciò che contraddice, senza scorrere immediatamente verso qualcosa di più familiare.
La personalizzazione può quindi impoverire non solo l'informazione, ma la possibilità di diventare diversi da ciò che siamo stati. Se il passato comportamentale decide continuamente il prossimo passo, la scoperta viene sostituita dalla conferma statistica.
Questa è l'inversione antropologica del problema. Il sistema non ci mostra soltanto un mondo su misura. Può restituirci un io su misura, facile da riconoscere, facile da soddisfare e sempre meno capace di sorprenderci.
Il terreno comune non scompare in un giorno
Una democrazia non richiede che tutti vedano le stesse cose. Richiede che esistano luoghi, metodi e istituzioni attraverso cui esperienze differenti possano essere confrontate. La personalizzazione diventa politicamente pericolosa quando riduce la visibilità reciproca dei mondi informativi e rende opaco il criterio con cui sono stati costruiti.
Non è necessario che ogni cittadino viva in una bolla perfetta. Basta che gruppi diversi ricevano priorità, esempi e segnali sociali abbastanza differenti da attribuire importanza opposta agli stessi problemi. Possono condividere i fatti di base e divergere su ciò che sembra urgente; possono vedere lo stesso evento ma incontrarlo dentro sequenze emotive incompatibili.
Lo spazio pubblico si frammenta prima nell'ordine delle attenzioni e solo dopo nelle opinioni.
Per questo il diritto a un feed non profilato, previsto dal Digital Services Act per le piattaforme molto grandi, è utile ma non risolutivo. Un feed non profilato non è necessariamente cronologico, neutrale o privo di criteri. Rende disponibile una diversa logica di selezione. La sua efficacia dipende anche dal fatto che l'utente la conosca, possa raggiungerla facilmente e comprenda che cosa cambia.
Neppure il feed cronologico è una soluzione pura. Premia frequenza e presenza temporale, può favorire chi pubblica di più e non garantisce qualità o pluralismo. Ogni ordine contiene una politica della visibilità. La questione è se quella politica sia comprensibile, contestabile e modificabile.
Dalla personalizzazione alla scelta
Sul piano individuale, ridurre la superficie di personalizzazione può essere utile: usare la ricerca invece del feed, cancellare o sospendere la cronologia quando serve, seguire fonti diverse, modificare consapevolmente le iscrizioni, scegliere un ordinamento non profilato, evitare di trattare ogni raccomandazione come un consiglio neutrale.
Queste pratiche non restituiscono un mondo incontaminato. Rendono più visibile il rapporto fra ciò che cerchiamo e ciò che ci viene proposto.
Sul piano collettivo servono audit, accesso indipendente ai dati, trasparenza sui principali parametri, possibilità reale di cambiare criterio e responsabilità per i rischi prevedibili. Non è necessario rendere pubblico ogni dettaglio del codice. Il codice, da solo, non spiega il comportamento di un sistema addestrato su dati dinamici. Serve poter osservare input, obiettivi, distribuzioni degli esiti, gruppi maggiormente esposti e cambiamenti nel tempo.
La trasparenza utile non è una valanga di documenti. È la capacità di rispondere a domande semplici: perché vedo questo, quale obiettivo ha contribuito a ordinarlo, quali dati sono stati usati, quali alternative posso scegliere, chi controlla gli effetti?
Il mondo restituito
La personalizzazione non costruisce dal nulla una prigione. Costruisce sentieri. Alcuni diventano più larghi, illuminati e facili; altri restano possibili ma richiedono ricerca, tempo e intenzione. La libertà formale sopravvive, mentre il costo delle alternative cambia.
La coscienza intermittente segue il sentiero più disponibile e interpreta la facilità come desiderio autentico. La coscienza continua può accorgersi dell'architettura, ricordare una direzione e scegliere anche ciò che non è stato preparato per lei.
Questo non trasforma l'essere umano in un sovrano indipendente da ogni influenza. Nessuno lo è. Rende però possibile una relazione diversa con il filtro: non più ambiente invisibile, ma strumento parziale, utile quando serve e contestabile quando restringe.