C’è un fenomeno curioso che puntualmente riempie le cronache: i furti ai danni di personaggi famosi. Sempre lo stesso copione. Un VIP racconta di aver perso, sul treno, un bagaglio a mano griffato pieno di gioielli con diamanti e borse di lusso per un valore di 100.000 euro. Oppure di essersi accorto, al ritorno dalle vacanze in Toscana, che l’orologio da 200.000 euro non è più al polso.
Difficile non notare la stranezza: o si tratta di persone dotate di una disattenzione fuori dal comune, oppure — ipotesi meno ingenua — di simulazioni di furto per incassare dall’assicurazione. In entrambi i casi, l’impressione è che non siamo davanti a comportamenti particolarmente avveduti.
Eppure, con la stessa leggerezza con cui si accetta il racconto del “trolley di diamanti sparito in cappelliera”, c’è chi crede alla favola che l’intelligenza artificiale salverà l’umanità, distribuendo equamente risorse e benessere a tutti: prudenti, distratti e persino chi si lascia sorprendere in modi tanto singolari.
No, ovviamente. Perché non esiste nessuna intelligenza — naturale o artificiale — che, senza regole e senza limiti, possa garantire equità universale.
In Armi di distruzione matematica (Weapons of Math Destruction), Cathy O’Neil smonta il mito dell’algoritmo neutrale. Definisce “armi di distruzione matematica” quegli algoritmi che sono opachi, scalabili e capaci di produrre danni reali. Il loro effetto? Amplificare ingiustizie già presenti, penalizzando chi è già svantaggiato e favorendo chi è in posizione di vantaggio.
gli algoritmi non sono neutri, sono opachi, scalabili, capaci di produrre danni reali, ad esempio amplificano le ingiustzie già presenti
O’Neil avverte che l’aura di infallibilità della matematica è un inganno:
"Come dèi, questi modelli matematici erano opachi, il loro funzionamento invisibile a tutti tranne che per i sacerdoti supremi del loro dominio: matematici e informatici. I loro verdetti, anche quando sbagliati o dannosi, non si potevano contestare o appellare. E tendevano a punire i poveri e gli oppressi nella nostra società, rendendo i ricchi sempre più ricchi."
In altre parole: se credi che un algoritmo senza controllo possa distribuire ricchezza in modo equo, stai cadendo nello stesso tranello logico di chi crede alla favola del furto milionario casuale.
Kate Crawford, in Atlas of AI, mostra che l’AI non è un’entità eterea che genera equità, ma un’industria pesante, basata su sfruttamento ambientale, lavoro a basso costo e concentrazione di potere.
Shoshana Zuboff, con Il capitalismo della sorveglianza, mette in luce come le piattaforme digitali e i sistemi di AI siano strumenti per estrarre dati e modellare comportamenti a scopo di profitto, non per ridurre le disuguaglianze.
I furti improbabili dei VIP e l’utopia dell’AI salvifica hanno lo stesso problema: la sospensione del senso critico. In entrambi i casi, si accetta una storia comoda e si evita di farsi domande scomode.
La lezione è semplice: che si tratti di un bagaglio di diamanti o di un algoritmo “benevolo”, la cosa più saggia da fare è chiedere prove, pretendere trasparenza e non accontentarsi di un racconto ben confezionato.
Se ci credi sulla parola, il rischio è di finire tra quelli che, alla prima occasione, perderanno sia i diamanti sia la fiducia nell’AI.