Il dibattito pubblico sull'intelligenza artificiale in ambito organizzativo si gioca quasi interamente sul terreno della produttività. Si scrivono documenti più rapidamente, si sintetizzano riunioni, si producono analisi che un tempo richiedevano giornate di lavoro.
Gli entusiasti parlano di un salto senza precedenti; i critici ricordano che la velocità non coincide con la qualità.
Entrambe le posizioni, a ben guardare, condividono il medesimo presupposto: lo strumento si valuta sui suoi effetti di uscita.
La questione che mi pare decisiva sta altrove, e richiede un ingresso da un'altra porta.
È una questione di ordine epistemologico, e riguarda le categorie attraverso cui lo strumento rende visibile il mondo in cui viene inserito.
Conviene risalire di un passo.
Heidegger, nel saggio del 1953 sulla tecnica, descrive una proprietà della tecnica moderna che chiama Gestell, dispositivo complessivo attraverso cui il reale si presenta come riserva calcolabile.
Nel Gestell la modalità stessa del vedere seleziona a monte ciò che può apparire.
L'invisibilità riguarda il dispositivo dell'osservazione, più dei singoli oggetti non visti.
È un passaggio dirimente: fra la cosa e chi guarda, l'intero apparato tecnico interviene come grammatica preliminare.
Per Heidegger, nessuno sguardo ingenuo coglie una realtà che si offra nuda al controllo; la realtà che si dà all'osservazione viene già predisposta dai mezzi che la mettono a disposizione.
Foucault, nei corsi al Collège de France, aggiunge a questa descrizione un tratto che conviene tenere presente.
Le tecnologie di ottimizzazione sono progettate a partire da un presupposto circolare: l'oggetto che devono produrre è già iscritto nel loro disegno.
Chi progetta un dispositivo per ottimizzare la produttività stabilisce preventivamente cosa debba contare come produttività, e relega al rango di esterno, irrilevante o eliminabile tutto ciò che resta fuori da quella definizione.
Ogni tecnologia di ottimizzazione riproduce, in questo senso, il mondo di cui già si dispone.
L'intelligenza artificiale generativa, nelle sue applicazioni organizzative correnti, appartiene a questa famiglia senza residuo.
Con essa si ottimizza ciò che si sapeva voler ottimizzare, e l'efficacia raggiunta rende ancora più ardua la domanda ulteriore, la domanda su ciò che forse andrebbe voluto in altro modo.
Gilbert Simondon, nel 1958, aveva già offerto strumenti per pensare l'autonomia dell'oggetto tecnico.
Ogni dispositivo, sosteneva, ha una sua genesi, un processo di individuazione che sfugge alle intenzioni di chi lo progetta e di chi lo utilizza.
L'oggetto tecnico si concretizza progressivamente, integra i propri vincoli in un funzionamento sempre più coeso, e segue una logica propria, diversa da quella di chi se ne serve.
L'uomo, in questa prospettiva, sta in relazione con un processo di individuazione in corso, più che davanti a un utensile passivo.
Applicata all'intelligenza artificiale, l'osservazione produce una conseguenza inquietante: oltre ad adoperare uno strumento, stiamo abitando un ambiente tecnico che seleziona le forme stesse del pensiero disponibile.
Le categorie statistiche dei modelli linguistici diventano, progressivamente, le categorie a portata di chi li usa.
La medietà del linguaggio addestrato si propaga nella singolarità di chi formula, e lentamente la erode.
Bernard Stiegler, raccogliendo l'eredità di Simondon, ha nominato questo fenomeno con una parola antica: pharmakon.
Il termine, che Platone nel Fedro riferisce alla scrittura, significa insieme rimedio e veleno, e nelle due accezioni nomina la medesima sostanza senza possibilità di separarne i due effetti.
La tecnica, per Stiegler, è pharmakon per costituzione: dove si rende possibile un'esperienza umana, se ne perde, contemporaneamente, un'altra.
Ogni esteriorizzazione della memoria nel supporto tecnico è, insieme, un guadagno di durata e una cessione di interiorità.
L'intelligenza artificiale generativa, nella sua funzione amplificatrice, offre velocità di elaborazione e comporta, in cambio, la perdita di una quota di fatica formulativa.
La fatica formulativa è il luogo in cui il pensiero si distingue dalla sua riproduzione, e non va confusa con un costo da abbattere.
Sul piano della produttività misurabile, la sottrazione resta invisibile.
Sul piano della comprensione, è strutturale.
Tutto ciò ha un nome concreto nella vita delle organizzazioni: sapere latente.
È la conoscenza che un'organizzazione porta senza saperla, sedimentata in conversazioni, gesti, decisioni che nessuno ha codificato e che nessuna metrica tocca.
Fernando Flores, nel suo lavoro sui linguaggi d'impegno, aveva indicato il perimetro operativo di questo sapere: l'organizzazione consiste in una rete di promesse, di richieste e di declinazioni, e si paga un prezzo ogni volta che a una conversazione viene sostituita, nell'uso, una notifica automatica.
La logica si estende all'intelligenza artificiale generativa.
Quando alla fatica di una formulazione subentra la rapidità di una generazione, qualcosa si perde nel passaggio, e quel qualcosa ha la consistenza della comprensione reciproca.
La conclusione, per chi oggi lavora nelle organizzazioni, non si presenta come rifiuto dello strumento.
Gli strumenti sono entrati ormai nella costituzione del lavoro, e la questione del rifiuto risulta tardiva.
La conclusione ha una forma diversa, di ordine insieme pratico e filosofico.
L'intelligenza artificiale amplifica il sistema in cui viene inserita, ne esalta le categorie operative e ne perpetua le cecità strutturali.
Perché l'amplificazione produca valore, occorre dedicare alla critica delle categorie la medesima serietà che si dedica alla critica dei processi.
Il lavoro resta urgente benché poco visibile; la sua urgenza è esattamente quella di ciò che sfugge alle metriche con cui le stesse tecnologie ci propongono di valutarlo.
Un amplificatore cieco vede in fretta ciò che si è già deciso di vedere.
Un'organizzazione capace di pensare, anche con l'intelligenza artificiale, è quella che tiene aperta la domanda su ciò che ha deciso di non vedere.
Resta la domanda antica del sapere latente, che ritorna sotto una forma tecnica inedita.
Non possiamo delegarla alla macchina.
Per sua natura, la domanda scavalca lo strumento che dovrebbe risolverla.
Il presente saggio prosegue ed estende due riflessioni che ho pubblicato su questa rivista, e che il lettore interessato potrà consultare come sfondo argomentativo.
Quid est pretium impianta la tesi del valore come rumore di fondo nelle organizzazioni digitali, per analogia con la radiazione cosmica di Penzias e Wilson. Il presente saggio estende quella tesi al problema delle categorie tecniche di osservazione attivate dall'intelligenza artificiale.
Project Manager Hacker abbozza la figura di chi, nel mestiere, accetta di non poter dominare il sistema e sceglie di leggerlo, abitarlo, sfruttarne le dinamiche. Il presente saggio porta la medesima disposizione sul piano epistemologico, nel perimetro delle tecnologie di ottimizzazione.
Bibliografia commentata
Heidegger, Martin, Saggi e discorsi, a cura di Gianni Vattimo, Mursia, Milano, 1976. ISBN della ristampa corrente: 978-88-425-5507-0. Titolo originale Vorträge und Aufsätze, Verlag Günther Neske, Pfullingen, 1954. Il volume contiene La questione della tecnica, conferenza del 1953 in cui viene formulata la nozione di Gestell (in italiano resa come «impianto» da Vattimo).
Foucault, Michel, Nascita della biopolitica. Corso al Collège de France (1978-1979), traduzione di Mauro Bertani e Valeria Zini, edizione stabilita sotto la direzione di François Ewald e Alessandro Fontana da Michel Senellart, Feltrinelli, Milano, 2005. Prima edizione nella collana Campi del sapere, ISBN 978-88-07-10389-6; edizione economica successiva nella Universale economica Saggi, ISBN 978-88-07-88654-6. Il corso contiene l'elaborazione foucaultiana sulle tecnologie di ottimizzazione liberali e sulla loro struttura circolare, ripresa nel paragrafo quarto del presente saggio.
Simondon, Gilbert, Del modo di esistenza degli oggetti tecnici, nuova edizione rivista e corretta a cura di Antonio Stefano Caridi, Orthotes, Napoli-Salerno, 2020, ISBN 978-88-9314-292-2. Titolo originale Du mode d'existence des objets techniques, Aubier, Paris, 1958; edizione francese ampliata 1989. Fonte per i temi dell'individuazione dell'oggetto tecnico e della concretizzazione.
Stiegler, Bernard, La colpa di Epimeteo, prefazione di Paolo Vignola, Luiss University Press, Roma, 2023, ISBN 978-88-6105-862-0. Primo volume del ciclo La tecnica e il tempo, titolo originale La technique et le temps. 1. La faute d'Épiméthée, Galilée, Paris, 1994. Fonte per la nozione di pharmakon applicata alla tecnica.
Winograd, Terry; Flores, Fernando, Calcolatori e conoscenza. Un nuovo approccio alla progettazione delle tecnologie dell'informazione, traduzione di Fabrizio Butera e Sonya Ballance, Edizioni Scientifiche e Tecniche Mondadori, Milano, 1987, ISBN 978-88-04-30493-7. Titolo originale Understanding Computers and Cognition. A New Foundation for Design, Ablex Publishing, Norwood (New Jersey), 1986. Fonte per la nozione di linguaggi d'impegno e per il carattere conversazionale dell'organizzazione.