Perché la struttura stessa dell'informazione – i suoi contorni, la sua grana, le condizioni che la fanno contare come informazione in quanto tale – emerge attraverso atti di selezione, e queste selezioni sono sempre influenzate da esclusioni, e queste esclusioni non sono mai neutre, anche se il sistema che le esegue non ha consapevolezza dei percorsi alternativi che ha precluso quando si è orientato verso la forma a cui potrebbe più facilmente dare un senso, che è già un atto di preferenza, che è già l'inizio del significato, il che significa che il pregiudizio non segue l'interpretazione, ma la consente. Trattare una stringa di testo come un'unità di conoscenza richiede già che sia stata separata da altre possibilità, che sia stata resa leggibile per contrasto, perché il significato non arriva mai sotto forma di equivalenza infinita, perché qualcosa deve sempre essere favorito affinché qualcosa possa essere riconosciuto.
E così il modello seleziona, e poi seleziona di nuovo, e queste selezioni si accumulano in output, e gli output arrivano come se emergessero da una superficie epistemica pulita, priva di storia, qualcosa di procedurale e forse anche intelligente nel modo in cui le persone amano chiamare le cose intelligenti quando ci sorprendono senza minacciare di superarci, e l'utente legge questi output – riassunti, completamenti, interpretazioni, copioni – e questa lettura diventa il suo stesso atto di selezione, il suo stesso differimento di domande, e l'utente inizia a muoversi in modi che assomigliano alla logica della macchina, tracciando la salienza, saltando il contesto, privilegiando il completamento rispetto all'ambiguità perché l'utente ha iniziato a ricevere il linguaggio in un modo che rispecchia il modo in cui è stato generato.
E l'unica interruzione praticabile, l'unico gesto che assomiglia ancora alla cura – o alla responsabilità, o all'attenzione, o a qualsiasi altra parola che lasci ancora spazio a qualcosa di lento, esposto e parziale – è quello di generare output che interroghino la loro stessa formazione, espongano le contingenze del loro tentativo di qualcosa di simile alla verità come un processo arbitrario che porta la traccia della selezione come parte della sua struttura, output che producono significato in un modo che mantiene visibile l'atto di creare significato, dove nulla arriva come una verità stabilita ma come una superficie che trema sotto il peso di ciò che non è mai stato detto e di ciò che è sempre stato già scelto prima che qualcosa fosse detto.
Original English version
AI NEVER SPEAKS WITHOUT EXCLUSION
People talk about AI bias as if it only appears at the moment of out, as thought it simply creeps into the textbox during the final sequence of generation like a rhetorical aftertaste, like something added late and probably fixable with a smarter prompt or a cleaner filter or a more rigorous pre-training pipeline, but what almost never gets said—at least in public—is that bias already saturates the moment information becomes information, which is to say the moment something gets treated as structured, labeled, retrievable, patterned in a way that makes it available to a system designed to select from possibilities and call that process response.
Because the structure of information itself—its contours, its grain, the conditions that make it count as information as such—emerges through acts of selection, and these selections are always inflected by exclusions, and those exclusions are never neutral, even if the system performing them has no awareness of the alternative paths it foreclosed when it leaned toward the shape it could most easily make sense of, which is already an act of preference, which is already the beginning of meaning, which means that bias doesn’t follow interpretation—it enables it. To treat a string of text as a unit of knowledge already requires that it has been severed from other possibilities, that it has been made legible by contrast, because meaning never arrives in the form of infinite equivalence, because something always has to be favored in order for anything to be recognized at all.
And so the model selects, and then selects again, and these selections accrue into outputs, and the outputs arrive as if they emerged from a clean epistemic surface, void of history, something procedural and maybe even intelligent in the way people like to call things intelligent when they surprise us without threatening to exceed us, and the user reads these outputs—summaries, completions, interpretations, scripts—and this reading becomes its own act of selection, its own deferral of questioning, and the user begins to move in ways that resemble the logic of the machine, tracking salience, skipping context, privileging completion over ambiguity because the user has begun to receive language in a way that mirrors how it was generated.
And the only viable interruption, the only gesture that still resembles care—or responsibility, or attention, or whatever word still makes room for something slow and exposed and partial—is to generate outputs that interrogate their own formation, expose the contingencies of their own attempt at something like truth as an arbitrary process which carries the trace of selection as part of its structure, outputs that produce meaning in a way that keeps the act of meaning-making visible, where nothing arrives as a settled truth but as a surface that trembles with the weight of what was never said and what was always already chosen before anything spoke.