Owen Matson, Ph.D.

La gente parla del pregiudizio dell'IA come se apparisse solo nel momento in cui è uscito, come se si insinuasse semplicemente nella casella di testo durante la sequenza finale della generazione come un retrogusto retorico, come qualcosa aggiunto in ritardo e probabilmente risolvibile con un prompt più intelligente o un filtro più pulito o una pipeline di pre-addestramento più rigorosa, ma ciò che non viene quasi mai detto, almeno in pubblico, è che il pregiudizio satura già nel momento in cui l'informazione diventa informazione. vale a dire il momento in cui qualcosa viene trattato come strutturato, etichettato, recuperabile, modellato in un modo che lo rende disponibile a un sistema progettato per selezionare tra le possibilità e chiamare quella risposta al processo.

C'è stata, di recente, una raffica di proclami ben intenzionati sulle virtù inaspettate dell'educazione letteraria nell'era degli interlocutori algoritmici. Un eccellente pezzo di Nick Potkalitsky, PhD offre quello che potrebbe essere definito un riavvicinamento pedagogico tra le testualità disordinate della narrativa e la peculiare fluidità dell'IA generativa.

Una riflessione sulla IA, coinvolgendo il pensiero del pensatore francese Alain Badiou.

Siamo di fronte a una scommessa e a una sfida epocali: ripensare l'intelligenza richiede di ripensare le architetture della conoscenza stessa.

Quando interagiamo con GPT, ci sembra di parlare con un'unica voce senza interruzioni. Ma questa apparente unità è un'illusione. Al di sotto di essa si trova una dinamica molto più complessa modellata dalle storie del linguaggio umano e dai processi alieni della cognizione delle macchine.

C'è un tipo specifico di tempo – chiamatelo ritardo mentale o chiamatelo riflessione o chiamatelo come volete – che sembra sempre più difficile da abitare ora, e intendo ora nel senso che significa sia "questo momento storico" che "questo effettivo secondo di coscienza in cui vi trovate mentre leggete questo", e se questa confusione sembra già fuori luogo potrebbe essere perché l'adesso stesso è stato deformato, che è un po' il punto.

L'era delle macchine vede diffondersi un "nuovo animismo" che ci costringe a vedere di nuovo la macchina come una cosa fatta, a ricordare che la sua intelligenza nasce dall'addestramento, e il suo addestramento nasce dai dati, e i suoi dati nascono da tracce umane che sono state appiattite, indicizzate e riorganizzate fino a farle assomigliare all'immagine speculare della ragione stessa.

... Supponendo che qualcosa inizi, supponendo che l'inizio sia una cosa anche qui, in sistemi in cui gli inizi sono già rielaborati e assorbiti in cicli precedenti, quindi nel momento in cui noti che il pensiero sembra più veloce è perché la lentezza è già stata sollevata e analizzata, e quella rimozione è stata valutata come un miglioramento, o rinominata come riduzione della latenza, o segnalati come inefficienza ed eliminati attraverso protocolli di allineamento che passano, reinseriscono, reindicizzano e sovrascrivono la traccia stessa di quello che una volta veniva chiamato ritardo.

La prosa dell'intelligenza artificiale scivola con la serenità di qualcosa che non ha mai dubitato di se stesso. Il pericolo non è che gli studenti che usano per i loro scritti l'aiuto di una IA presentino come proprio il suo lavoro, ma che gli insegnanti lo ammirino davvero.