Premessa
Nel 2024 Yunhao Zhang e Renée Gosline, ricercatori del MIT Sloan, hanno pubblicato lo studio «Human Favoritism, Not AI Aversion» (Zhang e Gosline 2024). I due ricercatori partono da un'osservazione: si discute molto dell'avversione delle persone verso l'AI, poco del modo in cui giudicano il lavoro che l'AI produce. Per verificarlo hanno costruito due compiti: la scrittura di testi pubblicitari per cinque prodotti di vendita al dettaglio e la stesura di contenuti persuasivi per cinque campagne di interesse generale, come ridurre il consumo di cibo spazzatura. Ogni testo era prodotto in uno di quattro modi: solo da esperti umani, da un'AI che genera idee poi rifinite da umani, da umani poi rifiniti dall'AI, oppure solo dall'AI.
I valutatori sono stati divisi in tre gruppi. Il primo non sapeva come fossero stati prodotti i testi. Il secondo conosceva i quattro metodi, ma non sapeva quale fosse stato usato per ciascun testo. Il terzo sapeva esattamente quale metodo era stato usato per ogni testo.
Nel primo gruppo i valutatori hanno preferito i contenuti generati dall'AI. Non hanno, dunque, mostrato un'avversione per l'AI in quanto tale. Quando, però, hanno saputo quale testo includeva un apporto umano, il giudizio su quei testi è salito. Gli autori lo chiamano favoritismo umano. Il giudizio sui testi generati solo dall'AI è rimasto stabile.
Un lavoro successivo di Tiffany Zhu, Iain Weissburg, Kexun Zhang e William Yang Wang, pubblicato inFindings of ACL 2025, ha osservato uno schema simile in compiti di riformulazione, sintesi e scrittura persuasiva, scambiando deliberatamente le etichette (Zhu et al. 2025). Lo studio di Zhang e Gosline riguarda testi di marketing e di persuasione, non biglietti d'auguri, ma il meccanismo che descrive non dipende dal genere del testo.
Del pensiero che non trova le parole
Spesso abbiamo più pensieri che parole. Il pensiero c'è, è nostro, e manca solo la forma che lo renda comunicabile. Per un poeta la parola pesa più del pensiero che esprime. Per un filosofo il pensiero viene prima della parola, che ne è il veicolo. Parlo da filosofo, quindi parto da una domanda precisa: se la parola mi viene suggerita da una macchina, a chi appartiene il pensiero che quella parola esprime?
Immaginiamo un amico che, mentre cerco una frase, mi suggerisce quella giusta. Nessuno direbbe che il pensiero è suo, se si è limitato a offrire il termine che mi mancava. Il caso cambia se mi propone un'idea, e io la verifico, la piego, la porto dove non era andata? Anche se il materiale viene da fuori, la paternità passa per l'elaborazione? Chi elabora non risponde, forse, di ciò che elabora?
Di ciò che la macchina non pensa
E ancora. La macchina non ha pensieri in senso proprio. Assembla forme linguistiche, e siamo noi a dare un senso a quell'assemblaggio. Resta però il dubbio: se un'idea prodotta dalla macchina mi sembra intelligente, profonda, sensata, e decido di farla mia, il pensiero è mio o suo? La risposta dipende da un fatto che la macchina non può garantire, cioè che qualcuno l'abbia sottoposta a giudizio. Il pensiero è di chi ‘pensa’ e ‘giudica’, ma lamacchina non ‘pensa’.
Del bias e dell'etichetta
Il dato che mi sembra interessante dello studio di Zhang e Gosline riguarda la sequenza. La qualità del testo resta la stessa, cambia solo il segnale sulla fonte, e con esso cambia il giudizio. Il valutatore sa già, o crede di sapere, da dove viene un testo, e quel sapere orienta la lettura prima che la lettura cominci. Se il giudizio è sovradeterminato dalla fonte, la fonte pesa più del contenuto. Preferiamo il segnale «fatto da un umano», anche quando la qualità non è cambiata (Zhang e Gosline 2024; Zhu et al. 2025).
Immaginiamo, ancora una volta, di ricevere un biglietto d'auguri da un amico, con un pensiero affettuoso. Scopriamo poi che il testo è stato scritto da un'AI. Le parole potrebbero essere identiche a quelle che l'amico avrebbe scritto. Eppure, il biglietto cambia valore. Ciò che ci mancherebbe è il tempo e l'attenzione di chi lo ha scelto per noi, cioè la prova che qualcuno ha pensato a noi in quel momento. Il contenuto potrebbe restare identico. Non basta che l'amico lo firmi, perché la firma attesta una responsabilità, non un'elaborazione. Il biglietto attesta un gesto. Se il pensiero dietro quel gesto sia stato elaborato, il biglietto non lo dice.
Del watermark
E arriviamo al discusso watermark. Il watermark sul testo, cioè il marchio che dichiara l'origine macchinica di uno scritto, potrebbe essere una soluzione dagli esiti paradossali. Il suo scopo è rendere riconoscibile il testo prodotto da un'AI. Ma il marchio diventa a sua volta un'etichetta, e l'etichetta alimenta proprio il bias descritto dagli studi citati. Chi legge saprà che il testo è AI e lo valuterà di conseguenza, anche quando il testo è buono. Chi vuole far passare un testo per umano eliminerà il marchio. Il risultato potrebbe essere che si penalizza chi dichiara e si favorisce chi nasconde. Il problema che il watermark vorrebbe risolvere, cioè la distinzione tra scritti umani e macchinici, viene spostato dalla qualità del pensiero alla tracciabilità del file.
La conseguenza non voluta potrebbe essere quella di creare un sistema che, premiando l'occultamento, produce testi meno trasparenti, non più affidabili.
Domande
Insomma, il marchio dell'origine garantisce la qualità, o la qualità non dipende dall'origine? Un pensiero appartiene a chi lo sottopone a verifica e ne risponde? Se la verifica può essere svolta con l'aiuto di strumenti, anche di un'AI, la responsabilità resta di chi firma? Chi firma un testo dichiara, perciò, di averlo verificato, di conoscerne i limiti, e di poterne, in ultima istanza rispondere?
Solo domande. Abbozzo, però, una risposta provocatoria.
Se il pensiero è nostro, lo è per il lavoro che vi abbiamo fatto sopra, e l'origine delle parole conta meno. Il riconoscimento del contributo, che sia umano o macchinico, serve a rendere pubblico questo lavoro. Il resto è credito, e il ‘credito’, da solo, non fa un pensiero.
Riferimenti
Zhang, Yunhao, e Renée Gosline. 2024. «Human Favoritism, Not AI Aversion». MIT Sloan, working paper. Presentazione divulgativa: Ideas Made to Matter, MIT Sloan, «Study gauges how people perceive AI-created content».
Zhu, Tiffany, Iain Weissburg, Kexun Zhang e William Yang Wang. 2025. «Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated». Findings of the Association for Computational Linguistics: ACL 2025. Preprint: arXiv:2410.03723.