Charlin costruisce la sua intera architettura su una dicotomia netta: la Morale come «insieme di regole, costumi e tabù», un «algoritmo sociale» del tipo «se X, fai Y»; l’Etica come «il disagio della decisione di fronte all’abisso», ciò che accade quando le regole tacciono o confliggono. È una distinzione suggestiva e ha il pregio di mobilitare un’intuizione vera (esiste una differenza fenomenologica tra l’applicare una norma e il decidere in sua assenza); ma è anche, va detto senza eufemismi, una distinzione idiosincratica che l’autore presenta come se fosse il patrimonio condiviso della tradizione filosofica («i fondamenti che abbiamo dimenticato»), quando non lo è affatto.

Il problema sta già nell’etimologia, che Charlin usa come argomento e non come semplice ornamento. Egli oppone il moralis latino all’ethos greco quasi fossero due concetti antitetici; senonché moralis è il calco che Cicerone conia precisamente per tradurre l’êthikós aristotelico (lo dice esplicitamente nel De Fato). I due termini nascono come sinonimi, non come opposti: l’uno è la versione latina dell’altro. Fondare una distinzione concettuale forte su una presunta divergenza etimologica che storicamente è invece una coincidenza significa edificare sulla sabbia. Che poi la filosofia successiva (Hegel in primis, con la Moralität contrapposta alla Sittlichkeit e in modi diversi Ricoeur o Habermas) abbia caricato i due termini di sensi tecnici divergenti è verissimo; ma quelle distinzioni sono altra cosa e nessuna coincide con quella di Charlin.

La distinzione di Charlin definisce l’Etica come ciò che eccede la regola: l’esitazione, l’angoscia, il rischio. Ma questa è una scelta di campo precisa, quella di una certa tradizione novecentesca (l’esistenzialismo, certo Kierkegaard, certo Lévinas) che identifica l’eticità con il momento della decisione tragica. Spacciarla per la definizione di etica significa cancellare con un tratto di penna tutta la tradizione che concepisce invece l’etica come scienza pratica ordinata, come ricerca razionale del bene, come carattere abituale. E qui veniamo al paradosso più grave dell’articolo, perché è proprio Aristotele, da lui evocato come testimone d’accusa, a smentirlo.

Charlin arruola la phronesis per sostenere che la macchina, operando «per statistica (pattern ripetuti)», sarebbe «per definizione incapace» di saggezza pratica, perché questa opererebbe «nella singolarità (il caso unico)». Per valutare l’argomento occorre anzitutto collocare correttamente la phronesis nella tassonomia aristotelica delle virtù e qui la precisione è dirimente.

La phronesis è per Aristotele una virtù dianoetica, cioè una virtù della parte razionale dell’anima (il logon echon), non una virtù etica del carattere. La distinzione è netta in Etica Nicomachea I e VI: le virtù etiche (coraggio, temperanza, giustizia) si acquisiscono per abitudine e ineriscono alla parte desiderante che obbedisce alla ragione; le virtù dianoetiche, fra cui la phronesis accanto a sophia, epistème, nous e téchne, attengono al pensiero e crescono soprattutto mediante l’insegnamento e l’esercizio razionale. Tenere ferma questa frontiera è essenziale, perché è proprio su di essa che l’argomento di Charlin si infrange.

Resta vero, e Aristotele lo afferma esplicitamente, il legame peculiare che la phronesis intrattiene con l’esperienza. È in Etica Nicomachea VI che egli osserva come i giovani possano diventare matematici (virtù dianoetica che non richiede esperienza del mondo) ma non phronimoi, perché la prudenza ha per oggetto anche i particolari, che si conoscono solo attraverso il tempo. La phronesis è dunque sì una virtù del pensiero, ma di un pensiero rivolto al contingente e all’agibile (i tà praktá), e in questo si distingue dalla sophia, che verte sull’universale e sul necessario. L’esperienza, peraltro, non costituisce la phronesis come l’abitudine costituisce le virtù etiche; ne è piuttosto la condizione necessaria, il terreno senza il quale l’intelligenza pratica non può esercitarsi sul caso singolo.

Posta così la questione, l’argomento di Charlin si rivela speculare a un fraintendimento diffuso, ma a lui non è concessa l’attenuante della svista, perché è proprio sulla phronesis che costruisce la sua tesi. Egli la tratta come se fosse pura intuizione del singolo, un lampo che coglie l’irripetibile senza mediazione concettuale; su questa base la oppone alla statistica. Ma se la phronesis è una virtù dianoetica, allora è per natura una forma di ragionamento, non di intuizione antirazionale. È la retta ragione applicata all’azione (l’orthòs logos), il sillogismo pratico che dall’universale del fine discende al particolare dell’atto. Il fronimo non sente semplicemente cosa fare: delibera, soppesa, conclude. E proprio perché la phronesis abita la parte razionale dell’anima, l’opposizione che Charlin istituisce fra «singolarità» ed elaborazione, fra il caso unico e il calcolo, perde il suo fondamento aristotelico. Aristotele non oppone affatto la saggezza pratica al ragionamento; vi colloca dentro un ragionamento di tipo particolare, ordinato al contingente.

Resta vero, e questo è il nucleo che Charlin avrebbe potuto difendere se avesse maneggiato meglio le categorie, che la phronesis presuppone l’esperienza del mondo e la rettitudine del desiderio: il fronimo deve avere il fine giusto e il fine giusto gli viene dalla virtù etica, non dal solo intelletto. Aristotele lega indissolubilmente phronesis e virtù morale: non si dà l’una senza l’altra. Ed è qui, semmai, che un argomento serio contro l’idea di un’IA dotata di saggezza pratica potrebbe radicarsi: non nella banale incapacità di trattare il caso singolo (che un sistema, statisticamente, tratta eccome), bensì nel fatto che la phronesis aristotelica richiede un soggetto che abbia desideri, che persegua un télos avvertito come proprio bene e la cui ragione deliberante sia in rapporto con un’orexis, un appetito razionale. È la connessione fra deliberazione e desiderio orientato al bene, non la presunta refrattarietà del calcolo al particolare, il vero scoglio. Charlin ha puntato l’argomento dove l’avversario è più forte (il trattamento dei casi) anziché dove sarebbe più debole (l’assenza di un desiderio proprio e di un fine vissuto come bene).

Resta infine intatta, e va ribadita, l’obiezione di metodo: il «per definizione» con cui Charlin chiude la questione fa un lavoro che nessuna definizione può fare. Stabilire che una macchina statistica sia incapace di phronesis non discende da una definizione, ma richiederebbe di mostrare che la deliberazione pratica orientata da un desiderio proprio del bene sia in linea di principio preclusa a un sistema artificiale: tesi metafisica robusta, che l’articolo asserisce senza argomentare.

Il passaggio kantiano contiene l’affermazione più vulnerabile dell’intero pezzo: «Senza la libertà di fare il male, non esiste merito nel fare il bene». Detta così è semplicemente non kantiana. Per Kant il valore morale di un’azione non dipende dalla capacità di compiere il male, bensì dall’agire per dovere, per rispetto della legge morale che la ragione dà a sé stessa.

Conviene precisare il punto, perché è sottile. In Kant la santità della volontà, cioè una volontà perfettamente conforme alla legge morale, che non possa neppure essere tentata dal male, non è affatto una squalifica morale: è l’ideale supremo, l’archetipo verso cui la volontà finita tende all’infinito senza mai raggiungerlo. La volontà santa è superiore, non inferiore, alla volontà umana che agisce per dovere lottando contro le inclinazioni. Se valesse il principio di Charlin, dovremmo concludere l’assurdo che l’ideale morale kantiano è un essere privo di valore morale, perché incapace di peccare. L’idea che occorra poter peccare per avere merito è semmai un argomento teologico (la teodicea del libero arbitrio, da Agostino in poi, ripresa nelle dispute sulla grazia), che Charlin attribuisce indebitamente a Kant.

Va riconosciuto, per equità, che un nucleo difendibile esiste, ma è un nucleo diverso da quello che Charlin formula. Per Kant l’agente morale deve essere autonomo, deve cioè darsi la legge da sé attraverso la propria ragione e un sistema che esegue direttive ricevute dall’esterno è per definizione eteronomo. Qui, e solo qui, l’argomento contro l’agentività morale della macchina ha presa: non perché alla macchina manchi la libertà di fare il male, ma perché le manca l’autonomia, ossia la capacità di essere legislatrice di sé nel regno dei fini anziché mera esecutrice di una legge altrui. Si noti, peraltro, che questo argomento kantiano sull’autonomia converge esattamente con quello aristotelico sul desiderio proprio del bene: in entrambi i casi ciò che manca alla macchina non è la capacità di trattare il particolare, ma la titolarità di un fine vissuto come proprio. Charlin aveva fra le mani questa linea robusta e ha scelto, in entrambi i casi, la formulazione più debole e più facilmente confutabile.

Vale la pena soffermarsi su Hegel, perché il suo caso è il più istruttivo e rovescia di netto l’impianto di Charlin. Nella Filosofia del diritto Hegel distingue la Moralität (la moralità soggettiva, il foro interiore della coscienza che vuole il bene a partire da sé) dalla Sittlichkeit (l’eticità, ossia il bene divenuto sostanza concreta nelle istituzioni: la famiglia, la società civile, lo Stato). Il punto decisivo è che, per Hegel, il momento più alto e sostanziale non è la Moralität soggettiva, bensì la Sittlichkeit: la moralità della pura coscienza, lasciata a sé, resta astratta, formale, perennemente esposta al rischio dell’ipocrisia e dell’arbitrio (la critica hegeliana all’imperativo kantiano come «formalismo vuoto» nasce qui). Solo nel costume condiviso, nelle istituzioni oggettive, il bene acquista corpo e verità.

Si vede allora quanto sia precario l’uso che Charlin fa di questa coppia. Egli identifica la «Morale» con la regola, il costume, il tabù sociale (cioè, in termini hegeliani, proprio con la Sittlichkeit) e vi oppone l’«Etica» come decisione solitaria del soggetto di fronte all’abisso (cioè, in termini hegeliani, qualcosa di affine alla Moralität). Ma colloca il valore esattamente dove Hegel colloca il limite e il limite dove Hegel colloca il valore. Per Hegel la decisione del singolo che pretende di fondare l’eticità su di sé, prescindendo dalla sostanza condivisa, è precisamente la figura dell’astrazione, non quella della pienezza etica. Charlin, insomma, non solo usa una distinzione idiosincratica, ma quando essa pare riecheggiare un illustre precedente filosofico, lo riecheggia capovolgendone il senso. Questo non rende la sua tesi falsa per ciò solo, ma le toglie il puntello di autorità che essa cerca implicitamente.

L’autore non distingue mai con chiarezza fra due tesi molto diverse fra loro: la tesi (a) «le macchine attuali non sono agenti etici» e la tesi (b) «nessuna macchina possibile potrà mai esserlo per ragioni di principio». La prima è difendibile e quasi ovvia; la seconda è una pretesa metafisica robusta, che richiederebbe ben altra argomentazione. Charlin oscilla continuamente fra le due, traendo la conclusione forte (b) da premesse che reggono al più la conclusione debole (a). Quando scrive «una macchina statistica è, per definizione, incapace di phronesis», quel «per definizione» fa tutto il lavoro sporco: è una stipulazione mascherata da dimostrazione.

Il titolo stesso, «Perché l’IA Etica è una Menzogna Matematica», compie un’operazione che vale la pena smascherare (ammesso e non concesso che il titolo sia stato scelto dall’autore dell’articolo). La parola «matematica» non aggiunge nulla all’argomento, che è interamente filosofico e non contiene una sola proposizione matematica; serve a conferire un’aura di necessità apodittica a una tesi che è invece tutta da discutere. È lo stesso meccanismo del «per definizione» di cui sopra. Un lettore esigente dovrebbe diffidare proprio dei punti in cui l’autore invoca la necessità logica o matematica per chiudere anticipatamente una questione che resta aperta.

Detto tutto questo, sarebbe ingeneroso liquidare il pezzo. La sua tesi più solida non è quella ontologica (sulla natura della macchina), che, come ho mostrato, è argomentata male, bensì quella che chiamerei politico-antropologica: il pericolo non sta nella macchina, ma nell’umano che «esternalizza la sua Etica alla Morale della Macchina». Qui Charlin tocca qualcosa di vero e di urgente e l’evocazione di Arendt e della banalità del male è pertinente. Il rischio reale dei sistemi decisionali automatizzati non è che essi siano malvagi, ma che producano una deresponsabilizzazione diffusa, una catena in cui nessuno decide davvero perché tutti si limitano a ratificare un output. Questa è una preoccupazione legittima e ben posta.

Trovo però istruttivo notare che questa tesi forte non ha bisogno dell’apparato metafisico che la precede. Per sostenere che è pericoloso delegare le decisioni a sistemi opachi non serve affatto dimostrare che la macchina sia ontologicamente incapace di etica; basta osservare che, di fatto, queste decisioni hanno conseguenze sugli esseri umani e che la responsabilità deve restare tracciabile e imputabile a qualcuno. Charlin avrebbe potuto scrivere un articolo più breve e più cogente rinunciando all’armamentario ontologico (la «Menzogna Matematica», l’«Elica Biologica», gli «Architetti Sovrani»: un lessico più enfatico che rigoroso) e concentrandosi sull’argomento istituzionale.

Insomma, l’articolo ha un cuore sano (la difesa della responsabilità umana contro la deresponsabilizzazione algoritmica) avvolto in una corazza filosofica fragile, che usa i grandi nomi come blasoni più che come interlocutori. La distinzione Morale/Etica su cui tutto si regge è personale dell’autore, non della tradizione, e il tentativo di fondarla sull’etimologia si ritorce contro di lui non appena si ricordi che moralis nacque proprio come traduzione di êthikós. Quando poi essa pare riecheggiare Hegel, lo fa capovolgendone il senso. Quanto agli argomenti contro l’agentività etica della macchina, i più solidi (l’assenza di un desiderio proprio del bene in Aristotele, l’assenza di autonomia in Kant) sono proprio quelli che Charlin trascura in favore di formulazioni più vistose ma più fragili. È un manifesto che persuade più per il timbro che per la tenuta e che guadagnerebbe a essere riscritto con minore enfasi ontologica e maggiore precisione concettuale.