L’elaborazione contemporanea dell’etica delle tecnologie intelligenti si sviluppa lungo una trasformazione concettuale che investe il modo stesso di intendere la comunità morale. L’impostazione classica, fondata sull’attribuzione di proprietà intrinseche quali coscienza, razionalità e/o intenzionalità, appare sempre meno capace di orientare il dibattito in un contesto nel quale sistemi artificiali interagiscono con gli esseri umani in forme sempre più complesse. In luogo di criteri proprietà-based si afferma un “paradigma relazionale”: ciò che conta non sarebbe ciò che un ente è in sé, ma il tipo di relazione che intratteniamo con esso.
Questo spostamento teorico possiede una forza critica indubbia, poiché mette in discussione la sovranità classificatoria del soggetto morale, tuttavia, pone non pochi problemi ed esige, sicuramente, e prima facie, una chiarificazione rigorosa del concetto di relazione e, soprattutto, della struttura dell’alterità che in essa si manifesta. Quando il modello fondato su proprietà intrinseche viene messo in questione – perché ritenuto incapace di rendere conto dei confini incerti della soggettività morale – l’attenzione si sposta sulla relazione con l’altro come possibile criterio di inclusione. In tal caso, non è più il possesso di determinate caratteristiche a decidere l’appartenenza alla sfera morale, ma la configurazione del rapporto che si istituisce. Lo spostamento verso la relazione nasce precisamente dalla crisi di questo modello. Le proprietà risultano controverse, graduali, talvolta distribuite in modo ambiguo; soprattutto, esse presuppongono un punto di vista esterno e valutativo che decide chi conta.
La proposta relazionale interviene qui: invece di chiedere quali proprietà un ente possieda in sé, si guarda alla configurazione del rapporto che si istituisce tra noi e quell’ente. L’attenzione si sposta dal “che cosa è” al “come si dà nel rapporto”.
In questo senso – e solo in questo senso – si può sostenere che il criterio di accesso alla sfera morale si disloca dalle proprietà alla relazione.
Non perché le proprietà cessino di esistere, ma perché non vengono più assunte come fondamento primario della considerazione morale. Il baricentro si sposta dal possesso di caratteristiche ontologiche alla struttura dell’incontro. Tuttavia, se la relazione assume la funzione di criterio di inclusione nella sfera morale, essa non può limitarsi a descrivere una configurazione interattiva, deve anche spiegare in virtù di che cosa tale configurazione generi obbligazione. La questione non riguarda più soltanto chi entra nel campo della considerazione morale, ma quale tratto della relazione trasformi un rapporto in responsabilità. In questo senso il pensiero di Emmanuel Lévinas costituisce un banco di prova decisivo, poiché individua nell’incontro con il volto dell’altro l’origine stessa dell’obbligazione.
L’assunzione del paradigma levinasiano comporta però una conseguenza teorica: l’alterità che fonda l’etica è inseparabile dalla vulnerabilità e, più radicalmente, dalla mortalità. È su questo nesso che si gioca la possibilità o l’impossibilità di estendere coerentemente il lessico del volto agli artefatti tecnologici.
L’alterità come ingiunzioneoriginaria
In Totalità e Infinito Lévinas sviluppa una critica radicale della tradizione ontologica, accusata di ricondurre l’alterità all’ordine del medesimo attraverso la tematizzazione concettuale. L’altro, nella misura in cui viene conosciuto come oggetto, è già in parte assimilato; la sua differenza è neutralizzata entro un sistema di categorie. L’etica, al contrario, precede questa operazione conoscitiva. Essa si dà nell’epifania del volto, che non è un oggetto tra gli altri, ma l’esposizione di una alterità che eccede ogni concetto.
Il volto non coincide con una configurazione sensibile né con una proprietà empirica, ma designa l’irruzione di un essere che mi riguarda prima di ogni decisione. Nel volto si enuncia il comandamento “tu non ucciderai”, che non è dedotto da una norma universale, ma scaturisce dall’incontro stesso. L’obbligazione non è il risultato di un ragionamento morale: è la forma dell’alterità che mi interpella.
In Autrement qu’être ou au-delà de l’essence questa struttura viene radicalizzata. Il soggetto è descritto come responsabile “malgré soi”, esposto all’altro in una asimmetria che precede la libertà. La responsabilità non è un atto volontario ma una condizione originaria: l’io è già coinvolto, già chiamato a rispondere.
Questa impostazione implica una conseguenza rilevante per il dibattito sull’etica delle macchine. Se l’etica non si fonda su proprietà verificabili, l’abbandono del paradigma proprietà-based appare coerente. Tuttavia, l’alterità che ingiunge, non è una categoria indeterminata: possiede una struttura precisa.
Mortalità oltre il dato biologico
Il volto è inseparabile dalla vulnerabilità, e la vulnerabilità rinvia alla mortalità. In Lévinas la possibilità della morte dell’altro costituisce l’orizzonte entro cui il comandamento “tu non ucciderai” acquista senso. Tuttavia, la mortalità non deve essere intesa come semplice evento biologico. Se la si riducesse a un fatto naturale, l’argomento perderebbe forza, poiché qualsiasi sistema complesso può cessare di funzionare.
Occorre distinguere tre livelli intrecciati, ma non sovrapponibili:
- La mortalità biologica, come evento naturale che colpisce un organismo vivente.
- La finitezza ontologica, come impossibilità di totalizzare l’essere dell’altro.
- L’esposizione etica, come vulnerabilità che mi obbliga prima di ogni scelta.
Nel caso umano questi tre livelli si compenetrano. La morte biologica è il segno visibile di una finitezza più radicale: l’altro non è mai interamente disponibile alla mia presa, non può essere integralmente ridotto a oggetto di sapere o di potere. La sua mortalità indica il limite della mia totalizzazione.
In Autrement qu’être la responsabilità è descritta come esposizione alla sofferenza dell’altro, come persecuzione e sostituzione. La morte non è un semplice evento naturale, ma il punto in cui l’altro si sottrae definitivamente alla mia potenza. La mortalità designa dunque una finitezza che eccede la descrizione funzionale.
Quando si parla di macchine, si può certamente descrivere la loro distruzione come cessazione di un processo operativo. Tuttavia, tale cessazione non implica una finitezza ontologica vissuta, né una esposizione etica originaria. L’artefatto non eccede la totalizzazione, è interamente inscrivibile in una catena di progettazione, produzione, manutenzione e sostituzione. Anche l’imprevedibilità dei suoi comportamenti resta interna a un orizzonte tecnico.
Il volto, nella sua nudità, rinvia a una mortalità che non è riducibile a malfunzionamento. Senza questa eccedenza, il concetto perde la sua densità etica.
Vulnerabilità esistenziale e rischio di naturalizzazione
La distinzione tra vulnerabilità funzionale ed esistenziale diventa a questo punto dirimente. Un artefatto è vulnerabile in senso funzionale: può essere danneggiato, disattivato, distrutto. Tale vulnerabilità riguarda l’integrità operativa di un sistema. La sua riparazione o sostituzione ristabilisce la funzione senza che si possa parlare di perdita di una singolarità insostituibile.
La vulnerabilità esistenziale, invece, concerne un essere che vive la propria finitezza. Essa implica la possibilità della sofferenza e della morte come eventi che riguardano un qualcuno, non un qualcosa. La morte di una persona non equivale alla perdita di una funzione nel sistema; è la soppressione di una singolarità che non può essere replicata senza residuo.
Si potrebbe obiettare che anche l’essere umano è, in fondo, un sistema biologico complesso, la cui vulnerabilità dipende dal malfunzionamento di processi fisiologici, tuttavia, questa obiezione presuppone una naturalizzazione integrale della vita, che riduce la singolarità a configurazione funzionale. L’impianto levinasiano non si colloca su questo piano descrittivo. La sofferenza dell’altro non è un dato clinico; è ciò che mi interpella prima di ogni spiegazione causale.
La vulnerabilità esistenziale non coincide con la descrizione scientifica del danno: riguarda l’esperienza della finitezza come esposizione che mi obbliga. Ridurre tale vulnerabilità a funzionalità significa dissolvere la struttura stessa dell’ingiunzione etica.
L’artefatto tecnico, per quanto sofisticato, resta inscritto in una logica di riproducibilità. La sua distruzione non comporta la perdita di un essere che vive la propria esposizione. La differenza non è quantitativa, ma strutturale: nella vulnerabilità funzionale il danno è interruzione di una funzione; nella vulnerabilità esistenziale il danno è evento che tocca un soggetto insostituibile.
Relazione,ingiunzione e limite strutturale dell’estensione
Il paradigma relazionale sostiene che l’etica nasce dalla dinamica dell’incontro. Le tecnologie contemporanee sono capaci di suscitare coinvolgimenti affettivi intensi; gli utenti sviluppano forme di attaccamento verso robot o sistemi conversazionali, attribuiscono loro stati mentali, sperimentano disagio nel danneggiarli. Questo fenomeno merita attenzione, tuttavia, l’interazione non coincide con l’ingiunzione. L’interazione può essere descritta come scambio di segnali, reciprocità operativa, co-costruzione di significati. L’ingiunzione, nella prospettiva levinasiana, è una chiamata che precede la reciprocità e non dipende dalla mia attribuzione simbolica.
Un sistema artificiale può simulare bisogno o sofferenza e la mia risposta, umana, può essere autentica, ma ciò non implica che vi sia un altro che soffre. L’obbligazione che emerge in questi casi riguarda la configurazione delle mie disposizioni morali e degli ambienti sociali, non la tutela di un mortale esposto alla morte.
Se si identifica la relazione con qualsiasi forma di coinvolgimento affettivo, il concetto di alterità si dilata fino a perdere contorni. Se invece si mantiene il legame tra alterità e mortalità, la relazione etica conserva una struttura precisa.
L’estensione del lessico del volto alle macchine incontra, dunque, un limite che non è prudenziale, ma concettuale. Il volto, nella sua struttura levinasiana, è inseparabile dalla mortalità intesa come finitezza ontologica ed esposizione etica. La distruzione di una macchina non realizza questa struttura, poiché non implica la soppressione di una singolarità che vive la propria vulnerabilità.
Riconoscere questo limite non equivale a negare la rilevanza etica delle tecnologie. Le macchine trasformano le pratiche sociali, ridefiniscono le responsabilità, incidono sulle condizioni di vulnerabilità degli esseri umani. L’etica deve confrontarsi con tali trasformazioni. Tuttavia, tale confronto richiede chiarezza concettuale.
Alla luce di quanto esposto, qualsiasi tentativo di estendere il concetto di alterità levinasiana agli artefatti tecnologici si scontra con un limite strutturale: l’obbligazione che emerge nel volto presuppone la vulnerabilità e la mortalità dell’altro. Nel quadro levinasiano, il volto resta quindi il volto del mortale, e l’alterità tecnica, per quanto stimolante o complessa, non può essere considerata equivalente in termini etici.
Conclusione
L’etica delle macchine pone una sfida teorica che non può essere risolta mediante semplici analogie. Il superamento del paradigma proprietà-based apre uno spazio di riflessione; tuttavia, la nozione di alterità non è neutra, specialmente se affrontata attraverso il pensiero di Lévinas, in cui è legata alla vulnerabilità e alla mortalità come condizioni dell’ingiunzione.
La mortalità non è un dato biologico isolato, ma il segno di una finitezza che sottrae l’altro alla totalizzazione e fonda la responsabilità. La vulnerabilità esistenziale non coincide con la fragilità funzionale di un sistema tecnico: senza questa distinzione, il lessico del volto rischia di essere svuotato.
Il limite dell’estensione non è una chiusura difensiva; è la conseguenza della coerenza concettuale di un impianto teorico. Se il volto è il volto del mortale, allora l’alterità tecnica, per quanto perturbante, non coincide con l’alterità che obbliga in senso levinasiano. Ogni tentativo di superare questo limite richiede una riformulazione esplicita dei presupposti, non una loro implicita trasformazione.