Il dettaglio e la cornice:

riflessioni sull’etica e l’intelligenza artificiale

di Matteo Galletti, Università degli Studi di Firenze

matteo.galletti@unifi.it

doi: 10.14672/VDS20243IP11

(http://doi.org/10.14672/VDS20243IP11)

Il dettaglio e la cornice: riflessioni sull’etica e l’intelligenza artificiale © 2024 by Matteo Galletti is licensed under CC BY-SA 4.0

Abstractus

Questo contributo non intende fornire una panoramica completa di tutte le domande etiche sollevate dall’intelligenza artificiale, né di quelle principali. Nemmeno contiene possibili risposte ad alcuni di questi interrogativi. L’intento è invece quello di offrire una possibile chiave di lettura che aiuti a formulare queste domande. Il punto di partenza è basato sulla distinzione tra questioni di “dettaglio” e questioni di “cornice” e sarà di queste ultime che si tratterà. In particolare, ci si interrogherà sul potenziale trasformativo delle abilità e delle relazioni di cura delle tecnologie intelligenti.

Keyword: intelligenza artificiale, etica, automazione, abilità, cura

This paper is not intended to provide a comprehensive overview of all the ethical questions raised by artificial intelligence, nor of the main ones. Nor does it contain possible answers to some of them. Instead, the intention is to offer a possible key to help formulate these questions. The starting point is based on the distinction between ‘detail’ and ‘frame’ issues, and it will be the latter that will be addressed. In particular, the transformative potential of the skills and care relationships of smart technologies will be investigated.

Keywords: artificial intelligence, ethics, automation, skills, care

La letteratura sull’etica dell’intelligenza artificiale è ormai divenuta copiosa ed è complesso districarsi tra numerosi contributi che variano per provenienza disciplinare e anche per obiettivi specifici. Per questo motivo in questo saggio non tenterò minimamente di fare una sintesi di tale complessità ma vorrei soltanto proporre alcune riflessioni utili per comporre un catalogo delle questioni tra le più urgenti che si pongono. Inoltre, parlerò in modo piuttosto indistinto di dispositivi intelligenti, oggetti intelligenti, robot intelligenti, sistemi automatici e non fornirò una definizione precisa di “intelligenza artificiale”. So bene che è un’operazione potenzialmente confondente e foriera di generalizzazioni e estensioni invalide. I limiti di spazio non mi consentono tuttavia di fare distinzioni più accurate, nella consapevolezza che esistono questioni etiche diversificate a seconda dell’oggetto di cui si parla e dell’impiego che se ne fa.

Vorrei partire introducendo la distinzione presente nel titolo di questo contributo tra “dettaglio” e “cornice”. Con “dettaglio” intendo le questioni e i problemi morali specifici che si pongono durante la progettazione, lo sviluppo e l’impiego di dispositivi, app, siti web che utilizzano varie forme di intelligenza artificiale. Le questioni di dettaglio includono anche questioni di principio, che non mettono in discussione le trasformazioni che, in un dato campo, investono le pratiche nel loro complesso, ma si pongono semplicemente come obiettivo quello di consentire di approntare strumenti più efficienti e più “sostenibili” anche da un punto di vista morale^[1]. Di questioni di dettaglio si occupa ad esempio il metodo di progettazione denominato “value sensitive design”, grazie a cui è possibile progettare dispositivi che sostengono e promuovono valori etici fondamentali. L’etica non interviene, quindi, a valle, quando l’applicazione tecnologica è già disponibile per valutarne l’impatto etico, né a monte, cioè prima che inizi la fase di progettazione, individuando principi etici che dovrebbero vincolare il processo creativo; essa accompagna tutta la fase di sviluppo per creare “oggetti” che sono già sensibili a valori.

Le questioni di “cornice”, invece, investono il contesto più ampio; si chiedono in che modo e in che misura le relazioni, le attività, gli scopi comuni vengono profondamente alterati dalle “innovazioni” apportate dall’intelligenza artificiale e se valori che consideriamo come patrimonio comune o che avvertiamo come vitali possono essere da esse intaccati. Inoltre, l’attenzione per la cornice ricorda che gli strumenti che si basano sull’intelligenza artificiale si collocano all’interno di reti, pratiche e relazioni che preesistono e che molto spesso influenzano il funzionamento dei dispositivi che utilizziamo. In questo contributo vorrei soffermarmi sulle questioni di cornice, senza pretendere di instaurare una gerarchia valoriale. Non voglio sostenere, in breve, che questi problemi siano prioritari e più importanti rispetto a quelli di dettaglio o che i filosofi dovrebbero dedicarsi a essi perché più consoni con un certo spirito “a volo di uccello” della riflessione filosofica o una vocazione a occuparsi di “questioni prime”. Ritengo, invece, che oggigiorno sia altrettanto importante che il filosofo “si sporchi le mani” lavorando a stretto contatto con chi progetta e costruisce artefatti intelligenti, offrendo così un servizio insostituibile e una prospettiva peculiare (almeno finché i filosofi stessi non saranno sostituiti dall’intelligenza artificiale, mi si perdoni la battuta). Tuttavia, è sicuramente importante che il filosofo che si occupa di questioni di dettaglio abbia presenti anche le questioni di cornice e sia disposto a misurarsi con esse.

I problemi di cornice possono essere affrontati in molti modi, che si presentano come generali nella loro ambizione di abbracciare questioni generali. Possiamo, ad esempio, chiederci in modo del tutto generale quale possa essere l’impatto dell’intelligenza artificiale sulla forma di vita umana. Questo ordine di problemi ricorda quanto già è stato notato per le biotecnologie. Ad esempio, in un celebre saggio Ronald Dworkin si è chiesto più di vent’anni fa in quale modo l’introduzione di tecnologie capaci di modificare il patrimonio genetico, e quindi di incidere profondamente sulla vita biologica individuale e collettiva, potesse mutare i valori di cornice che governano le nostre interazioni e le attribuzioni di responsabilità. Secondo Dworkin, questi interventi hanno l’effetto di spostare il confine tra caso e scelta, tra gli eventi che sono il prodotto di meccanismi naturali non controllabili a pieno dall’essere umano e le azioni che deliberatamente gli esseri umani eseguono. Mentre gli eventi naturali imprevedibili e incontrollabili non sollecitano una reazione morale, le conseguenze delle azioni (e delle omissioni) chiedono invece che l’autore ne renda conto; in breve, sollecitano una presa di responsabilità e innescano una dinamica comunicativa reciproca tra le persone coinvolte^[2]. Processi che tradizionalmente sfuggono al controllo umano, grazie alla tecnica diventano fenomeni per la cui comparsa o mancata comparsa si può chiedere conto a qualcuno, moralmente e anche giuridicamente. Si pensi ai casi in cui sono stati trascinati in tribunale i medici perché non avevano prospettato la possibilità ai genitori di ricorrere alla diagnosi pre-impianto o prenatale, prevenendo così la nascita di un bambino con gravi patologie genetiche, o i genitori stessi da parte dei figli, perché avevano deciso di continuare la gravidanza, nonostante l’accertata presenza nell’embrione o nel feto di patologie, infliggendo così alla persona ricorrente in giudizio una vita non degna di essere vissuta. Sono casi estremi, ricordati solo perché testimoniano la mobilità del confine tra caso e scelta e la sua rilevanza per giudizi, pratiche e modi di vita. Sintetizza così Dworkin:

 La struttura [complessiva della nostra esperienza morale ed etica] dipende da una fondamentale distinzione tra ciò per cui siamo responsabili nell’azione o nella decisione, individualmente o collettivamente, e ciò che è a noi dato, come uno sfondo sui cui possiamo agire o decidere, ma che non possiamo cambiare. […] Per chiunque la distinzione, a prescindere da come la si descrive, segna un confine tra chi e cosa siamo, di cui è responsabile una volontà divina o un semplice processo cieco, e le cose che facciamo con questa eredità, di cui siamo responsabili noi, da soli o insieme. […] Il confine cruciale tra caso e scelta è la spina dorsale della nostra etica e della nostra moralità e ogni serio spostamento di questo confine è una delicata dislocazione^[3].

La preoccupazione fondamentale di fronte ai progressi della genetica si poteva riassumere per Dworkin in questi termini:

Il terrore che molti di noi provano pensando all’ingegneria genetica non è paura di qualcosa di sbagliato; è piuttosto paura di perdere la presa su ciò che è sbagliato. Non abbiamo il diritto di pensare che anche i più drammatici spostamenti del confine tra caso e scelta mettano in discussione la moralità stessa (sarebbe una grave confusione questa), eliminando un giorno la distinzione tra giusto e sbagliato. Ma abbiamo il diritto di preoccuparci che le nostre convinzioni più salde siano, in larga parte, indebolite, che finiremo in una sorta di caduta libera morale, che dovremmo riflettere su uno sfondo inedito e con risultati incerti^[4].

L’esito è lo spaesamento, un senso di “vertigine morale”, per usare un’espressione che non è di Dworkin, ma di Michael Sandel^[5], e che si attaglia perfettamente al senso di questo discorso. In chiusura Dworkin ricorda che non si tratta di un’esperienza nuova perché “giocare con il fuoco” e quindi mettere a rischio le opinioni più consolidate e gli sfondi più rassicuranti è una costante della storia dell’umanità fin dai tempi di Prometeo: “Giochiamo con il fuoco e ne accettiamo le conseguenze, perché l’alternativa è la codardia di fronte all’ignoto”^[6].

La rivoluzione biotecnologica e la rivoluzione digitale hanno molti punti di contatto e le caratteristiche dello spaesamento morale descritte da Dworkin possono presentarsi anche per l’irruzione dell’intelligenza artificiale. Non abbiamo paura di qualcosa di sbagliato: possiamo pensare che ci sia nelle applicazioni tecnologiche, ma temiamo di perdere qualcosa di cruciale e immaginiamo mondi futuri davanti a cui ci troviamo spaesati. Un mondo automatizzato rischia di mettere in discussione le distinzioni etiche che ci aiutano a pensare la realtà; probabilmente è in gioco qualcosa di diverso dalla differenza tra lo sfondo immodificabile su cui ci muoviamo e le attività che possiamo portare avanti su questo sfondo. L’intelligenza artificiale minaccia di alterare drammaticamente quelle attività, in contesti estremamente importanti per la relazionalità umana: si pensi alla cura della salute o alle relazioni romantiche. E forse, a seguito di un processo cumulativo e di una introduzione non sempre meditata di dispositivi all’interno di varie sfere dell’esistenza, si assisterà a un mutamento della natura umana stessa.

Si tratta di un timore ben radicato, di cui non è difficile trovare esempi anche in epoche distanti dai sogni tecnologici e progettuali attuali, ma in cui la prospettiva dell’automazione era ben presente, in forme meno raffinate ma ugualmente incisive per la vita quotidiana. Si prenda, ad esempio, quanto John Stuart Mill scriveva nel 1859 sulla natura umana, nel saggio dedicato a una difesa filosofica e appassionata della libertà. Secondo Mill, sbaglia profondamente chi disegna la natura umana come una macchina programmata secondo un modello e un insieme di istruzioni che la faranno funzionare in modo automatico. L’immagine più efficace per catturare l’identità degli esseri umani è invece quella di una pianta “che ha bisogno di crescere e svilupparsi in ogni direzione, assecondando la tendenza di quelle forze intime che ne fanno una cosa viva”. Chiede Mill di immaginare automi dalla forma umana che siano capaci di svolgere molteplici attività già svolte dagli esseri umani: la costruzione di case, la coltivazione del grano, il combattimento in guerra, la celebrazione di processi, la recitazione di preghiere. Si noti, alcune di queste funzioni sono oggi più una fantasia: i droni sono sempre più impiegati nelle guerre, come i fatti di questi anni recenti hanno tristemente insegnato, e periodicamente ritorna la notizia di tentativi di affidare a robot o ChatGPT la composizione di omelie e preghiere. La prospettiva della sostituzione allarmava già Mill, secondo cui “sarebbe una grave perdita, barattare per simili automi gli uomini veri e le donne vere, anche quelli che di certo, pur abitando oggi le parti più civili del pianeta, sono senza alcun dubbio soltanto smunti esemplari di ciò che la natura può produrre e produrrà”^[7]. Persino l’essere umano meno vitale è incomparabile a una macchina; pensare a un automa che sostituisce nell’attività se non addirittura nella decisione appariva a Mill come una sciagura e una reale perdita di valore.

Uno dei temi di cornice è relativo al rapporto tra essere umano e macchina e agli effetti che una sostituzione o un affiancamento nelle varie attività potrebbe avere. Gli scenari distopici possono aiutare a riflettere su queste implicazioni ma rischiano nondimeno di essere fuorvianti. Per rispondere ai problemi della cornice, occorre interrogarsi caso per caso su quali elementi strutturali di un’attività o di una modalità di relazione sarebbero intaccati, quali sarebbero trasformati e se la perdita di valore registrata può essere in qualche modo compensata. Senza dubbio l’intelligenza artificiale promette di fare meglio e più velocemente cose che ora facciamo e, forse, di farne altre che oggi non sappiamo fare. Promette di diagnosticare meglio, di calcolare più velocemente, di ridurre gli incidenti automobilistici, di risparmiare tempo e fatica. Se questi possono essere in ogni occasione definiti guadagni è una questione aperta, ma ammettiamo che effettivamente lo siano, per lomeno in certi contesti. Avere un dispositivo che diagnostica in modo più affidabile una patologia, massimizzando così la probabilità che si possa intervenire in tempo costituisce un beneficio che difficilmente sarebbe contestabile, se effettivamente le conseguenze sono quelle descritte e il margine d’errore è piccolo o nullo. Ma sul piatto della bilancia conviene posizionare anche effetti che non sono così ovvi all’apparenza.

Vicariare attività implica anche alterare l’esperienza che gli esseri umani fanno del mondo. Svolgere azioni anche semplici, come guidare una macchina, presuppone l’acquisizione di alcune abilità fondamentali; alcuni di noi riescono a portarle al massimo grado, dimostrandosi particolarmente virtuosi. L’automazione prospetta la possibilità che queste abilità divengano inutili, insieme alle capacità percettive che le accompagnano. Se la macchina guida in modo completamente autonomo, chi viene trasportato non avrà più bisogno di essere in grado di governarla e quindi di sviluppare quelle abilità che lo mettono nelle condizioni di farlo. Questa inessenzialità dell’abilità fa in modo che non si registri la necessità nemmeno di vedere il mondo in un certo modo. Chi è abile in un determinato dominio, è abituato a vedere la realtà di quel dominio sotto un certo aspetto e a codificare percettivamente gli elementi di quel mondo come ostacoli oppure opportunità; chi possiede la stessa abilità non avrà la stessa attenzione verso i particolari, come può giudicare chi non è in grado di guidare e osserva il comportamento di chi invece è particolarmente abile a farlo. Aristotelicamente, essere in possesso di un’abilità significa avere una percezione determinata del mondo. Per descrivere questo fenomeno, si parla di deskilling, un termine che originariamente indicava dequalificazione della forza lavoro in seguito all’introduzione dell’automazione, ma possiamo intendere il termine in un’accezione più ampia, che indica il processo di perdita di abilità specifiche, in seguito alla delega a processi automatici nello svolgimento di svariate attività^[8]. E, come ha sottolineato David Zoller, questo esito porta con sé la perdita di opportunità di esperienza: “Inseguire automazioni ‘intelligenti’ potrebbe metterci nella condizione di abitare qualsiasi nicchia (niche) senza avere alcuna abilità o attenzione. Ma non staremmo davvero abitando una nicchia percettiva nel senso pieno del termine: gli oggetti all’interno della nicchia, che chi è abile riesce a vedere ed esplorare, non sono ‘là’ per noi novizi”^[9].

Un altro esempio è costituito dall’introduzione di robotica intelligente nell’ambito delle relazioni di cura, soprattutto (ma non solo) nel settore geriatrico. Vera Tripodi ricorda che il Giappone, ad esempio, ha investito risorse pubbliche e private ingenti nella ricerca e sviluppo dei robot assistenziali negli ultimi 15 anni ma persiste anche in quel paese una pervicace resistenza all’introduzione effettiva di questi dispositivi nelle case e nelle strutture sanitarie. Abbondano anche nella letteratura filosofica esperimenti mentali su residenze per anziani totalmente automatizzate che descrivono distopie future, in cui la vita per le persone lì ospitate scorre in maniera inquietante in assenza di relazioni significative e di contatti anche fisici con altri esseri umani. Per quanto esse siano in grado di condurre vite piacevoli in una casa di cura automatizzata, ci si può legittimamente chiedere quale sia il loro reale benessere^[10]. Questa domanda costituisce un punto importante, su cui anche Tripodi riflette. L’introduzione dell’automazione, la sostituzione del robot con l’essere umano, non ha solo l’effetto di comprimere la gamma di abilità che gli esseri umani possono avere bisogno di acquisire e sviluppare ma può trasformare radicalmente le relazioni intersoggettive. Tripodi sottolinea che una relazione di cura contiene un elemento intenzionale imprescindibile, perché ci si sente realmente accuditi se chi ci presta cura e attenzione lo fa in modo deliberato e non automatico. Sostituire in questi contesti gli esseri umani ai robot significa snaturare la prestazione di cura e gran parte della robotica oggi utilizzata è capace solo di cura comportamentale^[11]. Un altro elemento che all’apparenza distingue la relazione di cura tra esseri umani e l’interazione tra essere umano e macchina è l’assenza di “tocco”, nel senso fisico del termine. Come è stato sostenuto, la presenza, il tocco e l’ascolto sono elementi fondamentali in una relazione di cura e, per lo meno adesso, non replicabili da parte dei robot assistenziali^[12]. Anche in questo caso, l’assenza di questi elementi snatura ulteriormente la relazione di cura.

Come rispondere a queste sfide di cornice? Come ho accennato, gli scenari distopici possono essere utili oppure fuorvianti e alcuni degli autori da cui ho tratto queste suggestioni partono da scenari di questo tipo. La loro utilità è del resto commisurata alla funzione per i quali mobilitiamo la loro immaginazione. Se pretendiamo di trarre da essi indicazioni normative tout-court, per cui dal pensare possibili mondi popolati dalla desolazione prodotta dalle macchine deriviamo indicazioni su quali tecnologie mettere al bando o giudizi totalizzanti sulla “tecnica”, facciamo un cattivo servizio alla riflessione, anche solo per il fatto che sono sempre immaginabili scenari diametralmente opposti o comunque meno foschi. E in questo caso le conclusioni normative da trarre sarebbero ovviamente diverse. Possiamo però utilizzarli con una funzione euristica, perché aiutano a mettere a fuoco ciò che siamo disposti a sacrificare per ottenere qualche altro beneficio e ciò che in realtà resiste a questa operazione di bilanciamento e la cui assenza percepiremo come una perdita e una diminuzione di valore. Oltre a ciò, gli scenari immaginari possono aiutare anche a pensare in che modo i contesti e le relazioni possono essere trasformate dalle tecnologie. Le riflessioni di Dworkin ci invitano a pensare la paura di fronte all’inedito tecnologico come una forma di spaesamento che non necessariamente è terrore paralizzante. Sebbene la prospettiva di una futura interazione tra esseri umani e dispositivi intelligenti sempre più pervicace ci disorienti, dovremmo distinguere questo sentimento di instabilità quando percepiamo, per così dire, le “scosse di assestamento” anche molto violente, e il terrore di fronte alla prospettiva che tutto l’edificio crolli. Dovremmo, in breve, abituarci anche a esplorare la possibilità che l’introduzione di nuove tecnologie ristrutturi relazioni e attività in modi che non possiamo derubricare a priori come perdite di valore. Come scrive Coeckelbergh: “I significati dei concetti di “salute”, “affiliazione”, ecc. non sono indipendenti dalle tecnologie dell’informazione ma sono in parte costituiti da queste tecnologie. Mutano mentre la tecnologia muta”^[13]. Per questo Coeckelbergh invita a adottare una concezione non meramente strumentalistica della tecnologia, in cui il proposito della valutazione non può essere soltanto immaginare se e in che misura l’uso di dispositivi intelligenti promuova il benessere individuale consentendo l’esercizio di capacità fondamentali, ma anche il modo in cui l’interazione con i robot trasforma quelle capacità e le pratiche che le incorporano. L’esito di queste trasformazioni può essere in alcuni casi indesiderabile, alla luce dei valori e delle preoccupazioni che possiamo avere oggi (ma che potrebbero trasformarsi nel tempo anche per effetto delle tecnologie che usiamo), e in altri casi invece del tutto integrabile senza alterare le pratiche attuali o creandone di nuove. Probabilmente ci sono mansioni e attività in cui la delega all’automazione non è la soluzione migliore e molte altre in cui essa può essere positiva solo se integrata non solo con il controllo ma anche con la presenza stessa dell’essere umano. Il fin troppo banale caveat di tenersi lontani tanto da prospettive “apocalittiche” quanto da prospettive “integrate” deve essere accompagnato da un intreccio di capacità, attitudini e strumenti, anche quando si affrontano questioni di cornice: capacità immaginativa, analisi razionale, attenzione ai dati empirici.

^[1]Si veda: Umbrello, Steven, Oggetti buoni. Per una tecnologia sensibile ai valori, Roma: Fandango, 2023.

^[2]Per una concezione “comunicativa” della responsabilità, cfr. Galletti, Matteo, Reciprocamente responsabili. La responsabilità morale tra naturalismo e normativismo, Pisa: ETS, 2018.

^[3]Dworkin, Ronald, Sovereing Virtue. The Theory and Practice of Equality, 443-444. Cambridge, Mass.: Harvard University Press, 2000.

^[4]Dworkin, 446.

^[5]Sandel, Michael, The Case Against Perfection: Ethics in the Age of Genetic Engineering, Cambridge: Belknap Press, 2004. Al contrario di Dworkin, Sandel ha un atteggiamento fortemente critico nei confronti delle biotecnologie.

^[6]Dworkin, 446.

^[7]Mill, John Stuart, La libertà. In John Stuart Mill, La libertà, L’utilitarismo, L’asservimento delle donne, 145-146. Milano: Rizzoli, 1999.

^[8]Oltre a perdere abilità, il meccanismo di delega sembra prefigurare anche una perdita di autorità. Se l’intelligenza artificiale decide o diagnostica meglio dell’essere umano, sarà il suo giudizio a divenire paradigmatico e quindi standard di valutazione comparativa per qualsiasi scelta clinica presa da esseri umani. Con la differenza che mentre un agente umano è mediamente in grado di esibire ragioni per le scelte che ha compiuto, la macchina non riesce a farlo. Cfr. Battaglia, Fiorella, «Algoritmi predittivi e ingiustizia epistemica». In Matteo Galletti, Silvano Zipoli Caiani (cur.), Filosofia dell’intelligenza artificiale. Sfide etiche e teoriche, 63-82. Bologna: Il Mulino.

^[9]D. Zoller, “Skilled Perception, Authenticity, and the Case Against Automation”. In Patrick Lin, Ryan Jenkins, Keith Abney (cur.), Robot Ethics 2.0, 84. New York: Oxford, 2017. Si vedano anche Vallor, Shannon, “Moral Deskilling and Upskilling in a New Machine Age: Reflections on the Ambiguous Future of Character”. In Philosophy & Technology 28 (2015): 107-124; Formosa, Paul, “Robot Autonomy vs. Human Autonomy: Social Robots, Artificial Intelligence (AI), and the Nature of Autonomy”. In Minds and Machines, 31 (2021): 595-616.

^[10]Questo scenario inquietante è vividamente descritto da Sparrow Robert, “Robots in Aged Care: A Dystopian Future?”. In AI & Society, 31 (2016): 445-454.

^[11]Tripodi Vera, «Robotica sociale e assistenza sanitaria». In Matteo Galletti, Silvano Zipoli Caiani Silvano (cur.), Filosofia dell’intelligenza artificiale. Sfide etiche e teoriche, 181-204. Bologna: Il Mulino, 2024.

^[12]Stokes, Felicia, Palmer, Amitabha, “Artificial Intelligence and Robotics in Nursing: Ethics of Caring as a Guide to Dividing Tasks Between AI and Humans”. In Nursing Philosophy, 21, 4 (2020): e12306.

^[13]Coeckelbergh, Mark. “‘How I Learned to Love the Robot’: Capabilities, Information Technologies, and Elderly Care”. in Ilse Oosterlaken, Jeroen van den Hoven(cur.), The Capability Approach, Technology and Design, a cura di, 82. Dordrecht, Springer, 2012.