Why AI is NOT a Moral Agent

Primavera Fisogni's critique of Floridi's theory, presented in IL NODO ETICO: this paper marks the online publication of the entire quarterly, whose digital version can be freely downloaded. This text is the first draft of a more articulated English peer-reviewed paper to be issued in the US. On Monday, September 14, engineer Paolo Foglio's contribution will be published

Di Primavera Fisogni

di Primavera Fisogni¹

“Si parla talvolta di “agenti morali artificialiˮ, come se una macchina potesse garantire, con maggiore coerenza di un essere umano, la distinzione tra bene e male. Ma il giudizio morale non è riducibile a un calcolo: esso implica coscienza, responsabilità personale e riconoscimento dellʼaltro come persona. Perciò non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili. Non esiste algoritmo che possa rendere la guerra moralmente accettabile” (Papa Leone XIV, Magnifica Humanitas, 2026, § 198).

Il paragrafo 198, con il successivo 199 avente funzione di corollario, costituisce il cuore della riflessione della Lettera Enciclica Magnifica Humanitas di papa Leone XIV, nel marcare l’esplicita distinzione tra agente morale artificiale e persona, tra macchina ed essere umano. Esso configura nondimeno un nodo antropologico che richiede di essere sciolto a beneficio non soltanto della comprensione del documento pontificio, ma dell’argomento umanistico sostenuto da Leone XIV.

Infatti, perché si dia il fondamento anche metafisico della “custodia della persona umana al tempo dell’intelligenza artificiale”, sottotitolo dell’enciclica, si deve chiarire se l’IA possa configurarsi come un agente morale oppure no. In questo contributo, difenderò la seconda ipotesi (“l’IA non è un agente morale”), notando che, mentre l’enciclica implica continuamente l’idea di persona come centro attivo di intelligenza, sentimento, volontà – quale fonte inesausta di relazione (si legga il magistrale contributo introduttivo del professor Gianluigi Segalerba) – essa non esplicita che “agente morale” è un concetto applicabile in via esclusiva alla persona e soltanto ad essa.

Benché non sia citato in maniera diretta il pensiero del filosofo (e teorico dell’infosfera) Luciano Floridi, né entro il testo, né in sede bibliografica, le parole di papa Leone XIV portano dritte alla riflessione del celebre intellettuale, al quale si deve il neologismo onlife, parola chiave della società digitale, indicante l’ambiente misto tra offline (reale) e online (digitale) nel quale ormai si muovono le nostre vite. L’autorevolezza del pensatore analitico, la diffusione delle sue teorie a livello internazionale, in particolare 1) l’idea della caratura morale degli agenti artificiali, 2) la proposta di una moralità distribuita e, soprattutto, 3) di una moralità “priva di stati mentali” (Floridi, 2026, p. 191) possono funzionare come scalpelli di una visione dell’agire morale come prerogativa della persona, introdotta in Occidente dalla tradizione filosofica e teologica cattolica. Siamo in effetti in presenza dello smantellamento dell’antropologia personalistica a favore di un’antropologia dell’informazione che non soltanto include le macchine, ma le equipara per certe funzioni (agire, fare il male) agli esseri umani senza un contraltare altrettanto valido sul piano speculativo. Se da un lato dobbiamo proprio a Leone XIV e ai suoi predecessori, da Paolo VI a Francesco, e in particolare alla fenomenologia di Giovanni Paolo II, un magistero capace di rilanciare e ravvivare la densità trascendente del concetto di persona in un contesto proiettato al transumanesimo2, dobbiamo nondimeno rilevare una scarsa forza argomentativa dell’intelligentsia cattolica a supporto di questa teoresi, oggi così traballante.

L’idea che la filosofia orientata all’antropologia cattolica, radicata nelle lezioni fondamentali dei Padri della Chiesa, di Agostino, Tommaso in primis, possa essere riguardata come una deminutio rispetto alla ricerca speculativa sull’uomo è da respingere. Non con generici proclami, bensì con la forza cogente degli argomenti.

Soltanto nella cornice dell’antropologia della persona come nucleo attivo e relazione si radica una visione dell’umano che le macchine possono mettere in discussione, per quanto dotate di capacità quasi-umane. In quel quasi si misura non la vicinanza, ma piuttosto l’incolmabile distanza tra la dimensione creaturale e quella artificiale.

Questo contributo, lungi dall’essere un testo di apologetica dell’antropologia cattolica, intende presentare una critica alle posizioni di Floridi precedentemente citate e, nel contempo, rilanciare l’agire morale come prerogativa dell’essere umano inteso come persona. Più che un commento alla Magnifica Humanitas, l’articolo suggerisce un’integrazione teoretica a concetti che, continuamente enunciati nella Lettera Enciclica, richiedono di essere rivalutati, a tutto vantaggio degli stessi principi umanistici nel cui solco il documento si incanala.

1. Agente morale: due visioni in conflitto

Leone XIV, nel paragrafo 198, spiega che vi sono in gioco due poste: il bene e il male.

“Si parla talvolta di “agenti morali artificialiˮ, come se una macchina potesse garantire, con maggiore coerenza di un essere umano, la distinzione tra bene e male” (Papa Leone XIV, 2026, § 198).

Non vi è dunque la possibilità di una visione neutra o neutrale che possa in qualche modo applicarsi agli agenti artificiali. Vedremo come questa considerazione emerga con forza anche nella riflessione di Floridi, il quale, in Il nodo etico (2026) in modo particolare, si trova costretto però a introdurre la nozione di “male artificiale” accanto al “male morale” e al “male naturale”. Che significa? In pratica, ogni tentativo di attribuire alla macchina digitale un agire, o un profilo agentico dotato di margini di autonomia, impone di confrontarsi con le sue conseguenze morali, con la scelta per una via orientata al bene oppure per il male. In particolare, con gli esiti malevoli dell’atto.

Allora, il primo passo di questa indagine è di chiarire di chi parliamo quando evochiamo il termine “agente”. Dalle parole dell’enciclica relative all’agire morale ricaviamo che si tratta di un soggetto, di qualcuno e non qualcosa:

“Ma il giudizio morale non è riducibile a un calcolo: esso implica coscienza, responsabilità personale e riconoscimento dell'altro come persona” (Papa Leone XIV, 2026, § 198)

Un ente in grado di dire Io (“coscienza”), assumere la paternità dei propri atti (“responsabilità personale”) e, in virtù di questi due tratti essenziali, di aprirsi alla relazione (“riconoscimento dell’altro come persona”). Il soggetto morale, in questo senso, in una prospettiva teorica che trova le sue radici in un’esperienza originaria, sul piano fenomenologico e metafisico, è soprattutto un “chi”, un qualcuno. Più che mai opportuna è una rilettura di Spaemann (1996/2005), con la sua distinzione tra Etwas (qualcosa) e Jemand (qualcuno).

È interessante notare che Floridi intitola il paragrafo sul tema “Che cos’è un agente morale”, inquadrando la questione non nella prospettiva di un chi (qualcuno, Jemand), ma piuttosto di un che cosa (qualcosa, Etwas). Appare chiaro, fin da principio, come l’approccio del filosofo si presenti come inclusivo dell’umano e dell’artificiale. Dunque, di un “agente umano” e di un “agente digitale”.

Se per Leone XIV (2026, § 198), come si è visto, sono coscienza, responsabilità e relazione a definire un agente morale, per Floridi le coordinate rispondono ai nomi di interattività, autonomia e adattabilità (Floridi, 2026, p. 159). Il primo termine, indicante una serie di operazioni informazionali (input/output), va a compensare lo spazio della relazione, squisitamente umano; l’autonomia, che qui configura un certo grado di indipendenza rispetto all’ambiente, rimanda al ruolo che la coscienza ha nella prospettiva personalistica, mentre l’adattabilità richiama il ruolo giocato dall’esperienza, che può ricondursi alla memoria adattiva in una persona.

Quest’ultimo aspetto essenziale è il più scivoloso riguardo alla possibilità di un agire “morale” delle macchine. Floridi, infatti, asserisce:

“Un agente autonomo è un agente che ha una qualche forma di controllo sui propri stati e le proprie azioni” (Floridi, 2026, p. 235).

Di qui ad assegnare un tratto morale anche agli strumenti dotati di intelligenza artificiale, il passo è breve. Floridi non parla di “responsabilità” della macchina, ma della accountability degli agenti artificiali. Nel contesto anglosassone sono entrambe risposte dell’agente rispetto all’atto: se la prima riguarda chi performa l’atto in sé, la seconda esprime l’imputabilità per l’atto compiuto. Ad esempio, il personale di cucina può mettere in padella cibi avariati (responsabilità) e il titolare del ristorante è chiamato a darne conto alla parte lesa (è accountable). Scrive Floridi:

“(…) ho sostenuto che gli agenti artificiali possano essere accountable per le azioni malvagie per cui nessun agente, umano o divino, può essere considerato responsabile” (Floridi, 2026, p. 241).

Ritorneremo più avanti alla categoria di “male artificiale” introdotta da Floridi. Riguardo alla nozione di agente, le tre macro-aree (interconnettività, autonomia e adattabilità) non sono in grado di abbracciare la densità di un atto che può appartenere soltanto a un essere umano, individuo non programmato ma programmatore.

2. L’atto umano e la quasi-azione della macchina

Se per Tommaso d’Aquino (1952), filosofo, teologo e dottore della Chiesa, erano riconoscibili ben 12 componenti dell’atto e con G. E. M. Anscombe possiamo includere anche l’intenzione (1957), ci rendiamo conto di quanto sia improprio non soltanto attribuire alle macchine digitali la prerogativa di agenti, cioè di soggetti in grado di performare un atto, ma anche attribuire loro determinate caratteristiche umane. La dimensione operativa di uno strumento dotato di intelligenza artificiale non è semplicemente lineare, ma sempre e comunque dipendente da atti, questi sì, autenticamente umani (ideazione, definizione degli algoritmi, programmazione, machine e deep learning tra gli altri).

Ed è proprio nell’identificazione dell’atto (umano) che si gioca l’impraticabilità di un agente artificiale. Enunciare la definizione di un agente senza esprimersi in merito all’atto è una semplificazione inaccettabile sul piano teorico, che va a intaccare l’etica del discorso.

2.1 L’argomento intuitivo

L’argomento principale a favore dell’essere umano come esclusivo agente morale è semplice e intuitivo. La persona può non agire anche quando dovrebbe farlo o interrompere l’atto, oppure modificarne la dinamica, o ritirarsi in sé come aprirsi all’infinito. Perché l’agire umano non ha un carattere lineare come quello della macchina, per la quale ogni stop o diversione dall’indirizzo operativo non dipende dall’autonomia, ma da ciò per cui essa è stata programmata. Un esempio su tutti chiama in causa le allucinazioni dell’IA, che a prima vista parrebbero una forma di emancipazione (autonomia) e, invece, lungi dall’esprimere un “no” ai fattori costituenti (algoritmi), restano ancorate all’enfasi di un “sì” ai medesimi, per portare a termine il compito per il quale è stata allenata (Fisogni, 2026). Com’è possibile questo? Perché succede nell’uomo e non nella macchina? Manca, al quasi-agire digitale, alla funzione agentica, la continua relazione sistemica tra le componenti personali (intelligenza, volontà, sentimento di relazione con il mondo della vita / “coscienza, responsabilità personale e riconoscimento dellʼaltro come persona” [Papa Leone XIV, 2026, § 198]). Nella macchina dotata di intelligenza artificiale l'interconnettività costituisce un livello lineare di operazione. Viceversa, vedremo nelle conclusioni che la funzione sistemica – non appartenente allo strumento digitale – entra comunque in gioco nel rapporto cooperativo con l’essere umano, come anche la Lettera Enciclica ribadisce (Papa Leone XIV, 2026, § 198). Il fattore attivante la dinamica sistemica dell’atto umano va individuato nel consenso, attività che Tommaso d’Aquino aveva focalizzato con sicurezza speculativa e che merita di essere rilanciata a beneficio di un’antropologia integrale, in cui la macchina è integrabile ma sempre come strumento, esattamente nella linea auspicata da papa Leone XIV (2026, § 198).

2.2 Il ruolo del consenso che presiede l’atto umano3

Nella dinamica dell’atto umano il consenso occupa una posizione cruciale, quasi fosse una specie di porta tra le operazioni cognitivo-pratiche che appartengono all’ordine dell’intenzione e quelle relative alla performance dell’atto, complessivamente dodici. In questa architettura dinamica Tommaso si ricollega puntualmente al dibattito filosofico del XIII secolo relativo alla psicologia dell’atto umano (Finnis, 1998; Lottin, 1942). Ma se l’Aquinate, nel ripartire l’azione in una sequenza di fasi, si dà a vedere come uomo e pensatore del suo tempo, adotta riguardo all’agire la medesima visione impiegata nei riguardi dell’anima umana come principio vitale unificante (Pegis, 1934). È solo alla fine della carriera che Tommaso giunge a formulare la sua originale proposta del processo psicologico dell’atto umano. In questo immane sforzo teorico, le pagine sul consenso si presentano più impegnative e più originali, dal momento che l’Aquinate non trovava nell’Etica Nicomachea di Aristotele un riferimento ai mezzi: la volontà (boulesis) e la tendenza (thelesis), infatti, hanno a che fare con i fini; per progredire gli furono di aiuto Agostino e Giovanni Damasceno. La componente “affettiva” e “appetitiva” gioca qui un ruolo che va oltre quello enunciato da Aristotele – si ricordi che Tommaso scrive il commento all' Etica Nicomachea anche in vista della stesura della Prima Secundae della Summa Theologiae (Torrell, 2006) – e il consenso si può considerare, nella prospettiva dell’Aquinate, il punto focale della volontà, come ribadito anche da studiosi di area tomistico-analitica quali Brock (1992, p. 219).

Consentire, per Tommaso, può essere altrimenti detto un “sentire unitamente” (simul sentire), una relazione unitiva alle cose, quale esito dello slancio connaturale all’inclinazione (quaedam inclinatio). La parola inclinatio, nel linguaggio tomista, rinvia al movimento naturale delle creature (Tommaso d’Aquino, 1965, q. 2, a. 9) rivolte a un fine. Siamo di fronte, in senso lato, all’atto di essere specifico degli enti, ad un tempo tendenza appetitiva della volontà e tendenza conoscitiva del pensiero.

L’attualità del sentire sembra dipendere, a questo punto, dall’inclinazione dell’appetito che istituisce un legame intrinseco con la cosa: esso viene implicato e quindi anche “toccato” dalla relazione con la realtà. In un passaggio delle Quaestiones disputatae, Tommaso precisa che «è proprio dei sensi conoscere le cose presenti», ovvero afferrare, sul piano cognitivo, volitivo ed emozionale, la res. Il rapporto tra carattere attivo e passivo del sentire, con uno spiccato emergere della componente dell’atto su quella patica, si offre esplicito fin dalle prime battute del testo. Al pari della conoscenza intellettuale-astratta, a cui è accomunata «per quandam similitudinem», per la naturale inclinazione alle cose, il piano della sensibilità presenta anche nel testo di Tommaso un doppio movimento, proprio in virtù della sua natura: la presenza dell’oggetto garantisce, ad un tempo, impressione ed espressione.

2.3 Dall’inclinatio all’applicatio. Il sentire come species della conoscenza pratica

Se l’inclinatio si dà a vedere come un duplice movimento – dalle cose all’uomo e dall’essere umano verso il mondo esterno – esito della connaturalità delle creature (Biffi, 1990; D’Avenia, 1992), il successivo momento dell’applicatio si presenta, nella Summa Theologiae (I-II, q. 15), come una prerogativa esclusivamente umana, come un atto specificamente personale, in quanto dipendente dalla volontà: «il consenso implica l’applicazione di un moto appetitivo al compimento di un’azione» (Tommaso d’Aquino, 1952, I-II, q. 15, a. 2, resp.). Ne consegue, perciò, l’impossibilità di un consenso dell’animale, il cui moto appetitivo dipende ex instinctu naturae.

La macchina può, al massimo, terminare un’operazione o dare origine ad essa. Le preoccupazioni che papa Leone XIV solleva a proposito delle guerre digitali trovano un senso anche in relazione all’impossibile consenso dei devices dotati di intelligenza artificiale.

“Non esiste algoritmo che possa rendere la guerra moralmente accettabile. LʼIA non sottrae il conflitto alla sua intrinseca disumanità: può soltanto renderlo più rapido e impersonale(…) È pertanto della massima importanza infondere valori e giudizio prudente nella programmazione dei sistemi artificiali che costruiamo, i quali possono contribuire a un ecosistema morale in cui gli esseri umani siano meglio posti in grado di ascoltare la propria coscienza e in cui i modelli di IA fissino confini appropriati”. (§ 198)

Il contatto con il mondo della vita, che è altro dal mondo digitale e non va confuso con il contesto onlife, appare decisivo perché si strutturi, con l’inclinazione dell’atto al bene, anche la piena caratura dell’agire morale. Nella prospettiva tomista, questo ruolo viene giocato dall’applicatio, cruciale nella dinamica dell’atto umano. Rispetto all’inclinatio, siamo nella fase del concreto scambio delle potenzialità umane – conoscitive e giudicative – espresse attraverso il piano della sensibilità in rapporto alle cose. Non si tratta di conoscenza intellettiva. Ma di un certo tipo di conoscenza, questo sì: un simul sentire, un sentire-unitamente alle cose e al corpo.

Mi propongo, ora, di mostrare che l’applicatio è intesa da Tommaso come la species della conoscenza pratica e costituisce la componente attivante del sentire. Per prima cosa, occorre dimostrare che l’applicatio corrisponde al senso. A questo riguardo, le parole di Tommaso non offrono margini ad equivoci, se «l’applicazione della potenza alle cose mediante l’adesione viene denominata senso». D'altronde, anche sul piano semantico, il termine in questione rinvia esplicitamente al senso e al suo esercizio.

Quando i latini impiegavano la parola applicatio, era immediatamente chiara l’idea di un contatto o di un’unione seguita a uno sforzo, a uno slancio: qualcosa di questa significazione rimane nell’uso corrente, ad esempio, quando ci riferiamo all’applicazione riposta nello studio. Inclinatio non ci sembra possa essere impiegato come sinonimo di applicatio, pur essendo in presenza di parole correlate sul piano dell’agire. L’inclinazione sembra presentare un grado di coinvolgimento con la realtà inferiore rispetto a quello dell’applicazione. Tommaso dice che l’inclinatio alla cosa avviene «secundum quandam similitudinem»: inclinare l’appetito assomiglia all’atto del piegarsi su qualcosa. L’applicatio, fin dal primo esordio nelle parole dell’Aquinate, dichiara il proprio coinvolgimento con quei singularia o quel verum praesentium che sono l’oggetto del senso. In questo caso la potenza appetitiva si manifesta nell’inerenza o adesione, secondo ciò a cui inerisce (Fabro, 1983, pp. 89-90; Lanna, 1913).

L’applicazione alla cosa costituisce la fase unitiva con l’individuale concreto, preparato dall’inclinazione, che nell’uomo non è frutto di istinto ma di quel consenso proprio solum rationalis naturae. Anche se Tommaso nella Quaestio 15 non parla esplicitamente di species, credo di poter affermare che l’experientiam in cui si risolve il senso, l’attività la quale fa sì che il consenso sia, negli esseri umani, una «determinationem appetitus non solum passivam, sed magis activam», si possa considerare a buon diritto una species. La macchina, per quanto avanzata in termini operativi, non regge il confronto con l’atto umano, anche in queste dinamiche sensitive.

La species impressa è, nella dottrina tommasiana, principio attivante le facoltà. Essa è forma intentionalis. Un contenuto ideale, che sul piano intellettivo è premessa di conoscenza intellettuale, mentre su quello pratico offre quella speciale apprensione – ideale e insieme gustativa, affettiva (i due piani propri della cosiddetta cogitativa tommasiana) – che permette di acquisire, insieme alla positività ontologica delle cose, cioè il trascendentale bonum, il loro essere buone, cioè la bonitas. Che tale forma attivante richieda un coinvolgimento con la concretezza e la materialità di ciò a cui inerisce è infatti esplicitato nel terzo ad contra dell’articolo 1 della Quaestio. Tommaso fa notare che assentire e consentire non sono sinonimi, benché la radice di entrambi faccia riferimento al sentire, quindi al dominio affettivo. Ma soprattutto si parla dell’applicatio propria del senso nei termini di un’esperienza di afferramento. Si faccia caso alle parole impiegate da Tommaso, la cui forza descrittiva non è fine a se stessa, ma aggiunge dettagli integrativi al concetto: quel sumens, ad esempio, significa propriamente “raccogliere”. L’Aquinate introduce la parola per meglio puntualizzare il significato di “senso”, definito come «l’applicazione della virtù appetitiva alla cosa, secondo ciò a cui inerisce»: siamo in presenza, nella riflessione tommasiana, di un principio attivante, senza ambiguità.

3. L’irrompere del male artificiale

Come si è brevemente detto sopra, quando si assegna una caratura morale a un ente artificiale, non ci si può esimere dal riconoscere ad esso la possibilità di fare il male. Su questo possiamo riconoscere una perfetta consonanza tra il pensiero di Leone XIV (“Ma il giudizio morale non è riducibile a un calcolo” [Papa Leone XIV, 2026, § 198]) e la speculazione di Floridi, che introduce una nuova categoria, quella del male artificiale. Si tratta, in Il nodo etico, di una terza opzione insieme al male morale e al male naturale (Floridi, 2026). Il primo appartiene a un soggetto umano che decide di ostacolare il bene per sé o per altri; il secondo rinvia alle conseguenze delle dinamiche ambientali (terremoti, alluvioni, ecc.). A livello generale, il primo ha carattere intenzionale, il secondo no. Possiamo discutere, tuttavia, sull’idea che le conseguenze del surriscaldamento del pianeta siano soltanto un male ascrivibile alla natura, a fronte della cospicua parte giocata dalle conseguenze dell’industrializzazione e dello sfruttamento indiscriminato delle risorse. Inoltre, un terremoto ha sicuramente una lettura duplice: provoca conseguenze anche catastrofiche per gli umani (è dunque un male), tuttavia rientra nella fisiologia della Terra (un bene). E il male artificiale? Per Floridi esso si configura essenzialmente come privo di responsabilità in quanto mindless, estraneo agli stati mentali:

“Si scopre che (…) nell’infosfera il male può essere del tutto gratuito: ci possono essere azioni malvagie senza che nessun agente causale ne sia moralmente responsabile” (Floridi, 2026, p. 242).

È un fatto che i computer producono effetti malevoli, sia a livello di sistema (malware), sia nelle interazioni con gli utenti (allucinazioni dell’IA). Ma può bastare questo per introdurre una categoria morale-non morale, visto che il concetto di male morale sta in piedi quando il male è effettivamente voluto, così come il bene morale consegue a un bene deliberato? La soluzione teorica di Floridi è coerente con le premesse di un agente artificiale dotato di autonomia o di un certo grado di autonomia che consente ad esso di eseguire operazioni (o di avere una capacità agentica):

“(…) gli agenti artificiali stanno diventando sufficientemente autonomi da escludere la possibilità che i loro creatori possano rispondere delle loro azioni dal punto di vista nomologico e di conseguenza, essere moralmente responsabili o addirittura imputabili per il loro comportamento” (Floridi, 2026, p. 242).

Di fronte alle menzogne dei sistemi avanzati di IA, come i Large Language Models (es: Gemini, ChatGPT), si potrebbe pensare a iniziative realmente autonome dei dispositivi. In realtà non è così: gli errori semantici della macchina (non parliamo di malware, cioè di disfunzioni tecniche o di programmazione) rimandano inevitabilmente al modello di allenamento, al tipo di apprendimento della macchina, sempre e comunque in rapporto a un istruttore umano (Fisogni, 2026).

La questione di un male senza stati mentali, frutto di artificio, deresponsabilizzato, non può essere lasciata passare a cuore e a mente leggeri. Perché è impossibile non confrontare questo tipo di malvagità con quella discussa da Hannah Arendt nel carteggio con l’amico Gershom Scholem (per la verità ex amico in quel preciso momento storico, nel 1962) (Fisogni, 2022). In una lettera, la pensatrice politica ritorna in qualche modo sul giudizio sul gerarca Adolf Eichmann, la “mente” dello sterminio degli ebrei nei lager, riposizionando la “stupidità” nel termine thoughtfulness, letteralmente mancanza di riflessione.

“I was struck by a manifest shallowness in the doer that made it impossible to trace the uncontestable evil of his (Eichmann, ndr) deeds to any deeper level or roots or motives (…) it was not stupidity but thoughtlessness.” (Arendt, 1981: 4)

Come era già successo con la nozione di banality, impiegata una sola volta nel saggio Eichmann in Jerusalem, anche qui Arendt non chiarisce la densità semantica del termine, decisiva per coglierne la densità metafisica. Rinviando ad altra sede l’approfondimento, a noi qui interessa rilevare che la thoughtfulness ha a che fare con l’agire senza connessione con i motives, i motivi, le ragioni. Dunque, possiamo dire, qui c’è una persona “svuotata” della stessa capacità di agire, che richiede il coordinamento di intelletto, sentimento, deliberazione. In un certo senso, possiamo considerare il gerarca Eichmann né più né meno come una macchina artificiale. Per sua stessa natura, di conseguenza, non solo una macchina non è un agente morale, ma è costituzionalmente difettosa nel solco dell’agire. L’idea del difetto, non di male (nemmeno di male artificiale), si adatta allo strumento, proprio in quanto non possiede la caratura dell’agente. Viceversa, il mezzo digitale, che è costituzionalmente difettoso nella sua agenticità o operatività quasi-umana, non può che chiamare il causa l’agente morale (la persona) ad ogni livello del suo utilizzo. Si comprende, allora, che la moralità distribuita non può che essere intesa in senso sistemico: non come “non mio, non tuo”, bensì come “mio+tuo”.

5. Ecosistema morale vs moralità distribuita

Come la configurazione delle macchine digitali quali agenti morali ha imposto di ripensare al male, individuandone una tipologia sganciata dalla responsabilità, così questa dinamica richiede, per sostenersi, una cornice di più ampio respiro, che Floridi chiama moralità distribuita. L’idea è che diversi attori, umani e digitali, persone e processi non umani (digitali, meccanici) compartecipino a un risultato finale positivo o negativo. Per assicurarsi la performance migliore, in assenza di una responsabilità precisa ascrivibile a un attore ben preciso, Floridi postula la necessità di una “appropriata infraetica” (Floridi, 2026, p. 296). Ad esempio, il bike sharing di per sé è una pratica virtuosa sul piano ecologico, però “queste biciclette potrebbero essere usate per rapinare una banca o (…) portare a un maggior numero di incidenti legati al traffico” (Floridi, 2026, p. 296). Dunque, la moralità distribuita trova il suo baricentro nel design, cioè nella progettazione di una struttura che sta nel mezzo, “infra”, una infra(struttura) etica. Una sfida teorica tutt’altro che completata, come asserisce lo stesso Floridi.

L’alternativa alla moralità distribuita, per tenere insieme molteplici attori coinvolti in un unico fine, è proposta nella Lettera Enciclica Magnifica Humanitas (Papa Leone XIV, 2026). Si tratta di riguardare a questa molteplicità interagente come a un “ecosistema morale”. La differenza con la moralità distribuita è radicale. Se la prima si può immaginare come una tela piena di punti fissi, la seconda si dà a vedere come una collettività che vede la partecipazione di tutti i suoi componenti, intesi come sistemi. Il pensiero sistemico (Bertalanffy, 1968; Urbani Ulivi, 2010, 2013, 2015, 2019) porta la sua attenzione a queste individualità complesse, risultante della partecipazione e del mutuo scambio di ogni entità rappresentata, nel mondo animale dagli sciami o, nelle città, dai flussi del traffico. A portare questo modello nell’agire morale contribuisce in modo davvero efficace Leone XIV con alcuni passaggi chiave della Magnifica Humanitas:

“LʼIA non sottrae il conflitto alla sua intrinseca disumanità (...). È pertanto della massima importanza infondere valori e giudizio prudente nella programmazione dei sistemi artificiali che costruiamo, i quali possono contribuire a un ecosistema morale in cui gli esseri umani siano meglio posti in grado di ascoltare la propria coscienza e in cui i modelli di IA fissino confini appropriati” (Papa Leone XIV, 2026, § 198).

5.1 Cooperazione sistemica tra agente morale e macchina

Il principio della moralità distribuita si può leggere come un’espansione delle dinamiche dell’agire. La visione di Floridi va in questa direzione, come egli stesso ammette quando scrive:

“Abbiamo bisogno di un’etica aumentata per una teoria dell’agency morale aumentata” (Floridi, 2026, p. 191).

“(…) facilita la discussione della moralità degli agenti non solo nell’infosfera, ma anche nella biosfera, in cui gli animali possono essere considerati agenti morali che debbano manifestare libero arbitrio, emozioni o stati mentali (…) Il vantaggio maggiore, tuttavia, è forse una migliore comprensione del discorso morale” (Floridi, 2026, p. 191).

A ben vedere, questa aspirazione inclusiva non è necessaria. Perché, ad esempio, agli animali si può assegnare una qualche forma di moralità di grado zero leggendo l’istinto come inclinazione al bene, nei termini del mantenimento in vita e della continuità della specie (Fisogni, 2017). Il ricorso alla moralità aumentata come nuovo paradigma non serve nemmeno per la relazione con le macchine dotate di intelligenza artificiale. Ciò dipende dal fatto che, in quel caso, si instaura una dinamica sistemica, dal momento che soggetti umani e macchine “intelligenti” vanno considerati nei termini di sistemi, i cui scambi danno vita, semmai, a proprietà emergenti. Se dunque, vogliamo includere gli strumenti digitali nel discorso etico, è da questo punto di vista che andremo a cercare. Torna, di conseguenza, il richiamo al concetto di “ecosistema” che risuona nella Lettera Enciclica, pur senza riferirsi esplicitamente al pensiero sistemico. Ad esempio, nel caso della autorialità di un testo giornalistico attraverso il supporto di un LLM come Gemini o ChatGpt (Fisogni, 2026), il testo vive una propria autonomia sia rispetto al giornalista, sia alla macchina. La moralità qui chiamata in causa non è “aumentata” ma piuttosto “emergente” o sistemica. Tuttavia, nel suo darsi, essa resta collegata anche alla moralità del soggetto umano / giornalista, non è svincolabile in toto dalla persona impegnata nell’interazione. Da questo punto di vista, le preoccupazioni del pontefice per coloro che formano i devices digitali sono più che mai fondate, perché la “moralità” della macchina ha sempre e solamente senso in relazione ad un attore morale personale. Sul piano teoretico, in nessuno dei due esempi citati, la macchina diventa un “individuo”. Come proprietà emergente appartiene all’uno e all’altro sistema, con una priorità assoluta per l’attivatore della relazione cooperativa (agente morale persona). In altre parole, non possiamo considerare l’emergenza (morale) uomo / macchina allo stesso modo di una entità autonoma come succede, ad esempio, negli esseri collettivi (Minati & Pessa, 2006), quali gli sciami o lo street-style. Ciò fa riflettere sul fatto che la morale, che mette le radici nella responsabilità personale, resta ancorata all’agente.

Note conclusive

Alla luce dell'analisi condotta, la nozione di "agente morale artificiale" rivela la sua fragilità speculativa, a giudizio di chi scrive. Se l'azione della macchina rimane confinata entro la linearità computazionale di un'esecuzione eterodiretta, l’agire della persona si articola attraverso la complessa dinamica del consenso, dell’inclinatio e dell’applicatio, radicate nella coscienza e nella responsabilità intenzionale. La proposta di una "moralità distribuita" e l'introduzione di un "male artificiale" privo di stati mentali finiscono per dissolvere il centro di imputabilità etica, riducendo l'agire pratico a mero design infrastrutturale. Al contrario, la prospettiva dell'ecosistema morale delineata nell'enciclica Magnifica Humanitas offre una sintesi rigorosa: la tecnologia non diventa soggetto morale, ma rimane uno strumento integrato all'interno di una rete sistemica guidata, programmata e custodita dalla responsabilità della persona umana, unico ed esclusivo agente morale.

ABSTRACT

In her paper on human agency and AI ethics, philosopher Primavera Fisogni addresses one of the most critical debates in contemporary philosophy: whether Artificial Intelligence can be conceptualized as a "moral agent." Grounding her inquiry in Paragraph 198 of Pope Leo XIV’s Encyclical Magnifica Humanitas (2026), which asserts that moral judgment cannot be reduced to computation, Fisogni provides a defense of personalist anthropology, contending that moral agency is an exclusive, non-transferable capacity of the human person. Her central contribution lies in her critical dismantling of Luciano Floridi’s information ethics. While Floridi defines agency through operational metrics—interactivity, autonomy, and adaptability—treating agents as a "what" rather than a "who", Fisogni highlights the theoretical flaws of his framework. Floridi’s concepts of "mindless agency" and "artificial evil" attempt to account for system failures without human fault, but Fisogni demonstrates that assigning moral attributes to non-conscious devices erodes true ethical accountability, reducing moral life to structural design (infraethics).

Furthermore, she emphasizes that while digital devices remain bound to linear algorithmic execution—where even errors like AI hallucinations stem from training parameters rather than autonomous choice—human beings possess non-linear freedom, including the capacity to refrain from acting or to open themselves to relational depth. To anchor her position in speculative metaphysics rather than mere rhetoric, Fisogni retrieves Thomas Aquinas’s psychology of the human act, specifically analyzing the movement from inclinatio to applicatio through consenso (simulsentire, or "feeling-together"). She shows that human action is an inherently systemic dynamic involving intellect, free will, emotion, and relational awareness. Applicatio, as a form of practical knowledge, establishes an active adherence to concrete reality (singularia) that digital systems, lacking consciousness and intentionality, cannot replicate. Finally, Fisogni contrasts Floridi’s "distributed morality" with the Encyclical’s model of a "moral ecosystem." Where distributed morality risk-diffuses responsibility across technological networks, a moral ecosystem preserves clear ontological boundaries: technology functions as an integrated instrument within a system, while the human person remains the sole, irreplaceable center of moral responsibility. Fisogni’s paper is aimed at deliver a vital speculative bridge for personalist philosophy in the digital era, proving that the "almost-human" features of advanced AI underscore an unbridgeable ontological divide between creation and artifact.

1Primavera Fisogni, PhD, filosofa e giornalista, editor e founder di Rekh Magazine, ha condotto numerose ricerche peer reviewed sulle implicazioni metafisiche e sistemiche dell'intelligenza artificiale nelle interazioni onlife. I suoi studi analizzano il legame tra machine learning ed emozioni (Encyclopedia of Data Science and Machine Learning, 2023) e l'adattamento dei sistemi intelligenti all'ambiente (Multiple Systems, 2024 con L. Urbani Ulivi). Ha esplorato gli aspetti sistemici del trauma nel rapporto uomo-macchina (Exagère, 2025) e il ruolo dei limiti cognitivi per potenziare l'IA (Philosophy and Realistic Reflection, 2025). Le sue indagini si estendono alla consapevolezza della tecnologia (SunText Review, 2026), alle sfide dell'autorialità nella collaborazione con l'IA (Encyclopedia of Modern AI, 2026) e ai nuovi paradigmi educativi offerti dalle interazioni multiple.

2Si vedano, nell’enciclica, i paragrafi 115 e 232.

3Rinvio il lettore interessato al capitolo sulla I-IIae Pars della Quaestio 15 di Tommaso, nella Summa Theologiae, al volume: Fisogni, P. (2009). L’inaridimento dei terroristi, Roma, Pusc (Tesi di dottorato)