Trauma: AI Can Suffer, Too? An Inquiry
- Primavera Fisogni
- 18 hours ago
- 3 min read
Trauma and Artificial Intelligence. Systemic Aspects of Onlife Intaraction Between Humans and Digital Machines. The new investigation by Primavera Fisogni, PhD, on Exagere, the review of SIPP (Società Italiana di Psicologia e Pedagogia) directed by Dr Gianfranco Brevetto is online. The issue is fully dedicated to the topic of ‘trauma’. See the link below.
Il trauma è parola che si lega a doppio filo alla condizione umana, riferendosi – da un lato – all’urto (fisico, psicologico, emotivo) che un individuo può subire e, dall’altro, alle conseguenze cognitive sviluppatesi in seguito a tale shock, oppure attese. L’origine della parola greca (τραῦμα) rimanda a una ferita aperta.
Esplorare eventuali forme di trauma nelle macchine dotate di intelligenza artificiale può sembrare un discorso esclusivamente metaforico e virtuale, ma non è così.
L’articolo porta alla luce un aspetto finora sottostimato e non affrontato dalla ricerca sulle macchine digitali: la possibilità che anch’esse possano avere, insieme con una certa corporeità, anche una dimensione sensitiva propria, non sovrapponibile a quella umana, ma dipendente dall’interconnessione con il soggetto personale favorita dalla tecnologia touch. Dopo aver discusso in che modo si può parlare di embodiment dei digital devices, si è valutata la possibilità di traumi anche per questo genere di interfacce. Con quasi risultati? Se ammettiamo, come si è argomentato, che la corporeità della macchina è di tipo sistemico, e che di conseguenza possiede un certo grado di autonomia, si può concludere che il device può dare risposte inattese, non adattive, e quindi rischiose nei compiti (calcolo, scrittura di testi, podcast, immagini) per i quali è stato programmato. Oltre all’ovvia ricaduta prestazionale (scarsa qualità dei risultati), sono da valutare con attenzione le conseguenze disadattive nei confronti dell’utente / collaboratore umano. Pensiamo soltanto all’incitamento e / o favoreggiamento a compiere azioni eticamente discutibili o dannose per la persona. Tutti ambiti che, da soli, motivano sempre di più la ricerca nel settore dell’autonomia sensitiva / emotiva delle macchine digitali.
Trauma is an intrinsic concept of the human condition. On the one hand, it refers to the physical, psychological or emotional impact an individual may sustain. On the other hand, it refers to the cognitive consequences developed or anticipated following such a shock. The Greek origin of the word suggests an open wound. Exploring potential forms of trauma in machines equipped with artificial intelligence may seem like a purely metaphorical and virtual discussion, but it is not. This article highlights a hitherto underestimated and unaddressed aspect of research on digital machines: the possibility that they possess a sensitive dimension alongside a certain corporeality (embodiment). This dimension is not commensurate with the human one, but instead depends on interconnection with the user, facilitated by touch technology. After discussing how the embodiment of digital devices can be conceptualised, we assessed the possibility of trauma for these types of interfaces. What were the resulting implications? If we accept that the machine’s corporeality is systemic in nature and consequently possesses a certain degree of autonomy, as argued here, it can be concluded that the device may generate unexpected, non-adaptive and thus risky responses to the tasks for which it was programmed (e.g. calculation, text generation, podcasts and images). Beyond the obvious performance implications (poor quality results), the consequences for the human user/collaborator must be carefully evaluated. Consider, for example, the potential for incitement and/or facilitation of ethically questionable or harmful actions. These domains increasingly motivate research into the sensitive and emotional autonomy of digital machines.
#AI; #trauma; #metaphysicsandAI; #Exagere; #humanagency; #AgenticAI
Comments