Etik och sociala konsekvenser av AI och vardande robotar

Fotografen reflekteras i robotens blanka huvud

Robotar har tagit klivet in i våra hem, snart stöter vi på dem i vården. Projektet studerar om och hur vi kan bygga relationer med sociala robotar som bygger på tillit, empati och ansvarstagande.

Ericka Johnson och roboten Pepper
Ericka Johnson och roboten Pepper
Det här projektet leds av Ericka Johnson och Katherine Harrison på Tema Genus vid Institutionen för Tema och fokuserar på de frågor som uppstår när robotar används för att tillhandahålla omsorg. Genom fältarbete på olika platser har teamet utforskat: användningen av sociala robotar inom vårdinrättningar; laboratorier som betraktar robotar som ett verktyg för att hantera autism; robotar som ett sätt att undersöka den mänskliga/icke-mänskliga relationen; och robotar som ersättning för omsorg om djur. Våra teoretiska infallsvinklar hämtar inspiration från feministisk teknovetenskap, kritiska datastudier, dekolonial teori, vetenskaps- och teknikstudier samt filosofi. Dessutom kopplar vårt arbete till området människa-robotinteraktion, då vi samarbetar med robotiker kring frågor om känslor och misslyckanden.

Projektet är ett samarbete mellan samhällsvetenskapliga forskare vid Linköpings universitet och robotikforskare vid Social Robotics Lab i Uppsala och Örebro.

Deltagare vid Tema Genus är Katherine Harrison, Ericka Johnson, Isabel García Velázquez, Maria Arnelid och Dominika Lisy. Vi samarbetar också med Ginevra Castellano och Katie Winkle (i Uppsala) samt Amy Loutfi och Kavyaa Somasundaram (i Örebro).

En forskare interagerar med en AI-robot

Under projektets gång har vi:

  • Utfört fältarbete vid robotiklaboratorier och ute i samhället i Sverige, Frankrike, Tyskland och Japan.
  • Samarbetat med robotiker kring artiklar, workshops och projekt som förenar feministisk teori och robotikforskning. Höjdpunkter inkluderar:
    • Maria Arnelid och Sofia Thunberg organiserade en workshop om vårdrobotar för äldre vuxna vid RO-MAN 2022.
    • Isabel organiserade en session vid 4S/ESOCITE-konferensen 2022 med titeln: "Caring Futures: Assembling Imaginaries, Embodiments and Practices in Sociotechnical Systems of Care"
    • Ericka höll en keynote-föreläsning vid HRI 2023 med titeln "Robotics Research and Teaching with a Feminist Lens".
    • Maria, Katherine och Ericka var en del av författarlaget bakom "Feminist Human-robot interaction: Disentangling Power, Principles and Practice for Better, More Ethical HRI", som tilldelades "Best Paper Award" vid HRI 2023.
    • Vid samma möte organiserade Katherine även en workshop med titeln "The Imperfectly Relatable Robot: An interdisciplinary workshop on the role of failure in HRI."
    • Dominika var medförfattare till en viktig översiktsartikel om genusaspekter på humanoida robotar, tillsammans med Giulia Perugia.
  • Främjat tvärvetenskapliga diskussioner kring kritisk robotik, inklusive en workshop om kritisk robotik i Norrköping 2024 (länk till bloggartikel om workshoppen).
  • Integrerat våra erfarenheter och resultat i undervisningen på grund-, avancerad- och forskarnivå.

Två forskare titta på en orange robot

Utanför akademin inkluderar vår utåtriktade verksamhet:

  • Den temporära utställningen om sociala robotar som Maria och Dominika kurerade lanserades på Arbetets museum som en del av Digitopia-utställningen.
  • Arbetet som experter i Robotics4EU-policydiskussioner, föreläsningar vid AI for Girls och East Sweden; Human-Friendly AI vid Lund; och FORK (ett utåtriktat forum för ungdomar i Linköping).

Vår forskning har integrerats i WASP-HS-kurser på forskarnivå (STS-metoder för autonoma system & AI och feministisk teknovetenskap för AI) samt påverkat den grundläggande och avancerade undervisningen vi bedriver vid Linköpings universitet. En del av vår undervisning har också varit online: Katherine organiserade en ACTS/AI4D-kurs om Förstå ansvarsfull AI för studenter i Afrika, där många av oss bidrog, via Zoom.

Publikationer

Thunberg, S., Arnelid, M. (2022). ”Effects on Care with Long-Term Deployments of Social Companion Robots in Residential Homes”. In 17th Annual ACM/IEEE International Conference on Human-Robot Interaction (HRI 2022)

García Velázquez, I. (2022). The Invisible Sojourner: A Journey of Gender Recollections and Reflections. Presented at the 11th European Feminist Research Conference (Milan, Italy), June 15-18, 2022.

Paulsson, T., Zhong, M., García Velázquez, I., Castellano, G. (2023). Exploring Mothers' Perspectives on Socially Assistive Robots in Peripartum Depression Screening HRI'23. ACM

Velázquez, I.G. (2023). The Making of Gendered Bodies in Human-Robot Interactions. Int J of Soc Robotics

Harrison, K., E. Johnson (2023) .Affective corners as a problematic for design interactions. Transactions on Human Robotics Interactions

Winkle, K., D. McMillan, M. Arnelid, M. Balaam, K. Harrison, E. Johnson, I. Leite. (2023). Feminist Human-robot interaction: Disentangling Power, Principles and Practice for Better, More Ethical HRI. HRI'23. ACM

HAI 2023 (The Eleventh International Conference on Human-Agent Interaction) "An interdisciplinary approach to intelligent disobedience: A Nuanced Exploration of User Experience in Human-Induced Interaction Failures during Teleoperation"

Tanqueray, L., Paulsson, T., Zhong, M., Larsson, S., and Castellano, G. (2022). Gender Fairness in Social Robotics: Exploring a Future Care of Peripartum Depression. In Proceedings of the 2022 ACM/IEEE International Conference on Human-Robot Interaction (HRI ‘22)

Zhong, M., Bilal, A. M., Papadopoulos, F. C., & Castellano, G. (2021). Psychiatrists’ Views on Robot-Assisted Diagnostics of Peripartum Depression. In International Conference on Social Robotics (pp. 464-474)

Thunberg, S. Arnelid, M, Ziemke, T Older Adults’ Perception of the Furhat Robot was Best Paper Nominee at the 2022 Human-Agent Interaction Conference

García Velázquez; I. (2022) Whose Care are We Talking About? 4S/ESOCITE

Arnelid, M., K. Harrison, E. Johnson. (2022) What Does it Mean to Measure a Smile? Assigning Numerical Values to Emotions. Valuation Studies

Perugia, G. and Lisy, D., 2023. Robot’s gendering trouble: a scoping review of gendering humanoid robots and its effects on HRI. International Journal of Social Robotics, 15(11), pp.1725-1753.

 

Stor del av vårt arbete är också en del av en antologi, "What that Robot Made Me Feel", redigerad av Ericka Johnson, med MIT Press, (kommande).

Vi hoppas att de tre doktorsavhandlingarna kommer att vara klara från 2025.

Slutligen har arbetet också genererat en TikTok: Robot_meets_Pet

Kontakt

Organisation