Anna Nilsson
Associate senior lecturer
Träffsäkra och icke-diskriminerande suicidbedömningar med hjälp av AI – är det (o)möjligt?
Author
Editor
- Moa Dahlin
- Niklas Juth
- Stefan Sjöström
Summary, in English
Ett välkänt problem med dagens suicidriskbedömningar är att de är så osäkra. Det finns tyvärr inget riskbedömningsverktyg som kan avgöra om patienter faktiskt kommer att avsluta sina liv om de inte får vård (Runesson et al, 2017). Ett annat problem, vilket inte uppmärksammats i suicidlitteraturen men som är i fokus i denna text, är att riskbedömningar missgynnar vissa grupper. Forskning om artificiell intelligens (AI) har visat att riskbedömningar som bygger på statistiska riskfaktorer inte kan vara lika träffsäkra för olika grupper och samtidigt fördela misstag (falska positiva och falskt negativa) lika mellan dessa grupper (Kleinberg et al., 2016). Ett riskbedömningsverktyg som har samma positiva prediktiva värde (PPV) för suicid oavsett kön kommer att göra fler misstag i förhållande till något av könen. Om verktyget justeras för att fördela misstag lika mellan könen kommer det att förlora i tillförlitlighet. Detta kallas för omöjlighetsteoremet och beskrivs vidare i avsnitt tre.
Denna text diskuterar de diskrimineringsrättsliga implikationerna av omöjlighetsteoremet i relation till suicidriskbedömningar. Frågorna är högaktuella i ljuset av den digitaliseringstrend som pågår inom vården. Forskning pågår och redan idag finns ett antal AI-verktyg för suicidriskbedömningar som presterar lika bra eller bättre än riskbedömningar som utförs av psykiatriker utan hjälp av AI (Bernert et al., 2020; Lejeune et al., 2022). Avsnitt två ger en kort beskrivning av denna utveckling liksom av hur suicidriskbedömningar går till och dess begränsningar, vilket tjänar som en bakgrund till den kommande diskussionen. Avsnitt tre fördjupar sig i omöjlighetsteoremet och hur det påverkar just suicidriskbedömningar. I avsnitt fyra presenteras olika åtgärder för att minska de negativa effekterna av omöjlighetsteoremet. Därefter följer en analys av hur diskrimineringsrätten, inklusive relevanta regler i EU:s AI-förordning, påverkar utformning och användning av AI-baserade suicidriskbedömningsverktyg. Kapitlet avslutas med en reflektion över rättsutredningens relevans och giltighet i förhållande till andra riskbedömningar i tvångsvården.
Denna text diskuterar de diskrimineringsrättsliga implikationerna av omöjlighetsteoremet i relation till suicidriskbedömningar. Frågorna är högaktuella i ljuset av den digitaliseringstrend som pågår inom vården. Forskning pågår och redan idag finns ett antal AI-verktyg för suicidriskbedömningar som presterar lika bra eller bättre än riskbedömningar som utförs av psykiatriker utan hjälp av AI (Bernert et al., 2020; Lejeune et al., 2022). Avsnitt två ger en kort beskrivning av denna utveckling liksom av hur suicidriskbedömningar går till och dess begränsningar, vilket tjänar som en bakgrund till den kommande diskussionen. Avsnitt tre fördjupar sig i omöjlighetsteoremet och hur det påverkar just suicidriskbedömningar. I avsnitt fyra presenteras olika åtgärder för att minska de negativa effekterna av omöjlighetsteoremet. Därefter följer en analys av hur diskrimineringsrätten, inklusive relevanta regler i EU:s AI-förordning, påverkar utformning och användning av AI-baserade suicidriskbedömningsverktyg. Kapitlet avslutas med en reflektion över rättsutredningens relevans och giltighet i förhållande till andra riskbedömningar i tvångsvården.
Department/s
- Department of Law
- Health Law
- Human Rights Law
- Public International Law
- LU Profile Area: Human rights
- Law and Vulnerabilities
Publishing year
2025
Language
Swedish
Pages
41-62
Publication/Series
Tvång på gott och ont - En forskningsantologi om tvång i välfärden
Document type
Book chapter
Publisher
Iustus förlag
Topic
- Law
Keywords
- Hälsa- och sjukvård
- Health law
Status
Published
Research group
- Health Law
- Human Rights Law
- Public International Law
- Law and Vulnerabilities
ISBN/ISSN/Other
- ISBN: 9789177373216