Bra debattartikel om AI-etik i vården. Det är det område där jag ser enorm potential för att rädda liv, men också oerhörda risker med obalans i vems liv som prioriteras. Ansvarsfrågan blir fruktansvärt viktig att reda ut innan systemen tas i bruk.
David Sundemo och Sam Polesie lyfter ansvarsfrågan på ett tydligt sätt:
"Ansvarsfrågan kan exemplifieras på följande sätt; Rut genomgår en röntgenundersökning. Ett AI-system bedömer att det inte finns något avvikande och Rut får lugnande besked. Ett år senare söker hon vård igen och det visar sig att hon har en tumör i höger lunga. Vid eftergranskning framgår att tumören kunde ses redan på den första bilden. Vem är ansvarig? Är det ingenjörerna som utvecklade algoritmen, är det den som köpte in systemet, eller är det läkaren som förmedlat beskedet?"
Hur dessa system tränas blir också en nyckelfråga. Då vita mäns hälsa och kroppar länge har fått stå modell för sjukvårdens forskning så är det också denna data som många AI-system matas med. Det blir då en underrepresentation av träningsdata för personer som ofta utstår diskriminering i andra sammanhang också.
"En läkare som exempelvis bara tränar på att bedöma hudförändringar hos ljushyade blir duktig på det, men mindre bra på att bedöma förändringar hos mörkhyade. I databaser för träning av hudbedömningsalgoritmer är personer med mörk hud kraftigt underrepresenterade. Om detta fortsätter är risken stor att hälsomässiga ojämlikheter cementeras."
Jag brukar uttrycka det så här:
Hur ska en dators värderingar förändras när människors värderingar förändras över tid? Modellerna vilar nämligen ofta på decennier av fördomsfullt informationsunderlag – och oerhört begränsade underlag ur ett globalt perspektiv. Att förflytta beslutsfattande till maskiner riskerar alltså att öka beslutsfattande som är grundat i värderingar många människor vill komma ifrån.
Till sist poängterar Sundemo och Polesie okså hur läkare måste vara mer involverade i utvecklingen av verktygen. Vi riskerar annars att patienter reduceras till datapunkter som behandlas som statistiska fenomen.
Jag vill nog påstå att patienter och vårdsökande måste vara mer involverade också. Det är de som alla andras makt mest tydligt drabbar. Och då gärna de som har särskild erfarenhet av att diskrimineras och bli bortglömd i alla tekniksprång som ska förbättra världen för alla, men ofta bara gör det för ett särskilt urval.
https://lakartidningen.se/opinion/debatt/2022/08/ai-etik-en-nyckelfraga-for-etiskt-hallbar-vard/
#AiEtik #DigitalEtik #DigitalOmtanke