Uppmärksamma och hantera de etiska utmaningarna med AI

Artificiell intelligens (AI) i hälso- och sjukvården har stora förutsättningar att skapa nytta för både patienter och samhälle. AI kan bidra till säkrare diagnostik, tidigare upptäckt av sjukdom och mer individanpassad behandling. AI-baserade hälsoappar kan stödja egenvård och bidra till självständighet och livskvalitet. Administrativa system kan effektivisera schemaläggning och hantering av patientflöden.

Samtidigt som AI har stor potential att förbättra hälso- och sjukvården visar en kartläggning som Statens medicinsk-etiska råd (Smer) har gjort att AI i vården också innebär flera betydande utmaningar, av såväl teknisk, juridisk som etisk art.

Några av utmaningarna är desamma som när andra nya metoder och teknologier introduceras, som exempelvis hur en jämlik tillgång kan säkras så att inte införandet av AI i vården leder till ökade hälsoklyftor.

Andra utmaningar är kopplade till vårdens digitalisering generellt. Det gäller exempelvis hur utvecklare av AI i hälso- och sjukvården ska kunna få tillgång till de stora mängder känsliga patientdata som krävs på ett etiskt hållbart sätt, och hur vi som medborgare ska kunna ges kontroll över data som rör den egna personen.

Men AI innebär också specifika utmaningar. En grundläggande etisk utmaning handlar om vilka värderingar som byggs in i algoritmerna. Inga beslut, vare sig i vården eller i livet i stort, vilar endast på fakta. Hur säkerställer vi att behandlingsrekommendationer från en algoritm vilar på etiskt acceptabla principer och återspeglar patientens värderingar? Utmaningen förstärks av att AI-algoritmer ofta fungerar som ”svarta lådor”, där vi tillhandahåller indata och får ett resultat, men många gånger inte kan veta hur de kommer fram till resultatet.

Datakvalitet är annan utmaning. Sjukdomsförlopp och behandlingsval påverkas av faktorer som exempelvis kön, ålder, etnicitet och samsjuklighet. Om de data en algoritm tränats på inte återspeglar denna variation kan det leda till patientsäkerhetsrisker och ojämlik vård. I de system för godkännande och uppföljning av AI-system i hälso- och sjukvården som behöver utvecklas måste det finnas rutiner för att säkerställa att algoritmer tränas och testas på data som är kliniskt relevanta och representativa för den patientgrupp de ska användas för.

Ytterligare en utmaning är att vi har ett regelverk som bygger på att det är hälso- och sjukvårdspersonalen som fattar beslut i vården och ansvarar för att besluten följer vetenskap och beprövad erfarenhet. Detta regelverk kan behöva anpassas när allt fler vårdbeslut i praktiken fattas av autonoma datasystem.

Smers budskap är att de etiska utmaningarna med AI behöver uppmärksammas och hanteras. Annars riskerar förtroendet för teknologin att skadas, vilket kan ge sämre förutsättningar för att ta tillvara möjligheterna med AI. Utmaningarna får inte uppfattas som hinder för innovation, utan som något som kan stimulera och vägleda utvecklingen av tillämpningar som främjar gemensamma mål och värden. Etiskt medvetna avvägningar behöver göras i dialog mellan utvecklare, professioner, patienter, beslutsfattare och medborgare.

Regeringen och Sveriges Kommuner och Regioner lyfter i den senaste e-hälsostrategiska överenskommelsen behovet av att analysera grundläggande frågor om etik, säkerhet, transparens, förklarbarhet, representativitet i data och kvalitetssäkring. För att kraftsamla kring sådana frågor förespråkade Smer 2017 en digitaliseringsetisk strategi som komplement till visionen för e-hälsa. De etiska utmaningarna kopplade till AI i hälso- och sjukvården understryker och tydliggör enligt min mening behovet av en sådan strategi.

Kenneth Johansson, Ordförande, Statens medicinsk-etiska råd