Beslutsalgoritmerna är här för att stanna

Automatisering och digitalisering sker i en allt snabbare takt. Det är svårt att greppa dess omfattning och överblicka framtida konsekvenser. Det står också klart att automatisering och digitalisering kommer att leda till stora förändringar på arbetsmarknaden, vilket i sin tur kommer att förändra hur kommuner och regioner arbetar. Men hur ska man egentligen se på denna utveckling?

Man ska känna stor respekt för den oro och de reservationer som ibland uttrycks i debatten om digitalisering och automatisering. I mitt praktiska arbete med algoritmiskt beslutsfattande återkommer ofta tre invändningar.

• Många arbetsuppgifter kommer i framtiden att skötas av intelligenta system och därför riskerar många tjänstemän att bli av med sina anställningar. Exempelvis räknar konsultbolaget McKinsey med att nästan hälften av alla nuvarande jobb kommer att tas över av robotar och intelligenta system. Man litar inte fullt ut på motargumentet att de som drabbas i stället kommer att ges möjlighet att fokusera på mer krävande arbetsuppgifter.
• Många beslut kommer att delegeras till algoritmer som inte är tillräckligt transparenta för man ska förstå hur besluten faktiskt fattats. Alltså uppfyller algoritmer inte nödvändigtvis kraven för transparens och de är därför inte med automatik rättssäkra.
• Det känns otryggt att lämna över viktiga beslut till automatiserade processer och algoritmer, eftersom de inte är helt tillförlitliga. Alla har gissningsvis hört talas om självkörande bilar som varit inblandade i dödsolyckor, tradingrobotar som spekulerat bort miljardbelopp på börsen och andra saker som helt enkelt blivit knasiga när beslut automatiserats.

Det är svårt att inte hålla med om ovan invändningar. Samtidigt är det viktigt att nyansera och förstå algoritmernas roll. Ett välkänt exempel på en lyckad automatisering är den digitalisering av ansökningar för ekonomiskt bistånd som Trelleborgs kommun implementerade för ett par år sedan. Resultatet är att handläggningstiden minskat från åtta till en dag. Det är en bra service till kommunens invånare.

Effektiviseringar har historiskt också medfört högre ekonomiskt välstånd. Få personer anser nog att den industriella revolutionen på sikt var dålig för samhället, även om många av de personer som levde då missgynnades av de förändringar som följde i den industriella revolutionens spår.

Det är dessutom en myt att beslutsalgoritmer med nödvändighet leder till mindre transparenta beslutsprocesser. Ibland är det precis tvärtom. Betrakta till exempel de skolval som landets 290 kommuner genomför varje år. Jag har hittills inte sett ett exempel där informationen på kommunens hemsida är tillräckligt utförlig för att kommuninvånarna ska kunna förstå exakt hur skolvalet går till.

Det räcker inte att fastslå – som många svenska kommuner gör – att om det finns fler sökande än tillgängliga platser så fördelas platserna i turordningen: syskonförtur, relativ närhet och något tredje kriterium. Även i en liten stad finns det många olika skolplatstilldelningar som uppfyller just dessa krav (det är inte helt enkelt att inse, men det har att göra med den matematiska strukturen i matchningsproblemet).

Om en algoritm i stället sköter tilldelningen kan den ange samtliga argument till varför eller varför inte en elev blir antagen vid en viss skola. Algoritmen garanterar således en transparent och rättssäker tilldelning av skolplatser till skillnad från de system som bygger på manuell hantering.

Det är också viktigt att särskilja ”graden” av automatisering. En automatisk process som kontrollerar att alla krav för ekonomiskt bistånd är uppfyllda – såsom i Trelleborgs kommun – kommer inte att göra några fel så länge den underhålls och uppdateras i takt med övrig mjukvara och databaser. Däremot måste man säkerställa att känslig kod och sekretessbelagda uppgifter inte lämnas ut till obehöriga, något som nyligen inträffade i just Trelleborg.

Om man ställer högre krav på maskinintelligens – såsom att algoritmen ska ersätta mer komplicerade beslut där olika faktorer och information vägs mot varandra – är graden av osäkerhet i beslutet så klart högre. I sådana situationer måste en fysisk person alltid kontrollera rimligheten i beslutet.

Men även i situationer där det krävs en hög grad av maskinintelligens kan beslutsalgoritmer vara till stor nytta för samhället. Ett bra exempel är den utmaning som kommuner och regioner ställs inför i samband med stora flyktingströmmar. Forskning har visat att det finns empiriska belägg för att den initiala geografiska placeringen av nyanlända flyktingar har betydelse för deras etablering på arbetsmarknaden, framtida utbildning och så vidare. Men hur ska man utan hjälp av algoritmer och maskininlärning kunna förstå vilken som är den optimala geografiska placeringen? I bland annat USA och Schweiz har algoritmisk programvara utvecklats i samarbete med organisationer och myndigheter (lokalt och regionalt) för att ge svar på just den frågan.

Även om det alltså finns många rimliga invändningar mot användandet av algoritmer och automatiserade processer är det inte svårt att se att det även existerar många uppenbara fördelar. Dessutom är denna utveckling svårstoppad, och det är gissningsvis heller inte samhälleligt optimalt att försöka bromsa den. Det är därför viktigt att kommuner och regioner omfamnar, försöker förstå och förbereder sig inför framtida utmaningar.

Beslut som fattas av algoritmer måste vara transparenta. Likaså måste det finnas en tydlighet i styrning och kontroll av data och kod samt välutvecklade juridiska och etiska ramverk för automatiserat och algoritmiskt beslutsfattande. Först när dessa komponenter är på plats kan man påstå att automatisering och algoritmiska beslut är etiska och rättssäkra i ordens sanna bemärkelser. Jag är nog inte ensam om att tro att Sveriges kommuner och regioner inte får det stöd de behöver i denna process. Detta borde åtgärdas omgående.