Få hela storyn
Starta din prenumeration

Prenumerera

Digitalisering

”Att AI är svårt att förstå är en myt”

Publicerad: 10 september 2021, 05:59

Att stoppa huvudet i sanden och låta någon annan driva AI-utvecklingen kan aldrig gagna offentlig sektor, säger Robin Jägestedt.

Foto: Privat

”Precis som vi förstår vad våra Officepaket gör behöver vi förstå vad AI gör.” Det säger Robin Jägestedt, utvecklingschef på Rinkeby-Kista stadsdelsförvaltning i Stockholm och en av huvudtalarna på SKR:s AI-nätverksträff den 21 september.


Ämnen i artikeln:

Artificiell intelligensRobotisering

Artificiell intelligens är superhett. Så varför ett så torrt tema som ”organisation och process” på nätverksträffen?
– Jag är starkt övertygad om att de inte står i motpol till varandra! Särskilt inte i offentlig sektor där vi måste följa lagstiftningen och använda verktyg som gör det. AI har enorm potential om det används rätt, och där kommer vi in på varför man behöver vara ”byråkratisk och torr”: det finns väldigt stora fallgropar. Eftersom AI fortfarande är ett relativt okänt segment hos många måste vi skynda långsamt. Men inte sitta still i båten. 

Vad kan andra lära sig av Rinkeby-Kista?
– Fler behöver tänka stort, lämna planeringsbordet i ganska tidigt stadium och våga testa. Offentlig sektor är ofta målstyrd: vi definierar förväntat resultat och en plan för hur vi ska uppnå det. Det kan försvåra när man jobbar med innovation och AI, som är mer agilt. 

– Det vi gjort i Rinkeby-Kista är involvera brett – och då menar jag jättejättebrett. Vi har inte bara tagit in specialister och chefer utan också medarbetare med domänkunskap om sina verksamheter: förskollärare, socialsekreterare, vaktmästare och parkingenjörer. Och resultaten är fantastiska. Vi får en otroligt bra mix som leder till att man vågar testa.

AI-utvecklingen går med blixtens hastighet, kompetensutvecklingen på området inte fullt så raskt. Faror/risker?
– Att kommuner och regioner börjar använda sig av AI-verktyg utan grundläggande förståelse för hur de fungerar på konceptuell nivå. Precis som vi förstår vad våra Officepaket gör – mejl och annat vi tar för givet i dag – behöver vi förstå vad AI gör. För AI har verkligen två sidor. Att stoppa huvudet i sanden, avvakta och låta någon annan driva är inget alternativ, det kan aldrig gagna offentlig sektor. Teknikutvecklingen måste ske i symbios mellan ingenjörerna och de som sitter på verksamhetskunskap. Om vi isolerar oss, för att vi tycker att AI verkar läskigt eller komplext, då får vi aldrig produkter som lever upp till våra krav. 

– Och i värsta fall, om vi är passiva för länge och AI blir något som mainstreamas in i offentlig verksamhet utan att vi förstår det konceptuellt, då kan det få allvarliga konsekvenser. Det finns skräckexempel bland annat från Arkansas, USA. Där satte offentlig sektor in en mjukvara för att stötta i beslut om vilka som skulle få söka hjälpbidrag. Plötsligt kunde människor med diabetes eller cp-diagnoser inte söka bidrag på grund av en bugg, vilket blev jättefarligt. 

Var i välfärden kan AI göra mest nytta snabbast?
– På alla ställen med mycket administration och dokumentation – allt ifrån löpande ekonomihantering, hr-stöd i rekryteringsprocesser och för att upptäcka bedrägeriförsök till diverse administration exempelvis äldreomsorgen och förskolan. Där kan AI och robotiserade processer frigöra mycket tid för medarbetarna. 

Det skrivs åtskilligt om beslutsrobotarnas bakomliggande algoritmer som varken offentliganställda eller medborgare förstår. Hur ska rättssäkerheten och demokratin tryggas i framtiden – måste vi alla bli matematiker och programmerare?
– Det är en myt att AI-modeller är ”svarta lådor”, omöjliga att tolka. Det är inte lätt att förstå matematiken och koden. Men det är relativt lätt att förstå hur algoritmerna fungerar rent konceptuellt. Det går att förstå möjligheterna, begränsningarna och tillämpningarna av AI utan att vara matematiker. 

– Men AI ska inte fatta våra beslut, AI är ett verktyg. Det är fortfarande människan som ska ta besluten och det måste vara transparens hela vägen och tydligt gentemot medborgarna: i den här processen har AI använts vid de här tillfällena. Många vill automatisera tjänstemannabeslut, och rent tekniskt gör maskinen antagligen det bättre än människan. Men nu pratar vi om myndighetsbeslut och i dag har vi inte en lagstiftning som stödjer detta. Därför behöver vi vara väldigt försiktiga med sådana tankar. 

Hur ser din framtidsvision ut? Vad kan AI bidra med i välfärden – och var går gränsen?
– Jag tror ju att vi får en effektivare och mer precis verksamhetsutövning med hjälp av AI, och det är precis det vi behöver med kommande sinande intäkter och kompetensbrist i offentlig sektor. Men AI är ingen magisk trollstav. Vi måste vara väldigt försiktiga, för rent tekniskt kommer det gå att göra hur mycket som helst. Var vi drar gränsen är en etisk och moralisk fråga, speciellt i offentlig sektor eftersom vi jobbar med förtroendekapital som kan grusas väldigt snabbt. 

– Så vi får inte låta tekniken styra oss. Och total transparens är ett måste! Vi har inte råd att göra på något annat sätt. 

 

 

 

 

Anna Lundegårdh

Reporter

al@dagenssamhalle.se

Dela artikeln:


Nyhetsbreven som ger dig bäst koll på samhället

Välj nyhetsbrev

Se fler branschtitlar från Bonnier News