”AI kan ge barn en ljusare framtid”

En kartläggning som Socialstyrelsen har gjort visar att antalet orosanmälningar gällande barn och unga som far illa har ökat med 27 procent sedan 2018. Många barn och unga når inte sin fulla potential på grund av de förhållanden de lever under i tidig ålder. Detta är en stor folkhälsoutmaning. Men med hjälp av digitalisering och artificiell intelligens (AI) kan vi förebygga problem och ge barn en ljusare framtid.

Risk- och skyddsbedömningar rörande barn och unga har i årtionden genomförts med hjälp av olika former av standardiserade checklistor. Användandet av AI-baserade prediktiva riskmodeller (PRM) har ökat under det senaste decenniet och det pågår flera pilotprojekt i svenska kommuner. Det saknas dock forskningsbaserad utvärdering och beredskap för breddinförande, och det råder stor osäkerhet kring tillämpningen på grund av avsaknad av en nationell samordning.

LÄS MER: Maktlista: De har mest inflytande över digitaliseringen

Enligt forskningen går åsikterna isär beträffande PRM:s effektivitet. Medan vissa hävdar att PRM fattar mer korrekta beslut än traditionella diagnostiska checklistor, hävdar andra att PRM riskerar att kodifiera över sprickorna utan att ta itu med de grundläggande bristerna vid bedömning av risk och skydd, inte minst när det handlar om diskriminering och fördomar.

Erfarenheter från England, Danmark, USA och Nya Zeeland visar tydligt att handläggarnas omedvetna eller medvetna fördomar kan resultera i felaktiga och inkonsekventa beslut, vilket innebär stora risker, särskilt när PRM-algoritmer bygger på data från tidigare bedömningar.

Några fördelar med AI-baserade beslutsstödsystem:

AI identifierar och kategoriserar informationen i orosanmälningarna och kan därigenom prognosticera eventuella framtida mönster och tendenser. Därför kan PRM öka socialtjänstens möjligheter att effektivt urskilja de mest akuta och allvarliga ärendena. Socialtjänsten får därmed hjälp med att identifiera personer och familjer i riskzon tidigt, prioritera ärenden och fördela resurser mer effektivt.

Om AI-systemet utvecklas och används på ett ogenomtänkt sätt kan detta istället leda till ökade kostnader, ineffektivitet, ökad stress för anställda och risker för medborgare. Därför är forskningsbaserade systematiska analyser av effekter och kostnadseffektivitet viktiga.

Vad krävs för att säkerställa nytta och gynnsamma effekter av AI-baserade beslutsstödsystem, särskilt inom den del av socialtjänsten som arbetar med barn och unga?

1. Utveckla en nationell strategi för evidensbaserat införande av AI-beslutsstöd i socialtjänstens arbete gällande utsatta barn och unga.

Regeringen bör ge Socialstyrelsen i uppdrag att utveckla en nationell strategi som bygger på forskning och evidens. Öronmärkta anslag bör även avsättas för kvasiexperimentell forskning som ger underlag för breddinförande och utveckling av nya och bättre algoritmer.

2. Gör en noggrann analys av de etiska och sociala konsekvenserna av AI-beslutsstöd.

Rättvisa, jämlikhet, mänsklig inverkan, datakvalitet, sekretess och integritet, samt ansvarighet och transparens, är alla aspekter som bör bevakas noga. En oberoende etisk granskning bör göras före införande av AI-beslutsstödsystem för att säkerställa att även FN:s barnkonvention och AI-förordningar efterlevs.

3. Utveckla ett nationellt upplysningsprogram för medborgare samt ett kunskapsutvecklingsprogram för beslutsfattare och personal inom socialtjänsten.

Prediktiva algoritmer kommer att vara vanligt förekommande inom socialtjänsten inom de närmaste åren. Därför är det brådskande att en nationell strategi för evidensbaserade AI-beslutsstödsystem införs, särskilt inom socialtjänstens arbete gällande utsatta barn och unga.

Sarah Wamala Andersson
Professor i hälso- och välfärdsteknik, Mälardalens universitet

Ophelia Mac-Kwashie
Barnavårdsutredare, Licensierad utbildare, handledare och rådgivare i Signs of Safety

Johan Magnusson
Professor i informatik, Swedish Center for Digital Innovation, Göteborgs universitet