Forsker: Udvikling af teknologi former politikken og samfundet

Hvis regeringen vil spare tre milliarder kroner på beskæftigelsesområdet, så må en mere vidtgående digital løsning på området være central. Det vurderer lektor Naja Holten Møller fra Datalogisk Institut ved Københavns Universitet. 

Hun har sammen med andre forskere været involveret i forskellige projekter, som er relevante for politikere, der skal tage store beslutninger om digitalisering på beskæftigelsesområdet. I et af projekterne er en række borgere blevet spurgt til, hvordan de oplever en løsning, som er baseret på et fiktivt virtuelt jobcenterunivers. Dette projekt fortæller Naja Holten Møller om i denne artikel.

Læs i øvrigt mere om projektet i denne artikel ’Work of the unemployed’, som er skrevet af Naja Holten Møller og Trine Rask Nielsen, PhD-studerende.

Involver stakeholders

En vigtig pointe, som forskeren gerne vil give videre til politikerne, er, at der ikke er tradition på digitaliseringsområdet for at involvere de relevante stakeholders, inden man er så langt med løsningen, at den dårligt kan rulles tilbage eller laves nævneværdigt om.

De borgere, som vi talte med, forholdt sig meget skeptiske. De oplever, at det er deres private data, og at det ikke er relevant for et jobcenter.

Men hun peger på, at det såkaldte ’spekulative studie’, hvor borgere blev spurgt til, hvad de mente om en virtuel fiktiv jobcenterløsning, viser, at man godt forlods kan spørge borgerne, inden noget er udviklet. Studiet viser – ifølge Naja Holten Møller – også, at borgerne faktisk er temmelig kritiske over for virtuelle løsninger: 

”Det var også en ret vidtgående løsning, vi havde lavet. Den var designet til at være en provokation og ud fra det faktum, at det offentlige har masser af data på os alle sammen. Så diskussionen gik på, hvad borgerne ville sige til, at jobcentrene var virtuelle, og man som borger decideret bytter sine data mod fx at få kontanthjælp. Altså hvad nu hvis man stiller alle sine data til rådighed for det offentlige – fx med data fra rejsekort og sociale medier ¬– og på den måde gør sig selv synlig som jobsøger og derfor berettiget til kontanthjælp. Det vil sige, at det er dine ’private’ data på nettet, der afgør om du kan få offentlig støtte. Sådan noget har jo være på bordet flere gange, så vi synes, det er relevant at vide, hvordan borgerne forholder sig til det,” siger Naja Holten Møller og forklarer, at man allerede kan lave løsningen i dag: 

”Det er ikke et fiktivt scenarie på den måde. Vi har alle data, så man kan i princippet gøre det. Men de borgere, som vi talte med, forholdt sig meget skeptiske. De oplever, at det er deres private data, og at det ikke er relevant for et jobcenter. Men når det så er sagt, så ser de ikke sig selv som en særlig aktiv part i det. De ser ikke sig selv som en del af dem, der producerer data om sig selv, og de ser sig dermed heller ikke i stand til at kunne sige fra over for brugen af deres data. Og den pointe er vigtig i denne her diskussion,” siger hun og uddyber:

”For jo mere digitalt det hele bliver og jo mere vi går over til selvbetjenings-løsninger, jo højere krav stilles der også til borgernes forståelse af de digitale systemer, og i hvilket omfang man har mulighed for at sige til eller fra. Og der viste vores studie altså, at borgerne fx ikke ser sig selv som nogen, der kan sige til eller fra i forhold til, at deres data bliver brugt i forskellige løsninger”.

Nogen skal vurdere udfaldet af algoritmen

Naja Holten Møller tilføjer, at det også er et problem, at borgerne i disse selvbetjenings-løsninger ikke ser sig selv som nogen, der kan modsige beslutningerne, problematisere dem eller korrigere dem. 

”Af studiet kan vi se, at på trods af at de selv er med til at lave datagrundlaget, så ser de ikke sig selv i stand til at træffe aktive beslutninger om, hvad deres data bliver brugt til. Så det er meget vigtigt på det her område – og særligt hvis man vil bruge algoritmer – at der sidder nogen, som kan gennemskue om en beslutning virker rigtig eller forkert. Om det virker rimeligt eller ej, at det her er udfaldet af en beslutning, som måske baserer sig på, at du skulle have uploadet data, lagt dit CV op og skulle søge så og så mange job efter reglerne. Så vores studie viste, at der er grænser for, hvor meget man kan kræve af borgerne”. 

Behov for diskussion af samtykke

Lektoren forklarer, at det også er det som hele samtykke-diskussionen handler om. Og hun argumenterer for, at man ikke bare kan spørge folk, om man må bruge deres data eller ej. 

”Hvis du skal tale om et reelt samtykke, så skal du jo sikre, at borgerne har en fuld forståelse af, hvad omfanget af brugen af deres data er, hvordan data bliver fortolket og hvad konsekvensen af det er. Fremfor at du som borger bare bliver bedt om at svare ja eller nej, som samtykkeerklæringer typisk handler om i dag. Det har vi jo alle sammen prøvet – det med at give samtykker uden at forstå rækkevidden eller omfanget af det,” siger Naja Holten Møller, der efterlyser, at der tages en stor, principiel diskussion af rækkevidden af brugen af data i det offentlige.

”Den debat har vi slet ikke haft, men det bør vi have – også før man begynder at bruge mange flere data på fx beskæftigelsesområdet”. 

Fascinerende og skræmmende

Naja Holten Møller siger, at det – netop fordi deres projekt med et fiktivt, virtuelt jobcenterunivers var tænkt som lidt af en provokation – var både lidt fascinerende og skræmmende, da KL i november 2021, et år efter hendes forsøg, kom med visionsoplægget Det Virtuelle Jobunivers. 

De beskriver det med ord som, at der er ’fokus på borgerens behov’ og at ’de ledige er i centrum’, og det lyder jo godt.

”For visionsoplægget lægger faktisk op til, at man går meget længere ad den virtuelle vej. KL går ikke så langt i forhold til brugen af personlige data, men de lægger op til, at der i højere grad bliver tale om en selvbetjeningsløsning. De beskriver det med ord som, at der er ’fokus på borgerens behov’ og at ’de ledige er i centrum’, og det lyder jo godt. Men samtidig skal man være opmærksom på, at der i sådan et jobcentersystem er nogle meget komplicerede processer og regler, som borgerne skal kunne navigere i. Især hvis det bliver sådan, at et forkert flueben begynder at kunne få konsekvenser. Der skal politikerne jo begynde at overveje, om man overhovedet kan lægge den opgave over på borgeren. Eller i hvert fald i hvor høj grad man kan det, hvornår man ikke kan det, og hvordan man forlods sikrer sig, at man får lavet sorteringen af borgerne fornuftigt”. 

Ifølge forskeren er visionsoplægget fra KL det eneste eksisterende udspil, der kan give et hint om den virtuelle fremtid, der må komme, når der skal spares så meget, som regeringen siger: 

”Indtil videre er der ikke kommet noget fra regeringen om, hvad der skal træde i stedet for jobcentrene, og hvordan de har tænkt sig at spare de mange penge. Men vi er ret sikre på, at mere digitalisering bliver en af de veje man vælger. Både fordi alting bliver mere og mere digitaliseret, men også fordi mere selvbetjening – på trods af de flotte ord om at det styrker borgernes autonomi – også altid kan bruges som en spareøvelse,” siger Naja Holten Møller.

Hendes bud er, at udviklingen på den ene side går mere mod en selvbetjeningsløsning, hvor borgerne skal betjene sig selv, som man allerede kan gøre det på borger.dk og sundhed.dk, og som ledige i forvejen gør på Jobnet.
 
”Men jeg tror også, at det helt nye bliver, at mere og mere bliver automatiseret. Altså at der vil komme spørgeskemaer, der skal udfyldes, når man melder sig ledig. Fx om alder og uddannelse. Og ud fra de oplysninger, så vil det virtuelle jobcenterunivers blive tilpasset den enkelte. Det tyder visionsoplægget i hvert fald på. Og der ligger jo noget uigennemsigtighed, man skal være opmærksom på som borger. Men for politikerne ligger der også en masse beslutninger i forhold til, hvad det er for nogle kasser, borgerne bliver puttet i, som de ikke nødvendigvis er klar over, at de bliver puttet i”.

Borgere kan komme i klemme

Og det er netop også dette digitale forløb, hvor borgerne selv er med til at ’blive puttet i kasser’, som Naja Holten Møller siger, man fra politisk side skal være opmærksom på.

Erfaringer fra blandt andet USA viser, at mange af de her systemer ender med at straffe gruppen af udsatte.

Her hvor en række borgere ender med at blive deres egen sagsbehandler – og screen sig selv. Her hvor deres data og de flueben, de sætter, bestemmer hvilken indsats, de kan få:

”I sådan et screeningsforløb har nogle af borgerne et behov for at blive guidet igennem. Så hvis spørgsmålene er svære at forstå eller kan besvares i alle mulige retninger, og det faktisk har konsekvenser for, hvilken gruppe du ryger i, så er det i hvert fald et sted, hvor politikerne skal overveje om det er ok, at der ikke længere er en sagsbehandler til at oversætte og hjælpe borgeren med at navigere. Man skal jo huske på, at mange af de her sager også handler om, hvor meget man kan få udbetalt eller om man overhovedet kan få udbetalt noget,” siger Naja Holten Møller og peger på, at det særligt er de borgere, der i forvejen er udsatte, som risikerer at komme i klemme:

”Erfaringer fra blandt andet USA viser, at mange af de her systemer ender med at straffe gruppen af udsatte. Dem der ikke har overskuddet til det eller ikke har de digitale færdigheder til at afkode systemerne”.

Teknologi er politik

Og så er vi henne ved en af forskerens helt afgørende pointer til politikerne. Nemlig at de skal sørge for at være helt tæt på udviklingen af de digitale systemer.

Det er politik, man udvikler, når man udvikler teknologi.

Hvad enten det er algoritmebaseret eller baseret på kunstig intelligens. For ellers er der blandt andet en risiko for, at der vil være nogle borgere, der bliver tabt. Forskerne siger, at det er en almindelig antagelse, at teknologi er neutralt, men at det langt fra er tilfældet. 

”Derfor får de, der udvikler teknologierne, en meget stor indflydelse. Det er politik, man udvikler, når man udvikler teknologi. Så det er meget vigtigt for os at få frem, at det ikke er ligegyldigt, hvem der udvikler teknologier, fordi det former samfundet og den måde som den offentlige sektor fungerer på. Og det er vigtigt, at politikerne forstår, at de skal være med helt fra starten af, og de skal vide, at det kommer til at forme, hvordan praksis faktisk får mulighed for at udfolde sig,” forklarer Naja Holten Møller.

For at få sine pointer vedrørende digitalisering ud til politikerne var Naja Holten Møller – sammen med daværende ph.d.-studerende Asbjørn Ammitzbøll Flügge - til foretræde for Folketingets Beskæftigelsesudvalg tidligere på året. Se mere om foretrædet her.