Forstå på tre minutter, hvorfor en robot godt må være sagsbehandler.
I takt med at robotter går fra at varetage dele af sagsbehandlingen til fuldautomatiske afgørelser, melder de etiske udfordringer sig.
For er det i orden, at en kunstig intelligens beslutter, om du må få jagttegn? Må en robot fx afgøre, om din gangbesværede mor skal have afslag på forlænget fodbehandling? Må den udbetale udbytteskat? For blot at nævne nogle få eksempler. Nej, siger blandt andet forsker og lektor Helle Antczak, der i Socialrådgiveren advarer mod at automatisere det socialfaglige skøn.
Den juridiske vinkel
Det højaktuelle tema er også i fokus på kurset Brug af kunstig intelligens – retslige udfordringer og muligheder, som JUC afholder. Her får deltagerne et grundlæggende overblik over mulighederne og de juridiske rammer for brug af AI i den offentlige og private sektor.
Her er budskabet, at reglerne i udgangspunktet er ganske enkle.
Offentlige softwarerobotter må gerne træffe fuldautomatiske afgørelser i de borgersager, hvor der er udtrykkelig hjemmel i loven.
Læs artikel på Samfundsdesign: Kan robotterne give dig varme hænder?
Robotterne er så småt i gang
Endnu er brugen af fuldautomatiske afgørelser ikke særligt udbredt.
Inden for det offentlige findes der dog en række kendte eksempler, hvor reglerne er klare. Det er fx selvbetjeningsløsninger, hvor den studerende kan ansøge om SU ved at indtaste egne oplysninger, der samkøres med oplysninger fra andre registre og beregner, om den unge har ret til SU eller ej.
Læs artikel på Samfundsdesign: Erstatningsansvar: Er vi klar til robotterne?
Er der hjemmel i loven?
Når robotterne i visse tilfælde må træffe afgørelser, gælder det altså kun områder, hvor der er klare betingelser for de fuldautomatiske afgørelser.
Borgeren har desuden ret til at få meningsfulde oplysninger om den systemlogik, der ligger bag algoritmen, der traf den fuldautomatiske afgørelse, og en begrundelse for den konkrete afgørelse, jævnfør forvaltningslovens bestemmelser.
Borgeren har med andre ord krav på at vide, hvilke faktiske omstændigheder der blev lagt vægt på.
I princippet er borgeren godt beskyttet, idet både forvaltningsloven og EU's databeskyttelsesregler er teknologineutrale. Det vil sige, at borgerne har de samme rettigheder, uanset om det er en robot eller en sagsbehandler, der træffer afgørelserne.
Læs artikel på Samfundsdesign: Vingeskudt robot sat i drift
De små robotter er måske de værste
I virkeligheden er det næppe de fuldautomatiske afgørelser, der er de mest udfordrende for borgerens retssikkerhed. Måske er det de små robotter.
Allerede i dag er der hundredevis af små RPA-robotter, der yder de ansatte i de offentlige forvaltninger beslutningsstøtte.
Et eksempel er Erhvervsstyrelsen, hvor man ved hjælp af machine learning finder mønstre, der kan afsløre, om nye selskaber er fupselskaber oprettet med henblik på hvidvask, eller ATP's chatbot, der tager imod kundernes opkald og giver dem et hurtigt svar eller får dem dirigeret hen til den rigtige sagsbehandler.
Et andet eksempel er robotten Vera i Aalborg Kommune, der er udviklet specielt til at håndtere de blanketter, som kommunen modtager fra KMD – DP 133, hvorfra data efterfølgende skal indtastes i kommunens eget lønsystem, valideres og bogføres, så de kan blive udbetalt til de enkelte arbejdsgivere.
Jo flere af sådanne systemer til beslutningsstøtte sagsbehandleren får, jo sværere kan det være at afgøre, om der er foregået en reel sagsbehandling. Dermed risikerer man, at sagsbehandleren ender som en "monkey", der bare blåstempler sager og sender dem videre i systemet uden at foretage en reel vurdering af sagens oplysninger.
Og den går ikke.
Det offentlige skal have systemer og procedurer, så man på en dokumentarbar måde kan vise fx Datatilsynet, hvordan robottens algoritme arbejder, og hvordan sagsbehandleren efterfølgende eftergår beslutningen og foretager et reelt skøn, inden der træffes en beslutning i de sager, hvor der ikke er direkte hjemmel i loven til fuldautomatiske afgørelser.
Tilmeld dig Samfundsdesigns nyhedsbrev med nyt om offentlig digitalisering.
Læs artikel på Samfundsdesign: Danmark skal være førende på kunstig intelligens
Læs artikel på Samfundsdesign: RPA-robot tager nordjyder med storm
Læs mere på EG: Digital automatisering med softwarerobotter
