Hvornår er offentlige myndigheders AI-systemer højrisiko efter AI-forordningen?

AI-forordningen opregner i bilag III en række centrale use cases for højrisiko-AI-systemer efter forordningens artikel 6, stk. 2. 

Den centrale generelle bestemmelse om offentlige myndigheders brug af AI-systemer til offentlig myndighedsudøvelse fremgår af bilagets punkt 5, litra a), om adgang til og benyttelse af væsentlige offentlige tjenester og ydelser. 

Her fremgår det, at AI-systemer, der tilsigtes anvendt af offentlige myndigheder eller på vegne af offentlige myndigheder til at vurdere fysiske personers berettigelse til væsentlige offentlige bistandsydelser og -tjenester, herunder sundhedstjenester, samt til at tildele, nedsætte, tilbagekalde eller kræve tilbagebetaling af sådanne ydelser og tjenester, er højrisiko.

Tre betingelser

I retningslinjerne gennemgår EU-Kommissionen de tre betingelser for, at der er tale om et sådant højrisiko-AI-system: 

1. AI-systemet skal anvendes af eller på vegne af en ”offentlig myndighed”,
2. Til at vurdere fysiske personers berettigelse til ”væsentlige offentlige bistandsydelser og -tjenester, herunder sundhedstjenester”, og/eller
3. Til at tildele, afslå, nedsætte, tilbagekalde eller kræve tilbagebetaling af sådanne ydelser og tjenester.

Betingelse nr. 1: Hvornår er man en offentlig myndighed eller handler på vegne af en offentlig myndighed?

AI-forordningen indeholder ikke en definition af, hvad en offentlig myndighed er. 

EU-Kommissionen henviser i retningslinjerne til EU-Domstolens praksis, hvorefter begrebet bl.a. omfatter administrative myndigheder, der er en del af den offentlige forvaltning, herunder også juridiske enheder, som er undergivet offentlig ret, og som er oprettet af staten. Omfattet er også juridiske enheder, der udfører opgaver af almen offentlig interesse, og som ved lov er tillagt særlige beføjelser. EU-institutioner, -organer og -agenturer er også offentlige myndigheder.

Der er ingen tvivl om, at kommuner, regioner og statslige myndigheder udgør offentlige myndigheder i bestemmelsens forstand.

For så vidt angår betegnelsen at anvende AI-systemet på vegne af den offentlige myndighed, henvises der til de situationer, hvor en offentlig myndighed udliciterer aktiviteter til virksomheder, som ellers kunne eller skulle være udført af myndigheden selv. Myndigheden skal enten helt eller delvist have delegeret opgaven til virksomheden. 

Handler den private virksomhed derimod ud fra egne interesser eller for at opfylde egne retlige forpligtelser, er det ikke på vegne af den offentlige myndighed. 

Betingelse nr. 2: Hvad er en væsentlig offentlig bistandsydelse og -tjeneste og sundhedstjenester?

Det er nærmere beskrevet i præambelbetragtning nr. 58 til AI-forordningen, at begrebet dækker over de ydelser og tjenester, som er ”nødvendige for, at borgere kan deltage fuldt ud i samfundet eller forbedre deres levestandard”. I Kommissionens retningslinjer gives der følgende eksempler på hovedtyperne af ydelser og tjenester, der er omfattet:

1. Sundhedstjenester: f.eks. langtidspleje og behandling.
2. Sociale ydelser: f.eks. kontanthjælp, dagpenge, sygedagpenge, barselsdagpenge, ydelser i forbindelse med arbejdsulykker, erhvervssygdomme og invaliditet, langtidsplejeydelser, efterløn, førtidspension, pension, boligstøtte, børne- og ungeydelse, børnetilskud og ydelser til adgang til væsentlige tjenester (f.eks. vand, energi, digitale kommunikationstjenester).
3. Sociale indsatser: f.eks. socialhjælp, beskæftigelses  og uddannelse, boligrådgivning, almene boliger, tilskud til børnepasning.

Som det fremgår, er det således langt fra alle sagsområder i den offentlige forvaltning, der er omfattet af bestemmelsen. F.eks. vil en kommunes brug af et AI-system til at lave udkast til afgørelsesudkast vedrørende ansøgning om byggetilladelser af carporte (beslutningsstøtte) ikke være et højrisiko-AI-system, da der ikke er tale om en væsentlig offentlig bistandsydelse eller -tjeneste.

I retningslinjerne fremgår det endvidere, at eksempelvis skattefritagelse falder uden for begrebet, da der ikke er tale om en tjeneste eller ydelse, også selvom det kan yde økonomisk støtte til modtageren.

Betingelse nr. 3: Systemet skal anvendes til at vurdere en fysisk persons berettigelse m.v. til en ydelse

Begrebet omfatter både vurderingen og afgørelsen af, hvorvidt en person har ret til at modtage ydelsen eller tjenesten, men også i hvilket omfang personen er berettiget, herunder f.eks. en ydelses størrelse.

Tilsvarende klassificeres et AI-system, der udelukkende anvendes til at tildele, afslå, nedsætte, tilbagekalde eller kræve sådanne ydelser og tjenester tilbagebetalt, også som højrisiko, uden at der er krav om, at systemet også er involveret i den forudgående vurdering af berettigelse.

Praktiske eksempler på AI-systemer, der er højrisiko-AI-systemer

I retningslinjerne giver Kommissionen en række gode eksempler på, hvornår der er tale om højrisiko-AI-systemer efter bilag III, punkt 5, litra a), herunder bl.a. følgende:

• AI-systemer, der træffer fuldt automatiserede afgørelser i ansøgningssager om personers berettigelse til at modtage bistandsydelser, dvs. hvor der ikke er et menneske, der træffer den endelige afgørelse.
• AI-systemer, der prioriterer og scorer ansøgninger eller fordelingen af ydelser om boligstøtte baseret på en vurdering af bl.a. personernes behov for hurtig hjælp.
• AI-systemer, der anvendes som beslutningsstøtte i sager om personers berettigelse til ydelser som følge af arbejdsløshed, hvor systemet har forberedt et udkast til afgørelse til en sagsbehandler, der træffer den endelige afgørelse i sagen.
• AI-systemer, der er beregnet til at analysere ansøgninger om væsentlige offentlige forsørgelsesydelser indgivet af fysiske personer (f.eks. sygedagpenge) med henblik på at opdage potentielle uregelmæssigheder og/eller unøjagtigheder eller tegn på svig og at markere ansøgninger til nærmere undersøgelse. Når en ansøgning bliver markeret, overtager en menneskelig sagsbehandler for at vurdere, om kravet er svigagtigt.
• AI-systemer, der fungerer som støtteværktøj til gennemgang, analyse og vurdering af berettigelse til at modtage plejeydelser, f.eks. brug af chatbots.
• AI-systemer, der sender proaktive invitationer ud til borgere om ydelser, og som samtidig foretager en berettigelsestest, f.eks. systemer, der udsender målrettede invitationer til forebyggende screening af mammografi og samtidig vurderer en person berettigelse.

Praktiske eksempler på AI-systemer, der ikke er højrisiko-AI-systemer

Kommissionens retningslinjer giver også en række eksempler på tilfælde, hvor et AI-system ikke er højrisiko, fordi det ikke anvendes til at vurdere personers berettigelse m.v. til de omfattede ydelser og tjenester:

• AI-systemer, der er beregnet til proaktivt at identificere personer med behov for forebyggende behandling. Et sådant AI-system falder uden for bilag III, punkt 5, litra a), da det kun identificerer personer med behov for forebyggende behandling og ikke fastlægger de identificerede personers berettigelse, forudsat at systemets output ikke bruges til at prioritere, udelukke eller på anden måde påvirke adgangen til en sådan ydelse.
• AI-systemer, der er beregnet til alene at oplyse, hvilket organ eller hvilken kompetent person en ansøgning om væsentlige offentlige forsørgelsesydelser (yderligere) skal vurderes af. Et sådant AI-system falder uden for anvendelsestilfældet i punkt 5, litra a), i bilag III, da det kun anbefaler, hvem der skal vurdere ansøgningen, uden en egentlig vurdering af berettigelsen.
• AI-systemer, der er beregnet til at vurdere ansøgninger eller krav fra juridiske personer (selskaber) om refusion af omkostninger, men ikke fra fysiske personer. Et sådant AI-system falder uden for anvendelsestilfældet i punkt 5, litra a), i bilag III, da det ikke vurderer ansøgninger eller krav fra fysiske personer.

Det må også antages, at offentlige myndigheder vil kunne anvende AI-systemer til at fremfinde tidligere lignende sager, og hvor systemet ikke giver en anbefaling til, hvordan sagen skal løses, uden at der er tale om et højrisiko-AI-system. 

”Filter”-undtagelsen

Derudover er der en række AI-systemer, som falder ind under anvendelsesområdet for højrisiko-AI-systemer i bilag III, pkt. 5, litra a), men som alligevel ikke er højrisiko-AI-systemer ifølge den såkaldte ”filter-undtagelse” i forordningens artikel 6, stk. 3. 

Fælles for denne type AI-systemer er, at systemerne ikke eller kun perifært påvirker beslutningsprocessen, f.eks. fordi systemet alene udfører en snæver proceduremæssig opgave eller sagsforberedende opgaver.

I retningslinjerne giver Kommissionen en række illustrative eksempler, hvor denne undtagelsesbestemmelse fortolkes forholdsvis bredt og dermed er med til at begrænse området for højrisiko-AI-systemer.

Det gælder blandt andet i følgende eksempler:

• AI-systemer, der sorterer indkomne ansøgninger om optagelse på en skole eller et universitet efter det klassetrin- eller uddannelsesniveau, der søges om.
• AI-systemer, der bruges til at opdage og markere ufuldstændige formularer for at sende dem tilbage til ansøgeren med henblik på korrekt udfyldelse.
• AI-systemer, der oversætter ansøgninger.
• AI-systemer, der er beregnet til at sammenfatte lægelige rapporter, som skal bruges af en sagsbehandler som grundlag for en afgørelse om at bevilge eller afslå sundhedsydelser, og hvor sagsbehandleren gennemgår rapporterne for at fastslå, om sammenfatningen er korrekt.
• AI-systemer, der er beregnet til at blive brugt i samtaler mellem en sagsbehandler og en fysisk person, som ønsker at ansøge om offentlige hjælpetjenester og ydelser, ved at omdanne tale til tekst. Systemet udarbejder et resumé af samtalen, som medarbejderen kontrollerer, og som vil blive brugt til at træffe en afgørelse om den fysiske persons berettigelse.

Man skal dog være opmærksom på, at et AI-system, der er omhandlet i bilag III, altid skal klassificeres som højrisiko, hvis AI-systemet udfører profilering af fysiske personer. I sådanne tilfælde gælder ”filter-undtagelsen” med andre ord ikke.

Baggrund

Den 7. maj 2026 nåede Rådet og Europa-Parlamentet til enighed om en foreløbig politisk aftale om ændring af AI-forordningen i den såkaldte AI Omnibus. Den 16. juni 2026 vedtog Europa-Parlamentet ændringerne, der nu blot formelt skal godkendes af Rådet.

Læs vores nyhed om den politiske aftale og ændringerne i AI-forordningen her. 

Ændringerne medfører bl.a., at forpligtelserne vedrørende højrisiko-AI-systemer i bilag III udskydes til at gælde fra den 2. august 2026 til den 2. december 2027. 

Ændringen giver bl.a. EU-kommissionen tid til at offentliggøre en række ventede retningslinjer i løbet af 2026 til forståelse af reglerne i AI-forordningen, ligesom der kan vedtages standarder til forståelse af kravene til højrisiko-AI-systemerne.

Den 19. maj 2026 offentliggjorde Kommissionen første udkast til Retningslinjer om klassificering af højrisikosystemer for kunstig intelligens.

Retningslinjerne skal hjælpe udbydere og idriftsættere af et AI-system med at vurdere, om deres system skal klassificeres som et højrisiko-AI-system og dermed er omfattes af de strenge højrisikokrav i AI-forordningen.

Opsummering

EU-Kommissionens retningslinjer gør det klart, at langt fra enhver offentlig brug af AI er omfattet af forordningens højrisikoregler.

Det afgørende er, om systemet anvendes af eller på vegne af en offentlig myndighed, om det vedrører væsentlige offentlige bistandsydelser og -tjenester, og om systemet bruges til at vurdere en fysisk persons berettigelse eller til at tildele, afslå, nedsætte, tilbagekalde eller kræve tilbagebetaling af sådanne ydelser. 

Retningslinjerne bekræfter, at der kan være tale om højrisiko-AI-systemer, både når AI-systemer anvendes til at træffe fuldautomatiske afgørelser, og når de bruges som beslutningsstøtte til at træffe afgørelser.

Samtidig viser retningslinjerne tydeligt, at ikke alle AI-systemer, som myndigheder anvender i sagsbehandlingen, er højrisiko. Det afhænger fortsat af en konkret vurdering af både sagsområdet, formålet med systemet og den funktion, som AI-systemet udfører i beslutningsprocessen. 

Dermed falder en række anvendelser uden for højrisikoreglerne, enten fordi de ikke vedrører de omfattede ydelser og tjenester, eller fordi systemet ikke bruges til at vurdere borgerens berettigelse m.v. hertil.

Endelig er det væsentligt, at Kommissionen fortolker filterundtagelsesbestemmelsen i artikel 6, stk. 3, relativt bredt. Det betyder, at der findes flere use cases af stor praktisk betydning, som falder uden for højrisikoklassificeringen.

Det gælder blandt andet efter omstændighederne AI-systemer til opsummering af rapporter, tale til tekst konverteringer, oversættelse af ansøgninger, samt til mere snævre proceduremæssige funktioner som sortering af ansøgninger og markering af ufuldstændige formularer. 

Retningslinjerne tegner derfor et mere nuanceret billede af højrisikoreglerne, hvor fokus er på, om AI-systemet reelt påvirker vurderingen af personers berettigelse m.v. til de omfattede ydelser og tjenester på en måde, der udløser højrisikoklassifikation.

Næste skridt

Udkastet til retningslinjer er sendt i høring med frist til den 23. juni 2026. Vi kan efterfølgende forvente, at Kommissionen vil indarbejde eventuelle ændringer, inden en endelig version af retningslinjerne kan vedtages. 

Vi følger naturligvis udviklingen tæt og vil holde jer opdateret. 

Hold dig opdateret på vores AI-uddannelse og AI-netværk

Hvis du ønsker mere viden om højrisiko-AI-løsninger og AI-forordningen, kan du tilmelde dig vores AI-uddannelse til oktober 2026 her eller tilmelde dig vores AI-netværk for offentlige myndigheder her.