En verden af muligheder – og potentielle risici
Kunstig intelligens (AI) fylder i stigende grad i den kommunale hverdag. Flere danske kommuner anvender allerede AI som led i sagsbehandling, administration, borgerservice og beslutningsstøtte. Potentialet ved AI-teknologi er betydeligt med mulighed for at effektivisere arbejdsgange og bedre brug af ressourcer.
Fra et juridisk perspektiv er det afgørende, at AI-løsninger implementeres på et solidt retligt og organisatorisk grundlag. Kommuner opererer i et komplekst samspil mellem forvaltningsretten, databeskyttelsesreglerne og nu også forordningen om kunstig intelligens. Det stiller krav til både organisationen og de enkelte medarbejdere.
AI-løsninger i kommuner vil ofte involvere behandling af personoplysninger, herunder i nogle tilfælde følsomme personoplysninger. Det indebærer, at tilstrækkelig beskyttelse af personoplysninger skal indtænkes helt fra den tidligere begyndelse af databehandlingsaktiviteten. Kommunen skal kunne redegøre for behandlingsaktivitetens formål, det bagvedliggende datagrundlag, potentielle risici samt for de foranstaltninger, der sikrer borgernes rettigheder og frihedsrettigheder. Samtidig skal der foretages en menneskelig indgriben i de beslutningsstøttende AI-systemer. Manglende gennemsigtighed eller utilstrækkelig dokumentation kan svække borgernes tillid og medføre kritik fra tilsynsmyndigheder som Datatilsynet.
Derudover rejser brugen af AI-teknologi nye spørgsmål om ansvar. Hvordan sikres det, at automatiserede processer ikke fører til usaglig forskelsbehandling? Hvordan bevares den nødvendige menneskelige kontrol i afgørelser, der har betydning for borgernes retstilling?
Vores erfaring i Poul Schmith/Kammeradvokaten er, at de mest vellykkede AI-projekter i kommunerne er dem, hvor jura, databeskyttelse, it-sikkerhed og relevante fagområder indgår i et tæt samarbejde fra begyndelsen af projektets tilblivelse. Når ansvarlighed og compliance indtænkes tidligt, bliver brugen af AI-teknologi ikke en risiko, men et brugbart og legitimt redskab i den kommunale opgaveløsning.
