Nyt lovforslag skal give myndigheder lov til at bruge AI

Regeringen har fremsat et nyt lovforslag, der skal give myndigheder som kommuner og statslige styrelser en klar lovhjemmel, altså en tydelig ret i loven, til at bruge kunstig intelligens (AI), når de behandler borgernes personoplysninger. Det er regeringens andet forsøg. Det første forslag faldt bort, da der blev udskrevet valg, og siden har mange AI-projekter i det offentlige stået stille, fordi myndighederne ikke har haft et klart lovgrundlag at handle efter.

Med det nye forslag får alle statslige og kommunale myndigheder samt enheder som ATP og Nationalbanken ret til at bruge AI, blandt andet som beslutningsstøtte, hvor et AI-system foreslår en løsning, som et menneske kan bruge til at træffe en beslutning. Det gælder dog kun, når et menneske stadig træffer den endelige afgørelse. AI må altså ikke afgøre sager helt af sig selv. Ved følsomme oplysninger, for eksempel om helbred, stilles der ekstra krav, og myndighederne skal stadig følge de almindelige regler om databeskyttelse og forvaltning, herunder EU’s databeskyttelsesregler (GDPR) og EU’s nye AI-forordning, som sætter fælles regler for brug af kunstig intelligens.

Flere kilder mener, forslaget er blevet bedre end det oprindelige udkast. Men bekymringerne er ikke væk. Johan Busse, der er formand for Dataetisk Råd, et råd der rådgiver om etiske spørgsmål ved brug af data, peger på, at det største problem er, hvor bredt forslaget er. Rådet mener ikke, det er forsvarligt, at både store styrelser med masser af juridisk og teknisk ekspertise og små kommuner med færre ressourcer får den samme brede adgang til at bruge AI, uden at der samtidig stilles klare krav til, at systemerne er lige så præcise og retfærdige som dem, de erstatter.

Rådet foreslår blandt andet fælles minimumskrav til, hvor mange fejl AI-systemerne må lave, og hvordan man undgår skævheder i systemernes vurderinger, kaldet bias. Rådet vil også have det slået fast, at de ansatte, der bruger AI, reelt skal kunne vurdere sagerne selv og ikke bare stemple det, som maskinen foreslår. Desuden ønsker rådet, at myndighederne laver en etisk vurdering af konsekvenserne, før de tager nye AI-systemer i brug. Busse sammenligner det med reglerne for medicin og fødevarer: Der skal være regler, så man kan stole på det, man bruger.

En advokat peger desuden på, at det stadig er uklart, hvordan det nye lovforslag passer sammen med de regler, der allerede gælder for AI på bestemte områder, for eksempel i beskæftigelsesindsatsen eller ældreplejen. Ifølge advokaten er dette samspil mellem de forskellige regelsæt ikke løst i det nye forslag.

For almindelige danskere betyder sagen, at det offentlige formentlig får lettere ved at bruge AI, når de behandler sager om borgerne. Men det er stadig uklart, hvordan man sikrer, at det bliver gjort ordentligt og kan kontrolleres. Forslaget skal nu behandles videre i Folketinget.