KI-forordningen artikkel 14: Krav til menneskelig tilsyn

KI-forordningen artikkel 14 krever at høyrisiko KI-systemer skal designes slik at de kan underlegges effektivt menneskelig tilsyn. Formålet er å forebygge eller minimere risikoer for helse, sikkerhet og grunnleggende rettigheter — særlig når systemet brukes i tråd med sitt tiltenkte formål.

For norske kommuner betyr dette at KI-systemer ikke kan operere som «svarte bokser» som tar beslutninger uten at et menneske kan forstå, overvåke og gripe inn.

Hva er «meningsfullt menneskelig tilsyn»?

Artikkel 14 definerer menneskelig tilsyn som tiltak som gjør at fysiske personer kan:

Forstå systemets kapasitet og begrensninger og overvåke driften
Oppdage og håndtere uregelmessigheter, feil og uventet ytelse
Tolke systemets output korrekt, spesielt i lys av verktøyets kjente svakheter
Beslutte å ikke bruke systemet i spesifikke situasjoner, overstyre eller reversere resultatet
Gripe inn og stoppe systemet dersom det er nødvendig

Tilsynet skal ikke bare være formelt — det skal være reelt. En saksbehandler som automatisk godkjenner alle KI-anbefalinger uten selvstendig vurdering, oppfyller ikke kravet.

Hva betyr dette i praksis for kommuner?

Eksempel 1: Rekrutteringsverktøy med AI-rangering

Kommunen bruker et KI-system til å rangere jobbsøkere. Menneskelig tilsyn betyr at en HR-ansvarlig:

Forstår hvilke kriterier systemet vekter
Kan overprøve rangeringen for enkeltpersoner
Har opplæring i systemets kjente svakheter (f.eks. bias mot visse grupper)

Eksempel 2: KI i saksbehandling

Kommunen bruker KI til å foreslå vedtak i byggesaker. Menneskelig tilsyn betyr at saksbehandleren:

Gjør en selvstendig faglig vurdering av hvert forslag
Dokumenterer hvorfor KI-forslaget ble fulgt eller fraveket
Har mulighet til å slå av KI-støtten helt

Hva må kommunen gjøre?

Utpek ansvarlige personer — Hvem har tilsynsrollen for hvert KI-system?
Gi tilstrekkelig opplæring — De som har tilsynsrollen må forstå systemet, dets begrensninger og sine egne plikter
Etabler rutiner — Hvordan håndteres det når systemet gir uventede resultater?
Dokumenter — Logg hvordan tilsynet utføres, og hvilke beslutninger som overprøves

Leverandøren skal i bruksanvisningen (jf. artikkel 13) beskrive hvilke tilsynstiltak som anbefales. Kommunen bygger videre på dette.

Menneskelig tilsyn er ikke en formalitet — det er kjernen i ansvarlig bruk av KI i offentlig sektor. Kommuner som ikke kan dokumentere reelt tilsyn risikerer bøter på opptil 15 millioner euro.

Kilde: KI-forordningen (EU) 2024/1689, artikkel 14; HK-dir Rapport nr. 04/2026.