Høyrisiko-KI
engelsk: high-risk AI system
KI-systemer som etter KI-forordningen kan påvirke helse, sikkerhet eller grunnleggende rettigheter, og som derfor får de strengeste kravene.
Høyrisiko er ikke en vurdering av hvor smart systemet er, men av hva det brukes til. Typiske eksempler er KI i rekruttering, kredittvurdering, utdanning, kritisk infrastruktur og deler av offentlig saksbehandling, altså situasjoner der utfallet betyr noe konkret for et enkeltmenneske.
Havner et system i denne kategorien, følger det en pakke med krav: risikostyring, datakvalitet, teknisk dokumentasjon, logging, menneskelig kontroll og informasjon til dem som bruker systemet. De fleste norske småbedrifter bruker KI til tekst og internt arbeid og havner ikke her, men bruker dere KI til å vurdere mennesker, bør dere sjekke nøye.
Lignende begreper
EUs regelverk for kunstig intelligens, som stiller krav etter hvor stor risiko KI-bruken utgjør. Får betydning for norske virksomheter via EØS.
En vurdering av hvordan et høyrisiko KI-system kan påvirke folks grunnleggende rettigheter, som blant annet offentlige myndigheter må gjøre før systemet tas i bruk.
Kontrollen av at et høyrisiko KI-system faktisk oppfyller kravene i regelverket, før det settes på markedet eller tas i bruk.
Vil du lære å bruke dette i praksis? Se kursene for bedrift eller privat.