Skjevhet
engelsk: bias
Systematiske slagsider i KI-svar som skyldes skjevheter i treningsdataene. Kan påvirke alt fra språk til hvem som anbefales til en jobb.
Modellen lærer av tekster skrevet av mennesker, og arver menneskenes slagsider. Er visse grupper, perspektiver eller språk underrepresentert i treningsdataene, blir de det i svarene også. Det kan slå ut subtilt, som i hvilke egenskaper modellen tillegger ulike yrker, eller mer alvorlig, som i vurderinger av søknader.
For vanlig kontorbruk er rådet enkelt: vær bevisst på at svarene har en slagside, særlig i vurderinger av mennesker. EUs KI-regelverk stiller også strengere krav til nettopp slike bruksområder.
Lignende begreper
Tekstene, bildene og dataene modellen ble trent på. Avgjør hva modellen kan, hva den ikke kan, og hvilke skjevheter den har.
Når KI-modellen dikter opp fakta, kilder eller detaljer og presenterer dem overbevisende. Den vanligste fellen for nybegynnere.
EUs regelverk for kunstig intelligens, som stiller krav etter hvor stor risiko KI-bruken utgjør. Får betydning for norske virksomheter via EØS.
Vil du lære å bruke dette i praksis? Se kursene for bedrift eller privat.