Hallusinasjon
engelsk: hallucination
Når KI-modellen dikter opp fakta, kilder eller detaljer og presenterer dem overbevisende. Den vanligste fellen for nybegynnere.
Språkmodeller er trent til å produsere sannsynlig tekst, ikke sann tekst. Når modellen mangler kunnskap, fyller den hullet med noe som høres riktig ut: et årstall, en paragraf, en kilde som ikke finnes. Svaret ser like selvsikkert ut som når den har rett, og det er nettopp det som gjør hallusinasjoner farlige.
Vanene som beskytter deg: be om kilder og sjekk at de finnes, vær ekstra skeptisk til tall, navn, lover og sitater, og bruk KI til utkast og struktur, ikke som eneste kilde til fakta.
Legg gjerne til dette i prompter der fakta betyr noe: "Hvis du er usikker på noe av dette, si det tydelig i stedet for å gjette. Marker påstander jeg bør dobbeltsjekke."
Modellen blir mer ærlig om egen usikkerhet når du eksplisitt ber om det.
Lignende begreper
Vanen med å kontrollere KI-svar mot pålitelige kilder før du bruker dem. Den viktigste ferdigheten for trygg KI-bruk.
KI-modellen bak verktøy som ChatGPT og Claude. Trent på enorme tekstmengder til å forstå og produsere språk.
En teknikk der KI-verktøyet henter informasjon fra dine dokumenter eller kilder før det svarer, i stedet for bare å bruke det modellen husker fra treningen.
Vil du lære å bruke dette i praksis? Se kursene for bedrift eller privat.