Token
engelsk: token
Bitene modellen deler teksten inn i, ofte deler av ord. Brukes til å måle både kontekstvindu og pris i KI-tjenester.
Før modellen leser teksten din, deles den opp i tokens. Et token er ofte et kort ord eller en del av et lengre ord. På norsk tilsvarer et token grovt sett to tredjedeler av et ord, så tusen tokens er i størrelsesorden 600 til 700 ord.
Du trenger sjelden å telle tokens selv, men begrepet dukker opp overalt: kontekstvinduer oppgis i tokens, og bruker du KI via API betaler du per token. Da er det greit å vite hva ordet betyr.
Lignende begreper
Hvor mye tekst modellen kan holde styr på i én samtale. Blir samtalen for lang, mister modellen taket på det eldste.
En teknisk kobling som lar programmer snakke sammen. KI via API betyr at et system bruker KI-modellen direkte, uten chatvinduet.
KI-modellen bak verktøy som ChatGPT og Claude. Trent på enorme tekstmengder til å forstå og produsere språk.
Vil du lære å bruke dette i praksis? Se kursene for bedrift eller privat.