Grunnleggende

En prediksjonsmaskin

Generativ KI er maskinlæring: modellen har lært mønstre fra enorme datamengder, og bruker disse mønstrene til å gjette hva som kommer. Ord for ord, forslag for forslag. Det er statistikk, ikke magi.

Dette er viktig for deg som utvikler å forstå. Generativ KI produserer tekst som ser riktig ut, men ikke nødvendigvis er det. Et svar kan være overbevisende og feil på samme tid. Dette er grunnen til at vi gir deg, og ikke modellen, ansvaret for resultatet.

Trent på hele internett

Modellene du bruker er trent på nesten alt som finnes av tekst og kode på internett. Der finnes det mye bra, men også utdaterte eksempler, dårlige mønstre og feil informasjon. Modellen har lært av alt sammen, og representerer et gjennomsnitt av det den har sett, ikke bare de gode sidene.

For deg som utvikler betyr det: forslagene du får ligner gjennomsnittlig kode fra internett, ikke nødvendigvis god kode for akkurat ditt problem. Modellen kjenner heller ikke kodebasen din, retningslinjene i Oslo kommune eller konteksten du jobber i uten at vi gir den det.

Hallusinasjoner

Måten språkmodeller fungerer på er også årsaken til hallusinasjoner: svar som er funnet på, men presenteres som fakta. Modellen slår ikke opp i en kunnskapsdatabase, den gjetter hele tiden på hva som er det mest sannsynlige svaret. Det går ofte bra, men ikke alltid.

Det beste forsvaret er å sørge for at modellen har all informasjonen den trenger for å besvare spørsmålet ditt. Det er derfor språkmodeller gjerne kombineres med søk og oppslag: da bygger svaret på det som ble funnet frem, ikke bare på det modellen husker.

Hva betyr dette for deg?

Tenk på generativ KI som en rask, belest, men ukritisk kollega: den har lest mer kode enn du noen gang rekker, gjør på sekunder det som ville tatt deg timer, men sjekker aldri sitt eget arbeid. Alt den lager er et utkast til løsning, men det er din vurdering som gjør det til ferdig kode.

Du kan se på modellene som en sannsynlighetsfordeling over all kode som finnes i hele verden. Vi i Oslo kommune er ikke ute etter et gjennomsnitt av verden. Vi skal ha løsninger som passer best for våre brukere, inn i våre løsninger og i våre domener. Derfor er jobben din å styre modellen, altså å gjøre sannsynligheten for ønsket resultat så stor som mulig.

De neste sidene forklarer hvorfor modellen oppfører seg slik: hvordan den leser tekst (tokens), og hvordan den trenes (pre-training og post-training).

---

Hva gjør en generativ KI-modell når den svarer deg?

Slår opp svaret i en databaseKjører koden og sjekker at den fungererGjetter hva som mest sannsynlig kommer etterpå, basert på mønstre fra treningsdataSøker på internett etter lignende løsninger

Hvorfor kan et KI-svar være overbevisende og feil på samme tid?

Fordi modellen prøver å lure degFordi modellen produserer det som ligner på riktig, uten å vite hva som faktisk er riktigFordi modellen bare er trent på engelsk tekstFordi modellen er for liten til å huske alt

Hva er jobben din som utvikler når du bruker generativ KI?

Å la modellen jobbe mest mulig uforstyrret, den vet bestÅ styre modellen slik at sannsynligheten for ønsket resultat blir så stor som muligÅ godkjenne forslagene så raskt som muligÅ skrive all koden selv og bare bruke modellen til inspirasjon