Kontekst

Hva er kontekst?

Konteksten er alt modellen ser når den svarer deg: spørsmålet ditt, samtalen så langt, filene den har fått og instruksjonene den jobber under. Kontekstvinduet måles i tokens og har en grense.

Modellen husker ingenting mellom samtaler. Hver ny samtale starter blank, og alt modellen vet om deg og oppgaven din er det som ligger i konteksten akkurat nå. Tenk på konteksten som arbeidsminnet til modellen.

Kontekstvinduet som en boks med lag: instruksjoner (CLAUDE.md), samtalen så langt, filer og verktøyresultater, og spørsmålet ditt, med ledig plass under og en rød grense i bunnen. En målestokk merket «tokens» langs siden, og en pil fra boksen til modellen.

Kontekst drar i modellens sannsynlighetsfordeling

Du husker at modellen er en sannsynlighetsfordeling, og at jobben din er å gjøre ønsket resultat så sannsynlig som mulig. Konteksten er verktøyet ditt for akkurat det. Hvert krav, hvert eksempel og hver kodefil du legger inn flytter fordelingen bort fra gjennomsnittet av internett og mot et svar som passer ditt problem.

Det gjelder særlig det som er nytt eller privat: kodebasen din, retningslinjene deres og kravene til oppgaven finnes ikke i treningsdataene. Legger du det i konteksten, finnes det for modellen. Lar du det ligge, gjetter modellen i blinde.

Vis, ikke forklar. Referer, ikke gjenfortell

Lim inn selve feilmeldingen i stedet for å beskrive den. Vis koden som feiler i stedet for å oppsummere hva den gjør. En gjenfortelling mister detaljer og legger til dine egne antagelser.

Ikke skriv eller lim inn alt av tekst. Referer heller til filer og mapper, og la modellen lese dem på egen hånd. Da henter den det den trenger i original form, og du slipper å gjette hva som er relevant. Pek i riktig retning og bruk referanser så mye som mulig.

Hva er konteksten til en språkmodell?

Alt modellen ser når den svarer: spørsmål, samtale, filer og instruksjonerTreningsdataene modellen har lært avModellens innstillinger og parametreDokumentasjonen til modellen

Hva gjør konteksten med modellens sannsynlighetsfordeling?

Ingenting, fordelingen ble låst under treningenDen drar fordelingen bort fra gjennomsnittet av internett og mot et svar som passer ditt problemDen gjør fordelingen bredere så modellen blir mer kreativDen erstatter fordelingen med reglene dine

Koden din feiler med en feilmelding. Hva gir modellen best grunnlag?

En beskrivelse av feilen med dine egne ordEt sammendrag av hva koden burde gjøreSelve feilmeldingen, og en referanse til filen så modellen kan lese den selvEt spørsmål om modellen har sett lignende feil før