Chain of thought (COT)

Hva er chain of thought?

Chain of thought er å la modellen resonnere seg frem til svaret, steg for steg, i stedet for å hoppe rett på konklusjonen. Modellen skriver ut mellomregningene sine: den bryter ned problemet, vurderer alternativer og bygger seg frem mot et svar.

Du har kanskje sett det i verktøyene dine allerede, som en «tenker»-fase før svaret kommer. Det er chain of thought i praksis.

Hvorfor hjelper det å tenke?

Du husker at modellen genererer et token om gangen, og at hvert token bygger på det som allerede står i konteksten. Det er hele forklaringen. Ber du om svaret direkte, må konklusjonen komme rett fra fordelingen, som ren hoderegning. Får modellen tenke først, blir svarene bedre, mer utfyllende og ofte av høyere kvalitet.

Tenkingen er kladdearket til modellen. Vanskelige problemer som krever flere steg, blir løsbare når hvert steg får plass på papiret i stedet for å måtte skje i ett gjett.

To løp. Uten tenking: spørsmål hopper rett til svar i ett stiplet, rødt gjett. Med tenking: spørsmål går gjennom steg 1, steg 2 og steg 3 til svar, med heltrukne grønne piler der hvert steg bygger på det forrige.

Hvordan får du modellen til å tenke?

Tidligere måtte du be om det selv, med formuleringer som «tenk steg for steg før du svarer». Det virker fortsatt, men i dag gjør de fleste verktøy dette automatisk for deg. Moderne modeller har innebygd tenkemodus, og mange verktøy lar deg justere hvor mye modellen skal tenke med et innsatsnivå, ofte kalt «effort level» eller lignende.

Det du fortsatt styrer, er hvor mye tenking oppgaven fortjener. Tenking koster tokens og tid, så skru opp for vanskelige oppgaver som feilsøking og planlegging, og ned for enkle.

Hva er chain of thought?

Å la modellen resonnere steg for steg før den svarerÅ stille flere spørsmål i samme meldingÅ lenke flere modeller sammenÅ be modellen svare så kort som mulig

Hvorfor gir tenking bedre svar på vanskelige oppgaver?

Fordi modellen får mer tid på serverenFordi hvert resonnementssteg blir en del av konteksten som neste steg kan bygge påFordi modellen slår opp svaret mens den tenkerFordi lange svar alltid er bedre svar

Hvordan styrer du tenkingen i moderne verktøy?

Du må alltid skrive «tenk steg for steg» i hver promptTenking kan ikke styres, modellen bestemmer selvVerktøyene tenker ofte automatisk, og du justerer mengden med et innsatsnivåDu må bytte til en større modell for å få tenking