Few shot prompting

Hva er few-shot prompting?

Few-shot prompting er å legge eksempler i bestillingen. I stedet for å bare beskrive oppgaven, viser du den: her er to meldinger og svarene jeg vil ha, gjør det samme med den tredje. Eksemplene blir en del av konteksten og drar fordelingen kraftig mot svar som ligner.

Navnet kommer fra antall eksempler: zero-shot er ingen eksempler, few-shot er noen få. Ofte er to eller tre nok.

Eksempler viser hva riktig ser ut som

Et godt eksempel formidler format, stil og nivå mer presist enn lange forklaringer. Prøver du å beskrive en JSON-struktur med ord, blir det både langt og tvetydig. Viser du ett eksempel forsvinner fort det meste av tvilen. Dette er vis-ikke-forklar-regelen fra kontekst-siden i praksis.

Når bør du bruke few-shot?

Few-shot skinner når du skal gjøre det samme mange ganger: klassifisere meldinger, skrive om tekster til samme form eller trekke strukturerte data ut av ustrukturert innhold. Den passer også når formatet må være helt presist, som når svaret skal leses av et annet program.

I kode har du ofte eksemplene liggende allerede. Skal modellen skrive en ny komponent eller test, referer til en eksisterende du er fornøyd med og be om samme mønster. For åpne spørsmål og utforskning kan eksempler være negativt da det begrenser modellens evne til å utforske mulighetsrommet.

---

Hva er few-shot prompting?

Å legge noen få eksempler på ønsket svar inn i bestillingenÅ stille det samme spørsmålet flere gangerÅ bruke flere modeller samtidigÅ skrive så kort prompt som mulig

Du trenger svar i et helt presist JSON-format. Hva er den mest effektive måten å formidle formatet på?

Beskrive strukturen nøye med ordVise et eksempel på ønsket utdataBe modellen finne på et passende format selvSende formatkravene i en egen samtale

Hvilken oppgave passer best for few-shot prompting?

Et åpent spørsmål om arkitekturvalgÅ trekke strukturerte data ut av hundre ustrukturerte meldingerEn samtale om fordeler og ulemper ved et rammeverkÅ be modellen forklare et konsept