Soms is de makkelijkste manier om uit te leggen wat je wilt, het simpelweg voordoen. Dat is precies het idee achter few-shot prompting: je geeft het taalmodel een handvol voorbeelden van een invoer met de bijbehorende gewenste uitvoer, en pas daarna de echte invoer. Het model herkent het patroon in je voorbeelden en past het toe.
De term komt uit het feit dat je het model een paar ("few") voorbeelden ("shots") laat zien. Geef je geen voorbeeld, dan heet dat zero-shot: je vraagt het model iets puur op basis van je instructie. Met precies één voorbeeld spreek je van one-shot. Few-shot is vooral nuttig wanneer een instructie alleen lastig precies de juiste vorm oplevert.
Wanneer few-shot loont
Few-shot prompting werkt het best bij taken die je in een vast stramien wilt uitvoeren:
- Classificeren: klantberichten labelen als "klacht", "vraag" of "compliment".
- Gegevens omzetten: losse zinnen omzetten naar een vaste regelopbouw.
- Vaste toon of stijl: productteksten in exact jouw huisstijl en lengte.
- Extractie: uit een tekst steeds dezelfde velden halen, zoals naam en datum.
Voor een eenmalige, open vraag ("vat dit rapport samen") voegt few-shot meestal weinig toe. Daar volstaat een goede zero-shot-instructie.
Hoe je een few-shot-prompt opbouwt
De opbouw is steeds hetzelfde: eerst een korte instructie, dan je voorbeelden in een vast patroon, en als laatste de nieuwe invoer waarvan je de uitvoer nog leeg laat. Een voorbeeld voor het labelen van berichten:
Label elk bericht als KLACHT, VRAAG of COMPLIMENT.
Bericht: De levering was drie dagen te laat.
Label: KLACHT
Bericht: Hoe stel ik mijn wachtwoord opnieuw in?
Label: VRAAG
Bericht: Wat een fijne service, bedankt!
Label: COMPLIMENT
Bericht: Mijn factuur klopt niet, graag uitleg.
Label:
Het model vult bij de laatste regel het label aan in dezelfde stijl als je voorbeelden.
Een few-shot-prompt in vier stappen
- Schrijf bovenaan een korte instructie die de taak benoemt, zoals \"Label elk bericht als KLACHT, VRAAG of COMPLIMENT.\".
- Voeg twee tot vijf voorbeelden toe in een vast patroon, met per voorbeeld de invoer en de gewenste uitvoer.
- Plak onderaan je echte invoer en laat het uitvoerveld leeg, zodat het model dat invult.
- Bekijk het resultaat en voeg pas een extra voorbeeld toe als een bepaald geval steeds misgaat.
Houd het formaat strak consistent
Gebruik in al je voorbeelden exact dezelfde labels ("Bericht:", "Label:"), dezelfde volgorde en dezelfde schrijfwijze. Het model neemt ook kleine onregelmatigheden over, dus consistentie in je voorbeelden geeft consistentie in de uitvoer.
Hoeveel voorbeelden?
Vaak zijn twee tot vijf goede voorbeelden genoeg. Belangrijker dan het aantal is de variatie: laat verschillende soorten gevallen zien, zodat het patroon duidelijk is en niet te smal. Voor classificatie betekent dat minimaal één voorbeeld per categorie.
Meer is niet altijd beter
Lange prompts kosten meer ruimte en kunnen het model afleiden. Begin klein, bekijk het resultaat en voeg pas een extra voorbeeld toe als een bepaald geval steeds misgaat.
Let op de kwaliteit van je voorbeelden
Het model neemt je voorbeelden als waarheid aan. Daar zitten twee aandachtspunten aan vast:
- Fouten erven door: een verkeerd label of een typefout in een voorbeeld stuurt de uitvoer de verkeerde kant op. Controleer je voorbeelden goed.
- Balans: als bijna al je voorbeelden hetzelfde label hebben, neigt het model daar ook naartoe. Zorg voor een evenwichtige set.
Geen gevoelige gegevens in je voorbeelden
Gebruik geen vertrouwelijke of persoonsgegevens als voorbeeld zonder dat de tool en het account daarvoor geschikt en goedgekeurd zijn. Verzonnen of geanonimiseerde voorbeelden werken voor het patroon net zo goed en zijn veiliger.
Combineren met andere technieken
Few-shot sluit andere aanpakken niet uit. Je kunt het prima combineren met een duidelijke rol en een vastgelegd formaat uit een gewone prompt. Werkt few-shot niet goed genoeg voor een complexere, redenerende taak, dan kun je het model ook vragen zijn stappen hardop te doorlopen voordat het een antwoord geeft. Begin echter altijd eenvoudig: vaak lost een paar goede voorbeelden het al op.
Wat is het verschil tussen zero-shot, one-shot en few-shot?
Bij zero-shot geef je alleen een instructie en geen voorbeeld. Bij one-shot geef je precies één voorbeeld. Bij few-shot geef je meerdere voorbeelden, meestal twee tot vijf, voordat je de echte invoer aanbiedt.
Hoeveel voorbeelden moet ik geven?
Vaak zijn twee tot vijf goede voorbeelden genoeg. Belangrijker dan het aantal is de variatie: zorg dat je verschillende soorten gevallen laat zien, met bij classificatie minimaal één voorbeeld per categorie.
Waarom krijg ik inconsistente uitvoer terug?
Meestal komt dat door inconsistente voorbeelden. Houd labels, volgorde en schrijfwijze in al je voorbeelden exact hetzelfde, want het model neemt ook kleine onregelmatigheden over.
Werkt few-shot voor elke taak?
Nee. Few-shot loont vooral bij herhaalbare taken met een vast formaat, zoals classificeren, omzetten of velden uit tekst halen. Voor een eenmalige open vraag volstaat meestal een goede zero-shot-instructie.
Kan ik few-shot combineren met andere technieken?
Ja. Je kunt few-shot prima combineren met een duidelijke rol, een vast uitvoerformaat en, bij complexere taken, een vraag om de redeneerstappen hardop te doorlopen.