Prompt Injection
Prompt injection is de #1 LLM beveiligingskwetsbaarheid (OWASP LLM01) waarbij aanvallers kwaadaardige instructies inbedden in gebruikersinvoer of opgehaalde con...
4 min lezen
AI Security
Prompt Injection
+3
De rol van een prompt in LLM
Prompts spelen een cruciale rol in de werking van LLM’s. Ze zijn het primaire mechanisme waarmee gebruikers met deze modellen interageren. Door je vragen of instructies effectief te formuleren, kun je de kwaliteit en relevantie van de reacties die de LLM genereert aanzienlijk beïnvloeden. Goede prompts zijn essentieel om het volledige potentieel van LLM’s te benutten, of het nu gaat om zakelijke toepassingen, contentcreatie of onderzoek.
Hoe wordt een prompt gebruikt in LLM?
Prompts worden op verschillende manieren gebruikt om de output van een LLM te sturen. Dit zijn enkele veelvoorkomende benaderingen:
- Zero-Shot Prompting: De LLM een taak geven zonder voorbeelden. Bijvoorbeeld: “Vertaal ‘cheese’ naar het Frans.”
- One-Shot Prompting: Eén voorbeeld geven om de taak te illustreren. Bijvoorbeeld: “Vertaal Engels naar Frans: cheese => fromage. Vertaal nu ‘bread’.”
- Few-Shot Prompting: Meerdere voorbeelden geven om het model te sturen. Bijvoorbeeld: “Vertaal Engels naar Frans: cheese => fromage, bread => pain. Vertaal nu ‘apple’.”
- Chain-of-Thought Prompting: Gedetailleerde redeneerstappen in de prompt opnemen om het model te helpen een doordacht antwoord te geven. Bijvoorbeeld: “Als je 5 appels hebt en je koopt er 3 bij, hoeveel appels heb je dan? Eerst heb je 5 appels. Dan voeg je er 3 toe, wat je in totaal 8 appels geeft.”
Klaar om uw bedrijf te laten groeien?
Start vandaag uw gratis proefperiode en zie binnen enkele dagen resultaten.
Effectieve prompts maken in LLM
Het maken van effectieve prompts vereist duidelijkheid en specificiteit. Hier zijn enkele tips:
- Duidelijkheid: Gebruik eenvoudige, ondubbelzinnige taal. Vermijd jargon en complexe woorden. Vraag bijvoorbeeld in plaats van “Wie heeft de verkiezingen gewonnen?” liever: “Welke partij heeft de algemene verkiezingen van 2023 in Paraguay gewonnen?”
- Specificiteit: Geef de nodige context. Vraag in plaats van “Genereer een lijst met titels voor mijn autobiografie” liever: “Genereer een lijst van tien titels voor mijn autobiografie. Het boek gaat over mijn reis als avonturier die een onconventioneel leven heeft geleid, veel verschillende persoonlijkheden heeft ontmoet en uiteindelijk rust vindt in tuinieren.”
- Positieve instructies: Formuleer je aanwijzingen positief. In plaats van “Maak de titels niet te lang,” zeg je: “Elke titel moet tussen de twee en vijf woorden lang zijn.”
Geavanceerde prompting-technieken
Few-Shot en Chain-of-Thought Prompting
Onderzoekers hebben ontdekt dat het geven van voorbeelden (few-shot prompting) of het opnemen van gedetailleerde redeneerstappen (chain-of-thought prompting) de prestaties van het model aanzienlijk kunnen verbeteren. Bijvoorbeeld:
- Few-Shot Prompting: “Vertaal Engels naar Frans: cheese => fromage, bread => pain. Vertaal nu ‘apple’.”
- Chain-of-Thought Prompting: “Roger heeft 5 tennisballen. Hij koopt er 6 bij. Hoeveel tennisballen heeft hij in totaal? Eerst heeft Roger 5 tennisballen. Dan koopt hij er 6 bij, wat betekent dat hij nu 11 tennisballen heeft.”
Gestructureerde prompting
Je prompt op een betekenisvolle manier structureren kan de LLM helpen om meer nauwkeurige en relevante antwoorden te genereren. Als de taak bijvoorbeeld klantenservice is, kun je beginnen met een systeembericht: “Je bent een vriendelijke AI-agent die de klant kan helpen met betrekking tot hun recente bestelling.”
