Injecția de Prompt
Injecția de prompt este vulnerabilitatea de securitate LLM nr. 1 (OWASP LLM01) prin care atacatorii încorporează instrucțiuni rău intenționate în input-ul utili...
5 min citire
AI Security
Prompt Injection
+3
Rolul unui Prompt în LLM
Prompturile joacă un rol esențial în funcționarea LLM-urilor. Ele acționează ca principalul mecanism prin care utilizatorii interacționează cu aceste modele. Formulând eficient întrebările sau instrucțiunile, poți influența semnificativ calitatea și relevanța răspunsurilor generate de LLM. Prompturile bune sunt esențiale pentru a valorifica la maximum potențialul LLM-urilor, fie pentru aplicații de business, creație de conținut sau scopuri de cercetare.
Cum se folosește un Prompt în LLM?
Prompturile sunt utilizate în diverse moduri pentru a ghida rezultatul unui LLM. Iată câteva abordări comune:
- Prompting Zero-Shot: Oferirea LLM-ului a unei sarcini fără niciun exemplu. De exemplu: „Tradu ‘cheese’ în franceză.”
- Prompting One-Shot: Oferirea unui exemplu pentru a ilustra sarcina. De exemplu: „Tradu din engleză în franceză: cheese => fromage. Acum traduce ‘bread’.”
- Prompting Few-Shot: Furnizarea mai multor exemple pentru a ghida modelul. De exemplu: „Tradu din engleză în franceză: cheese => fromage, bread => pain. Acum traduce ‘apple’.”
- Prompting Chain-of-Thought: Includerea unor pași detaliați de raționament în prompt pentru a ajuta modelul să genereze un răspuns gândit. De exemplu: „Dacă ai 5 mere și mai cumperi 3, câte mere ai în total? Mai întâi ai 5 mere. Apoi adaugi încă 3, ceea ce îți dă un total de 8 mere.”
Pregătit să îți dezvolți afacerea?
Începe perioada de probă gratuită astăzi și vezi rezultate în câteva zile.
Cum creezi Prompturi Eficiente pentru LLM
Crearea unor prompturi eficiente implică claritate și specificitate. Iată câteva sfaturi:
- Claritate: Folosește un limbaj simplu, neambiguu. Evită jargonul și vocabularul complex. De exemplu, în loc să întrebi „Cine a câștigat alegerile?”, specifică „Ce partid a câștigat alegerile generale din Paraguay în 2023?”
- Specificitate: Oferă contextul necesar. În loc să ceri „Generează o listă de titluri pentru autobiografia mea”, fii specific: „Generează o listă cu zece titluri pentru autobiografia mea. Cartea este despre călătoria mea ca aventurier care a avut o viață neconvențională, a întâlnit multe personalități diferite și, în final, a găsit liniștea în grădinărit.”
- Instrucțiuni pozitive: Formulează directivele în mod pozitiv. În loc de „Nu face titlurile prea lungi”, specifică „Fiecare titlu trebuie să aibă între două și cinci cuvinte.”
Tehnici Avansate de Prompting
Prompting Few-Shot și Chain-of-Thought
Cercetătorii au descoperit că oferirea de exemple (few-shot prompting) sau includerea unor pași detaliați de raționament (chain-of-thought prompting) poate îmbunătăți semnificativ performanța modelului. De exemplu:
- Prompting Few-Shot: „Tradu din engleză în franceză: cheese => fromage, bread => pain. Acum traduce ‘apple’.”
- Prompting Chain-of-Thought: „Roger are 5 mingi de tenis. Mai cumpără 6. Câte mingi de tenis are în total? Mai întâi, Roger are 5 mingi de tenis. Apoi, mai cumpără 6, ceea ce înseamnă că are acum 11 mingi de tenis.”
Prompting Structurat
Structurarea promptului într-un mod semnificativ poate ghida LLM-ul să genereze răspunsuri mai exacte și mai relevante. De exemplu, dacă sarcina este de suport clienți, poți începe cu un mesaj de sistem: „Ești un agent AI prietenos care poate oferi asistență clientului cu privire la comanda sa recentă.”
