Prompt Injection
Prompt injection to podatność bezpieczeństwa LLM nr 1 (OWASP LLM01), w której atakujący osadzają złośliwe instrukcje w danych wejściowych użytkownika lub w pobr...
4 min czytania
AI Security
Prompt Injection
+3
Rola promptu w LLM
Prompty odgrywają kluczową rolę w funkcjonowaniu dużych modeli językowych (LLM). Stanowią główny mechanizm, dzięki któremu użytkownicy komunikują się z tymi modelami. Odpowiednie sformułowanie zapytania lub polecenia znacząco wpływa na jakość i trafność odpowiedzi generowanych przez LLM. Dobre prompty są niezbędne, aby w pełni wykorzystać potencjał LLM — czy to w zastosowaniach biznesowych, tworzeniu treści, czy badaniach naukowych.
Jak działa prompt w LLM?
Prompty są wykorzystywane na różne sposoby, by ukierunkować odpowiedź LLM. Oto najczęstsze podejścia:
- Zero-Shot Prompting: Przekazanie modelowi zadania bez żadnych przykładów. Na przykład: „Przetłumacz ‘cheese’ na francuski.”
- One-Shot Prompting: Podanie jednego przykładu, by zilustrować zadanie. Przykład: „Przetłumacz z angielskiego na francuski: cheese => fromage. Teraz przetłumacz ‘bread’.”
- Few-Shot Prompting: Przekazanie kilku przykładów, by ukierunkować model. Przykład: „Przetłumacz z angielskiego na francuski: cheese => fromage, bread => pain. Teraz przetłumacz ‘apple’.”
- Chain-of-Thought Prompting: Uwzględnienie w promptcie szczegółowych kroków rozumowania, by pomóc modelowi wygenerować przemyślaną odpowiedź. Przykład: „Masz 5 jabłek i kupujesz 3 kolejne. Ile masz razem jabłek? Najpierw masz 5 jabłek. Następnie dodajesz 3, co daje w sumie 8 jabłek.”
Gotowy na rozwój swojej firmy?
Rozpocznij bezpłatny okres próbny już dziś i zobacz rezultaty w ciągu kilku dni.
Jak tworzyć skuteczne prompty dla LLM
Tworzenie skutecznych promptów wymaga jasności i precyzji. Oto wskazówki:
- Jasność: Używaj prostego, jednoznacznego języka. Unikaj żargonu i złożonego słownictwa. Zamiast pytać: „Kto wygrał wybory?”, doprecyzuj: „Która partia wygrała wybory parlamentarne w Paragwaju w 2023 roku?”
- Precyzja: Zapewnij niezbędny kontekst. Zamiast: „Wymyśl tytuły dla mojej autobiografii”, bądź konkretny: „Wymyśl dziesięć tytułów dla mojej autobiografii. Książka opowiada o mojej podróży jako poszukiwacza przygód, który prowadził nietuzinkowe życie, spotykał różne osobowości i w końcu odnalazł spokój w ogrodnictwie.”
- Pozytywne instrukcje: Formułuj polecenia w sposób pozytywny. Zamiast: „Nie rób tytułów zbyt długich”, napisz: „Każdy tytuł powinien mieć od dwóch do pięciu słów.”
Zaawansowane techniki promptowania
Few-Shot i Chain-of-Thought Prompting
Badania pokazują, że podanie przykładów (few-shot prompting) lub włączenie szczegółowych kroków rozumowania (chain-of-thought prompting) znacząco poprawia skuteczność modelu. Na przykład:
- Few-Shot Prompting: „Przetłumacz z angielskiego na francuski: cheese => fromage, bread => pain. Teraz przetłumacz ‘apple’.”
- Chain-of-Thought Prompting: „Roger ma 5 piłek tenisowych. Kupuje 6 kolejnych. Ile ma razem piłek tenisowych? Najpierw Roger ma 5 piłek. Następnie kupuje 6, co oznacza, że ma teraz 11 piłek tenisowych.”
Strukturalne promptowanie
Strukturyzowanie promptu w przemyślany sposób może pomóc LLM generować trafniejsze i dokładniejsze odpowiedzi. Na przykład, jeśli zadaniem jest obsługa klienta, można rozpocząć od komunikatu systemowego: „Jesteś przyjaznym agentem AI, który może pomóc klientowi w sprawie ostatniego zamówienia.”
