AI Firewall
AI Firewall je bezpečnostní vrstva navržená speciálně k ochraně systémů umělé inteligence, zejména velkých jazykových modelů (LLM) a generativních AI API, před ...
7 min čtení
AI Security
LLM
+3
Komponenta Vlastní Guardrail funguje jako inteligentní filtr v rámci AI workflow a zajišťuje, že uživatelský vstup odpovídá specifickým kritériím nastaveným designérem workflow. Tato komponenta využívá jazykový model (LLM) v kombinaci s přizpůsobitelným promptem pro validaci a řízení toku konverzace nebo dat.
Co komponenta dělá
V jádru slouží Vlastní Guardrail jako strážce uživatelských vstupů. Používá prompt („Guardrail Prompt“) k zadání instrukcí LLM, co je považováno za akceptovatelný obsah. Například výchozí prompt omezuje konverzaci pouze na sportovní témata a blokuje jakékoliv nesouvisející či nesmyslné (gibberish) vstupy. Tento mechanismus zajišťuje, že AI workflow zůstává zaměřené a neodchyluje se od svého účelu.
Jak to funguje
- Komponenta přijme vstupní text (typicky zprávu od uživatele).
- Tento vstup spolu s guardrail promptem odešle do zvoleného LLM.
- LLM vyhodnotí vstup na základě promptu a určí, zda splňuje kritéria.
- Podle výsledku komponenta předá zprávu jednou ze dvou cest: akceptováno (true) nebo zamítnuto (false).
Vstupy
| Název | Typ | Popis |
|---|---|---|
| LLM | HandleInput | Jazykový model používaný k vyhodnocení a prosazení guardrailu. |
| Guardrail Prompt | PromptInput | Instrukce poskytovaná LLM, jaký obsah je povolen. |
| Vstupní text | Message | Zpráva nebo obsah uživatele ke zvalidování. |
- LLM: Vyberte model, který chcete použít jako strážce vstupů. To umožňuje flexibilitu v použití různých LLM dle vašich potřeb.
- Guardrail Prompt: Přizpůsobte si, jak přísný nebo volný má guardrail být, úpravou promptu.
- Vstupní text: Skutečný text, který potřebuje validaci.
Výstupy
| Název | Typ | Popis |
|---|---|---|
| True Route | Message | Výstup, pokud vstupní text projde kontrolou guardrailu (tj. splňuje kritéria). |
| False Route | Message | Výstup, pokud vstupní text nesplňuje kritéria a je odfiltrován/zamítnut. |
- True Route: Pokud vstup splňuje guardrail, předává se tímto výstupem k dalšímu zpracování.
- False Route: Pokud je vstup mimo téma nebo neprojde kontrolou, je odeslán tímto výstupem, což umožňuje jiné zpracování (např. zaslání upozornění nebo žádost o upřesnění).
Proč tuto komponentu používat?
- Kontrola kvality: Vynucení přísných tématických hranic nebo obsahových pravidel ve vašich AI aplikacích.
- Bezpečnost a relevance: Zabránění AI v reagování na nevhodný, nerelevantní nebo nežádoucí obsah.
- Přizpůsobitelné prosazování: Snadná úprava promptu guardrailu podle měnících se požadavků nebo zásad.
- Bezproblémová integrace: Funguje s různými LLM a umožňuje flexibilní směrování vstupů/výstupů ve vašem workflow.
Příklady využití
- Moderování chatbotů, aby zůstali u tématu (např. zákaznická podpora, vzdělávací boti).
- Filtrování uživatelského obsahu před jeho zpracováním nebo uložením.
- Prosazování souladu nebo právních požadavků v automatizovaných AI interakcích.
- Zamezení spamu nebo nesmyslných vstupů, které by narušily workflow.
Začleněním komponenty Vlastní Guardrail do svého AI workflow získáte detailní kontrolu nad tím, jaký obsah je přijímán, a zajistíte tak, že váš AI systém se chová podle očekávání a poskytuje spolehlivé, relevantní výsledky.
