Vlastní Guardrail

Komponenta Vlastní Guardrail funguje jako inteligentní filtr v rámci AI workflow a zajišťuje, že uživatelský vstup odpovídá specifickým kritériím nastaveným designérem workflow. Tato komponenta využívá jazykový model (LLM) v kombinaci s přizpůsobitelným promptem pro validaci a řízení toku konverzace nebo dat.

Co komponenta dělá

V jádru slouží Vlastní Guardrail jako strážce uživatelských vstupů. Používá prompt („Guardrail Prompt“) k zadání instrukcí LLM, co je považováno za akceptovatelný obsah. Například výchozí prompt omezuje konverzaci pouze na sportovní témata a blokuje jakékoliv nesouvisející či nesmyslné (gibberish) vstupy. Tento mechanismus zajišťuje, že AI workflow zůstává zaměřené a neodchyluje se od svého účelu.

Jak to funguje

• Komponenta přijme vstupní text (typicky zprávu od uživatele).
• Tento vstup spolu s guardrail promptem odešle do zvoleného LLM.
• LLM vyhodnotí vstup na základě promptu a určí, zda splňuje kritéria.
• Podle výsledku komponenta předá zprávu jednou ze dvou cest: akceptováno (true) nebo zamítnuto (false).

Vstupy

• LLM: Vyberte model, který chcete použít jako strážce vstupů. To umožňuje flexibilitu v použití různých LLM dle vašich potřeb.
• Guardrail Prompt: Přizpůsobte si, jak přísný nebo volný má guardrail být, úpravou promptu.
• Vstupní text: Skutečný text, který potřebuje validaci.

Výstupy

• True Route: Pokud vstup splňuje guardrail, předává se tímto výstupem k dalšímu zpracování.
• False Route: Pokud je vstup mimo téma nebo neprojde kontrolou, je odeslán tímto výstupem, což umožňuje jiné zpracování (např. zaslání upozornění nebo žádost o upřesnění).

Proč tuto komponentu používat?

• Kontrola kvality: Vynucení přísných tématických hranic nebo obsahových pravidel ve vašich AI aplikacích.
• Bezpečnost a relevance: Zabránění AI v reagování na nevhodný, nerelevantní nebo nežádoucí obsah.
• Přizpůsobitelné prosazování: Snadná úprava promptu guardrailu podle měnících se požadavků nebo zásad.
• Bezproblémová integrace: Funguje s různými LLM a umožňuje flexibilní směrování vstupů/výstupů ve vašem workflow.

Příklady využití

• Moderování chatbotů, aby zůstali u tématu (např. zákaznická podpora, vzdělávací boti).
• Filtrování uživatelského obsahu před jeho zpracováním nebo uložením.
• Prosazování souladu nebo právních požadavků v automatizovaných AI interakcích.
• Zamezení spamu nebo nesmyslných vstupů, které by narušily workflow.

Začleněním komponenty Vlastní Guardrail do svého AI workflow získáte detailní kontrolu nad tím, jaký obsah je přijímán, a zajistíte tak, že váš AI systém se chová podle očekávání a poskytuje spolehlivé, relevantní výsledky.