Co je komponenta LLM DeepSeek?
Komponenta LLM DeepSeek propojuje modely DeepSeek s vaším Flow. Zatímco generátory a agenti jsou místem, kde se odehrává skutečná magie, LLM komponenty vám umožňují měnit a ovládat použitý model.
Pamatujte, že připojení LLM komponenty je volitelné. Všechny komponenty, které využívají LLM, mají ve výchozím nastavení ChatGPT-4o. LLM komponenty vám umožní měnit model a nastavovat jeho parametry.
Nastavení komponenty LLM Gemini
Max. počet tokenů
Tokeny představují jednotlivé jednotky textu, které model zpracovává a generuje. Spotřeba tokenů se liší podle modelu a jeden token může znamenat slovo, část slova nebo i jeden znak. Modely jsou obvykle zpoplatněny v milionech tokenů.
Nastavení maximálního počtu tokenů omezuje celkové množství tokenů, které lze zpracovat v jedné interakci či požadavku, a tím zajišťuje, že odpovědi budou v rozumných mezích. Výchozí limit je 4 000 tokenů, což je optimální velikost pro shrnutí dokumentů a více zdrojů k vygenerování odpovědi.
Teplota
Teplota určuje variabilitu odpovědí, a to od 0 do 1.
Teplota 0,1 znamená, že odpovědi budou velmi přímočaré, ale mohou být opakující se a méně rozmanité.
Vysoká teplota 1 umožňuje maximální kreativitu odpovědí, ale zvyšuje riziko nerelevantních či „halucinačních“ odpovědí.
Například doporučená teplota pro chatbot zákaznické podpory je mezi 0,2 a 0,5. Tato úroveň by měla zachovat odpovědi relevantní a podle scénáře, ale zároveň umožnit přirozenou variabilitu.
Model
Zde si vybíráte model. Najdete zde všechny podporované modely DeepSeek. Podporujeme všechny nejnovější modely Gemini:
- DeepSeek R1: Čínský lehký open-source model, který v roce 2025 způsobil celosvětový rozruch. Aktuálně je to nejrychlejší a nejlepší model DeepSeek, který snadno překonává OpenAI o1.
Jak přidat LLM DeepSeek do svého Flow
Všimnete si, že všechny LLM komponenty mají pouze výstupní konektor. Vstup do komponenty neprochází, protože komponenta představuje pouze model – samotné generování probíhá v AI agentech a generátorech.
Konektor LLM je vždy fialový. Vstupní konektor LLM najdete na každé komponentě, která využívá AI k generování textu nebo zpracování dat. Možnosti zobrazíte kliknutím na konektor:
Tímto způsobem si můžete vytvořit různé nástroje. Podívejme se na komponentu v akci. Zde je jednoduchý chatbot Flow s AI agentem, který k odpovědím používá DeepSeek R1. Můžete si jej představit jako základní DeepSeek chatbot.
Jednoduchý Chatbot Flow obsahuje:
- Vstup chat: Zastupuje zprávu, kterou uživatel odešle do chatu.
- Historie chatu: Zajišťuje, že si chatbot pamatuje a zohledňuje předchozí odpovědi.
- Výstup chat: Představuje finální odpověď chatbota.
- AI agent: Autonomní AI agent generující odpovědi.
- LLM DeepSeek: Propojení s generovacími modely DeepSeek.
