Vad är LLM DeepSeek-komponenten?
LLM DeepSeek-komponenten kopplar DeepSeek-modellerna till ditt Flöde. Medan Generatorer och Agenter är där själva magin sker, låter LLM-komponenterna dig byta och styra vilken modell som används.
Kom ihåg att det är valfritt att koppla en LLM-komponent. Alla komponenter som använder en LLM har ChatGPT-4o som standard. LLM-komponenterna låter dig byta modell och styra modellinställningarna.
Inställningar för LLM Gemini-komponent
Max tokens
Tokens representerar de individuella enheterna av text som modellen behandlar och genererar. Tokenanvändning varierar mellan modeller, och en token kan vara allt från ord eller delord till ett enskilt tecken. Modeller prissätts vanligtvis per miljon tokens.
Inställningen för max tokens begränsar det totala antalet tokens som kan behandlas vid en enskild interaktion eller förfrågan, vilket säkerställer att svaren genereras inom rimliga gränser. Standardgränsen är 4 000 tokens, vilket är optimal storlek för att sammanfatta dokument och flera källor för att generera ett svar.
Temperatur
Temperatur styr variationsgraden i svaren och går från 0 till 1.
En temperatur på 0,1 gör svaren väldigt raka på sak men kan leda till upprepningar och brist på variation.
En hög temperatur på 1 tillåter maximal kreativitet i svaren men innebär risk för irrelevanta eller till och med “hallucinerande” svar.
Till exempel rekommenderas en temperatur mellan 0,2 och 0,5 för en kundtjänstbot. Den nivån håller svaren relevanta och efter manus men tillåter naturlig variation.
Modell
Detta är modellväljaren. Här hittar du alla stödda DeepSeek-modeller. Vi stöder alla de senaste Gemini-modellerna:
- DeepSeek R1: Den kinesiska lättviktsmodellen med öppen källkod som tog världen med storm i början av 2025. Det är för närvarande den snabbaste och bästa DeepSeek-modellen, som enkelt överträffar OpenAI:s o1-modell.
Hur lägger man till LLM DeepSeek i ditt Flöde
Du kommer att märka att alla LLM-komponenter endast har ett utgångshandtag. Ingång passerar inte genom komponenten, då den endast representerar modellen, medan själva genereringen sker i AI-agenter och Generatorer.
LLM-handtaget är alltid lila. LLM-ingångshandtaget finns på alla komponenter som använder AI för att generera text eller bearbeta data. Du ser alternativen genom att klicka på handtaget:
Detta låter dig skapa alla möjliga verktyg. Låt oss se komponenten i aktion. Här är ett enkelt AI-agent chatbotflöde som använder DeepSeek R1 för att generera svar. Du kan se det som en grundläggande DeepSeek-chatbot.
Detta enkla chatbotflöde innehåller:
- Chatinmatning: Representerar meddelandet en användare skickar i chatten.
- Chathistorik: Ser till att chatboten kan minnas och ta hänsyn till tidigare svar.
- Chatutmatning: Representerar chatbotens slutgiltiga svar.
- AI-agent: En autonom AI-agent som genererar svar.
- LLM DeepSeek: Kopplingen till DeepSeek-genereringsmodellerna.
