Token
Et token i forbindelse med store sprogmodeller (LLM'er) er en sekvens af tegn, som modellen omdanner til numeriske repræsentationer for effektiv behandling. Tok...
3 min læsning
Token
LLM
+3
LLM DeepSeek
LLM DeepSeek fra FlowHunt giver dig adgang til og mulighed for at tilpasse top AI-modeller som DeepSeek R1 til tekst- og billedgenerering i dine chatbots og AI-værktøjer – alt sammen fra ét dashboard.
AI
DeepSeek
LLM
Chatbot
Komponentbeskrivelse
Sådan fungerer LLM DeepSeek-komponenten
Hvad er LLM DeepSeek-komponenten?
LLM DeepSeek-komponenten forbinder DeepSeek-modellerne til dit Flow. Mens Generatorer og Agenter er der, hvor magien sker, gør LLM-komponenter det muligt at skifte og styre den anvendte model.
Husk, at det er valgfrit at forbinde en LLM-komponent. Alle komponenter, der bruger en LLM, leveres med ChatGPT-4o som standard. LLM-komponenterne gør det muligt at ændre modellen og styre modelindstillingerne.
LLM Gemini-komponentindstillinger
Maksimalt antal tokens
Tokens repræsenterer de enkelte tekst-enheder, som modellen behandler og genererer. Token-forbrug varierer mellem modeller, og en enkelt token kan være alt fra ord eller delord til et enkelt tegn. Modeller prissættes normalt i millioner af tokens.
Indstillingen for maksimalt antal tokens begrænser det samlede antal tokens, der kan behandles i en enkelt interaktion eller forespørgsel, hvilket sikrer, at svarene genereres inden for rimelige grænser. Standardgrænsen er 4.000 tokens, hvilket er en optimal størrelse til at opsummere dokumenter og flere kilder for at generere et svar.
Temperatur
Temperatur styrer variationen i svarene og spænder fra 0 til 1.
En temperatur på 0,1 gør svarene meget præcise, men potentielt gentagende og mangelfulde.
En høj temperatur på 1 tillader maksimal kreativitet i svarene, men øger risikoen for irrelevante eller endda hallucinerede svar.
For eksempel anbefales en temperatur mellem 0,2 og 0,5 til en kundeservicebot. Dette niveau holder svarene relevante og i overensstemmelse med scriptet, men tillader naturlig variation i svarene.
Model
Dette er modelvælgeren. Her finder du alle de understøttede DeepSeek-modeller. Vi understøtter alle de nyeste Gemini-modeller:
- DeepSeek R1: Den kinesiske letvægts open source-model, der tog verden med storm i begyndelsen af 2025. Den er i øjeblikket den hurtigste og bedste DeepSeek-model, som uden besvær overgår OpenAI’s o1-model.
Sådan tilføjer du LLM DeepSeek til dit Flow
Du vil bemærke, at alle LLM-komponenter kun har et output-håndtag. Input passerer ikke igennem komponenten, da den kun repræsenterer modellen, mens selve genereringen sker i AI-agenter og generatorer.
LLM-håndtaget er altid lilla. LLM-inputhåndtaget findes på alle komponenter, der bruger AI til at generere tekst eller behandle data. Du kan se mulighederne ved at klikke på håndtaget:
Dette gør det muligt at oprette alle slags værktøjer. Lad os se komponenten i aktion. Her er et simpelt AI Agent chatbot-flow, der bruger DeepSeek R1 til at generere svar. Du kan betragte det som en grundlæggende DeepSeek-chatbot.
Dette simple chatbot-flow inkluderer:
- Chat-input: Repræsenterer den besked, en bruger sender i chatten.
- Chat-historik: Sikrer, at chatbotten kan huske og tage tidligere svar i betragtning.
- Chat-output: Repræsenterer chatbot’ens endelige svar.
- AI-agent: En autonom AI-agent, der genererer svar.
- LLM DeepSeek: Forbindelsen til DeepSeek-genereringsmodellerne.
Ofte stillede spørgsmål
- Hvad er LLM DeepSeek i FlowHunt?
LLM DeepSeek er en komponent i FlowHunt, der gør det muligt at forbinde og styre DeepSeek AI-modeller til tekst- og billedgenerering, hvilket muliggør kraftfulde chatbots og automatiserede flows.
- Hvilke DeepSeek-modeller understøttes?
FlowHunt understøtter alle de nyeste DeepSeek-modeller, herunder DeepSeek R1, som er kendt for sin hastighed og ydeevne, især sammenlignet med andre førende AI-modeller.
- Hvordan kan jeg tilpasse LLM DeepSeek-indstillinger?
Du kan justere maksimalt antal tokens for svarelængde og temperatur for svar-kreativitet samt skifte mellem tilgængelige DeepSeek-modeller direkte i dit FlowHunt-dashboard.
- Er det nødvendigt at forbinde en LLM DeepSeek-komponent?
Nej, det er valgfrit at forbinde en LLM-komponent. Som standard anvender FlowHunt ChatGPT-4o, men ved at tilføje LLM DeepSeek kan du skifte og styre, hvilken AI-model der driver dine flows.
Prøv FlowHunt med DeepSeek
Begynd at bygge smartere AI-chatbots og automatiseringsværktøjer ved hjælp af avancerede DeepSeek-modeller – helt uden kompleks opsætning eller flere abonnementer.