LLM Gemini

Vad är LLM Gemini-komponenten?

LLM Gemini-komponenten kopplar samman Gemini-modellerna från Google med ditt flöde. Medan Generatorer och Agenter är där den verkliga magin sker, tillåter LLM-komponenter dig att kontrollera vilken modell som används. Alla komponenter har ChatGPT-4 som standard. Du kan ansluta denna komponent om du vill byta modell eller få mer kontroll över den.

Kom ihåg att anslutning av en LLM-komponent är valfritt. Alla komponenter som använder en LLM har ChatGPT-4o som standard. LLM-komponenterna låter dig byta modell och styra modellinställningarna.

Inställningar för LLM Gemini-komponenten

Max Tokens

Tokens representerar de individuella enheter av text som modellen behandlar och genererar. Tokenanvändning varierar mellan modeller, och en enskild token kan vara allt från ord eller delord till ett enda tecken. Modeller prissätts vanligtvis per miljon tokens.

Inställningen för max tokens begränsar det totala antalet tokens som kan behandlas i en enskild interaktion eller begäran, vilket säkerställer att svaren genereras inom rimliga gränser. Standardgränsen är 4 000 tokens, vilket är den optimala storleken för att sammanfatta dokument och flera källor för att generera ett svar.

Temperatur

Temperatur styr variationen i svaren och varierar från 0 till 1.

En temperatur på 0,1 gör svaren väldigt rakt på sak, men kan bli repetitiva och bristfälliga.

En hög temperatur på 1 tillåter maximal kreativitet i svaren men medför risken för irrelevanta eller till och med hallucinerade svar.

Till exempel rekommenderas en temperatur för en kundtjänstbot på mellan 0,2 och 0,5. Denna nivå bör hålla svaren relevanta och enligt manus, samtidigt som den tillåter naturlig variation.

Modell

Det här är modellväljaren. Här hittar du alla de Gemini-modeller från Google som stöds. Vi stöder alla de senaste Gemini-modellerna:

• Gemini 2.0 Flash Experimental – En avancerad, låglatens-modell designad för agenter. Den har nya funktioner såsom inbyggt verktygsanvändande, bildskapande och talsyntes. Se hur väl den mest avancerade Google-modellen hanterade rutinuppgifter i våra tester.
• Gemini 1.5 Flash – En lätt, multimodal modell optimerad för hastighet och effektivitet, kapabel att bearbeta ljud-, bild-, video- och textinmatning, med ett kontextfönster på upp till 1 048 576 tokens. Läs mer här.
• Gemini 1.5 Flash-8B – En mindre, snabbare och mer kostnadseffektiv variant av 1.5 Flash-modellen, med liknande multimodala funktioner, 50 % lägre pris och dubbelt så höga hastighetsgränser som 1.5 Flash. Hur bra är den svagaste modellens output? Ta reda på det här.
• Gemini 1.5 Pro – En mellanstor multimodal modell optimerad för en rad olika resonemangsuppgifter, kapabel att bearbeta stora mängder data, inklusive utökad ljud- och videoinmatning, med en input-token-gräns på 2 097 152. Se exempel på output.

Hur du lägger till LLM Gemini i ditt flöde

Du kommer att märka att alla LLM-komponenter bara har ett utgångshandtag. Ingen input passerar genom komponenten, eftersom den endast representerar modellen, medan själva genereringen sker i AI-agenter och generatorer.

LLM-handtaget är alltid lila. LLM-input-handtaget finns på alla komponenter som använder AI för att generera text eller bearbeta data. Du kan se alternativen genom att klicka på handtaget:

Detta låter dig skapa alla möjliga verktyg. Låt oss se komponenten i aktion. Här är ett enkelt AI Agent-chattbotflöde som använder Gemini 2.0 Flash Experimental för att generera svar. Du kan tänka på det som en grundläggande Gemini-chattbot.

Detta enkla chattbotflöde inkluderar:

• Chattinmatning: Representerar meddelandet en användare skickar i chatten.
• Chatthistorik: Säkerställer att chattboten kan komma ihåg och ta hänsyn till tidigare svar.
• Chattutmatning: Representerar chattbotens slutgiltiga svar.
• AI Agent: En autonom AI-agent som genererar svar.
• LLM Gemini: Anslutningen till Googles textgenereringsmodeller.