Ulike oppgaver krever ulike modeller, og FlowHunt er forpliktet til å gi deg det beste av AI uten behov for å tegne utallige abonnement. I stedet får du dusinvis av tekst- og bildegenereringsmodeller i ett enkelt dashbord. LLM-typen av komponenter huser tekstgenerering og deres ulike bruksområder innen AI, innholdsproduksjon og automatisering—modeller er gruppert etter leverandør, slik at du kan bytte AI-modell når som helst.

Hva er LLM Anthropic AI-komponenten?

LLM Anthropic AI-komponenten kobler Claude-familien av modeller til din flow. Selv om Generatorer og Agenter er der selve magien skjer, lar LLM-komponentene deg kontrollere hvilken modell som brukes. Alle komponenter leveres med ChatGPT-4 som standard. Du kan koble til denne komponenten hvis du ønsker å endre modell eller få mer kontroll over den.

Husk at tilkobling av en LLM-komponent er valgfritt. Alle komponenter som bruker en LLM, leveres med ChatGPT-4o som standard. LLM-komponentene lar deg endre modell og styre modellinnstillinger.

LLM Anthropic AI-komponentinnstillinger

Maks tokens

Tokens representerer de individuelle enhetene av tekst modellen behandler og genererer. Token-bruk varierer mellom modeller, og én enkelt token kan være alt fra ord eller delord til et enkelt tegn. Modellene prises vanligvis i millioner av tokens.

Maks tokens-innstillingen begrenser det totale antallet tokens som kan behandles i én enkelt interaksjon eller forespørsel, og sørger for at svarene genereres innenfor rimelige rammer. Standardgrensen er 4 000 tokens, som er optimal størrelse for å oppsummere dokumenter og flere kilder for å generere et svar.

Temperatur

Temperatur styrer variasjonen i svarene, og varierer fra 0 til 1.

• En temperatur på 0,1 gjør svarene svært presise, men potensielt repeterende og mangelfulle.
• En høy temperatur på 1 gir maksimal kreativitet i svarene, men øker risikoen for irrelevante eller til og med hallusinerte svar.

For eksempel er anbefalt temperatur for en kundeservicebot mellom 0,2 og 0,5. Dette nivået holder svarene relevante og til poenget, samtidig som det gir en naturlig variasjon i svarene.

Modell

Dette er modellvelgeren. Her finner du alle de støttede modellene fra Anthropic. Vi støtter for øyeblikket alle de nyeste modellene fra Claude-familien:

• Claude 3.5 Sonnet – Den nyeste versjonen av Claude sin mellomklassemodell. Denne modellen kombinerer hastighet og kvalitet, og passer til de fleste oppgaver. Les mer her.
• Claude 3 Sonnet – En eldre versjon av den populære mellomklassemodellen. Sjekk ut vår artikkel for å se hvordan den presterer.
• Claude 3 Haiku – Lett og rask modell, ideell for å gjøre enkle oppgaver i bulk. Selv om den er minst kraftig, gjør den det fortsatt bra selv med mer komplekse oppgaver. Se vår fullstendige test av modellen.
• Claude 2 – En sterk eldre modell. Les mer om hvordan den “tenker” her.

Slik legger du til LLM Anthropic AI i din flow

Du vil legge merke til at alle LLM-komponentene kun har et output-håndtak. Input går ikke gjennom komponenten, ettersom den kun representerer modellen, mens selve genereringen skjer i AI-agenter og generatorer.

LLM-håndtaket er alltid lilla. LLM input-håndtaket finnes på alle komponenter som bruker AI til å generere tekst eller behandle data. Du kan se alternativene ved å klikke på håndtaket:

Dette lar deg lage alle slags verktøy. La oss se komponenten i aksjon. Her er en enkel AI Agent chatbot-flow som bruker Anthropic’s Claude 3.5 Sonnet til å generere svar. Du kan tenke på det som en grunnleggende Anthropic-chatbot.

Denne enkle Chatbot Flow inkluderer:

• Chat input: Representerer meldingen en bruker sender i chatten.
• Chat history: Sørger for at chatboten kan huske og ta hensyn til tidligere svar.
• Chat output: Representerer chatbotens endelige svar.
• AI Agent: En autonom AI-agent som genererer svar.
• LLM Anthropic AI: Koblingen til Anthropic sine tekstgenereringsmodeller.