Mikä on LLM xAI -komponentti?
LLM xAI -komponentti yhdistää Grok-mallin flow’husi. Vaikka varsinainen taika tapahtuu Generaattoreissa ja Agenteissa, LLM-komponenttien avulla voit hallita käytettävää mallia. Kaikissa komponenteissa on oletuksena ChatGPT-4. Voit liittää tämän komponentin, jos haluat vaihtaa mallia tai saada siihen enemmän hallintaa.
Muista, että LLM-komponentin liittäminen on vapaaehtoista. Kaikissa LLM:ää käyttävissä komponenteissa on oletuksena ChatGPT-4o. LLM-komponenttien avulla voit vaihtaa mallia ja säätää mallin asetuksia.
LLM xAI -komponentin asetukset
Max Tokens
Tokenit ovat tekstin yksiköitä, joita malli prosessoi ja tuottaa. Tokenien käyttö vaihtelee mallien mukaan, ja yksi token voi olla sana, sanan osa tai yksittäinen merkki. Mallien hinnoittelu perustuu yleensä miljooniin tokeneihin.
Maksimitokenien asetus rajoittaa kerralla prosessoitavien tokenien määrän, jolloin vastaukset pysyvät kohtuullisen kokoisina. Oletusraja on 4 000 tokenia, mikä on optimaalinen esimerkiksi dokumenttien ja useiden lähteiden tiivistämiseen.
Temperature
Temperature säätelee vastausten monipuolisuutta, välillä 0–1.
Temperature-arvo 0,1 tekee vastauksista hyvin täsmällisiä, mutta mahdollisesti toistavia ja niukkoja.
Korkea temperature-arvo 1 mahdollistaa luovimmat vastaukset, mutta kasvattaa epäolennaisten tai jopa “hallusinoitujen” vastausten riskiä.
Esimerkiksi asiakaspalvelubotille suositeltu temperature-arvo on 0,2–0,5. Tällä tasolla vastaukset pysyvät olennaisina ja skriptin mukaisina, mutta luonnollinen vaihtelu säilyy.
Malli
Tämä on mallin valitsin. Täältä löydät kaikki xAI-tarjoajan tukemat mallit. xAI:n lippulaivatekstimalli on Grok. Tällä hetkellä tuemme vain grok-beta-mallia, sillä se on ainoa, joka on julkaistu julkiseen API-käyttöön.
Haluatko tietää lisää Grok-betasta ja nähdä, miten se vertautuu muihin malleihin? Katso tämä artikkeli.
Miten lisäät LLM xAI:n flow’husi
Huomaat, että kaikissa LLM-komponenteissa on vain ulostulokahva. Syöte ei kulje komponentin läpi, sillä komponentti edustaa ainoastaan mallia; varsinainen generointi tapahtuu AI-agenteissa ja Generaattoreissa.
LLM-kahva on aina violetti. LLM-syötekahva löytyy kaikista komponenteista, joissa AI generoi tekstiä tai käsittelee dataa. Vaihtoehdot näet klikkaamalla kahvaa:
Tämän avulla voit luoda monenlaisia työkaluja. Katsotaanpa komponentti käytännössä. Tässä on yksinkertainen AI Agent -chatbotti Flow, joka käyttää xAI:n grok-beta-mallia vastausten tuottamiseen. Voit ajatella tätä perus xAI-chatbottina.
Tämä yksinkertainen Chatbot Flow sisältää:
- Chat input: Edustaa käyttäjän lähettämää viestiä chatissa.
- Chat history: Varmistaa, että chatbotti muistaa ja huomioi aiemmat vastaukset.
- Chat output: Edustaa chatbotin lopullista vastausta.
- AI Agent: Autonominen AI-agentti, joka generoi vastaukset.
- LLM xAI: Yhteys xAI:n tekstinluontimalleihin.
