AI Google Docs -tutkimusapuri
Tämä tekoälyllä toimiva työnkulku hakee tiettyä tietoa Google-dokumentista ja laajentaa sitä tutkimalla eri lähteitä, kuten Google-hakua, Wikipediaa ja URL-osoi...
3 min lukuaika
Kuvittele asiakas keskustelemassa chatbotisi kanssa tilauksestaan. Hänellä on lisäkysymyksiä, mutta botti unohtaa heti, mistä tilauksesta on kyse, mikä aiheuttaa turhautumista. Tämän estämiseksi chatbotin täytyy muistaa viestihistoria, ja juuri sitä varten tämä komponentti on suunniteltu.
Kuitenkin AI:n pitäminen aiemmissa viesteissä maksaa tokeneita. Lisäksi monissa Flown käyttötapauksissa muistia ei tarvita lainkaan. Siksi tämä komponentti on valinnainen ja antaa sinun rajoittaa muistia tarpeidesi mukaan ilman ylimääräisiä kustannuksia.
Mikä on Keskusteluhistorian komponentti?
Keskusteluhistorian komponentti varmistaa, että chatbot muistaa tietyn määrän aiempia viestejä. Se mahdollistaa johdonmukaisen keskustelun käymisen samalla, kun muistettavien viestien määrä ja tokenien käyttö pysyvät hallinnassa.
Keskusteluhistoria löytyy komponenttien Muisti-kategoriasta ja on valinnainen:
Viestien määrän raja
Tällä säädetään, kuinka monta aiempaa viestiä chatbotin tulisi muistaa. Oletusarvo on 5, mikä riittää kattamaan peruskysymyksiä koskevat keskustelut. Jos käyttötapauksesi vaatii pidempää johdonmukaista keskustelua, voit kasvattaa rajaa – muista tällöin nostaa myös Max Tokens -asetusta.
Max Tokens
Jokainen aiempi viesti pilkotaan pienempiin tekstiyksiköihin (tokeneihin), jotka malli käsittelee muodostaakseen tarkoituksenmukaisia ja kontekstuaalisia vastauksia. Max Tokens -asetus rajoittaa aiempien viestien muistamiseen käytettyjen tokenien määrää. Tokenien käyttö vaihtelee malleittain, ja yksi token voi olla sana, osasana tai yksittäinen merkki.
Viestityyppi
Tällä pudotusvalikolla voi suodattaa, mitkä viestit muistetaan: vain ihmisen viestit, vain AI:n viestit tai kaikki.
Miten liittää Keskusteluhistorian komponentti flow’hun
Historia täytyy liittää LLM:ään ja käyttäjän syötteeseen toimiakseen oikein. Komponentilla ei kuitenkaan ole sisääntulevaa liitintä, vaan ainoastaan ulostuleva.
Keskusteluhistorian komponentin ulostulotyyppi on keskusteluhistoria, ja se liitetään komponentteihin, jotka tarvitsevat historiaa, eli Promptit ja Splitterit.
Esimerkiksi Jatkoviestit-komponentissa vastaus tuotetaan liittämällä LLM-generaattori, konteksti keskusteluhistoriaan ja syöte käyttäjän Chat Inputiin.
