Kehote
Luo kehotepohja dynaamisilla muuttujilla LLM:lle, tukee kenttiä kuten {input}, {human_input}, {context}, {chat_history}, {system_message}.
Yleiskatsaus
Tämä työnkulku toteuttaa yksinkertaisen Retrieval-Augmented Generation (RAG) -chatbotin, joka hyödyntää reaaliaikaista Google-hakua hakeakseen ajantasaista tietoa internetistä – erityisesti se voidaan räätälöidä rajoittamaan kaikki haut tiettyyn verkkotunnukseen. Tavoitteena on luoda chatbotti, joka pystyy vastaamaan käyttäjän kysymyksiin hyödyntämällä verkosta löytyvää ajankohtaisinta ja olennaisinta sisältöä, mikä tekee siitä arvokkaan erityisesti tilanteissa, joissa staattiset tietopankit eivät riitä.
Keskeiset komponentit ja kulku
Työnkulku koostuu useista moduulirakenteisista lohkoista, joista jokainen edustaa tiettyä toiminnallisuutta. Alla on yhteenveto työnkulun rakenteesta ja toiminnoista:
| Komponentti | Rooli |
|---|---|
| Chat-syöte | Vastaanottaa käyttäjän kysymykset ja viestit. |
| Keskusteluhistoria | Säilyttää keskustelun historian kontekstitietoisia vastauksia varten. |
| Kysymyksen laajennus | Parafrasoi käyttäjän syötteen useiksi vaihtoehtoisiksi kyselyiksi hakukattavuuden parantamiseksi. |
| Google-haku | Suorittaa Google-hakuja, joita rajoittaa muokattava verkkotunnusprefiksi. |
| URL-hakija | Poimii sisältöä Google-haun palauttamista URL-osoitteista. |
| Kehotepohja | Jäsentää kontekstin, käyttäjän syötteen ja historian kielimallille. |
| OpenAI LLM | Generoi vastaukset kielimallin avulla (esim. GPT-3/4). |
| Generaattori | Kutsuu LLM:ää kehotteella ja kontekstilla tuottaakseen vastauksen. |
| Chat-tulos | Näyttää chatbotin vastaukset käyttäjälle. |
| Painikewidgetit | Tarjoavat käyttäjille esimerkkikysymyksiä yhdellä napsautuksella. |
| Chatin avauksen laukaisin | Alustaa keskustelun ja täyttää pika-aloituspainikkeet. |
Näin työnkulku toimii
Kun käyttäjä avaa chatin, Chatin avauksen laukaisin aktivoituu. Tämä alustaa chatin käyttöliittymän ja esittää useita painikewidgettejä esimerkkikysymyksillä (esim. “millä dinosauruksella on 500 hammasta?”). Kun käyttäjä klikkaa painiketta tai syöttää oman viestin Chat-syötteen kautta, työnkulku etenee seuraavasti:
Kysymyksen laajennus: Käyttäjän syöte parafrasoidaan useiksi versioiksi, jotta olennaisten hakutulosten löytymisen todennäköisyys maksimoituu.
Google-haku: Laajennetut kyselyt lähetetään Google-hakuun. Oletuksena haku on rajattu tietylle verkkotunnukselle (asetetaan
query_prefix-kentässä, esim.site: www.OMADOMAIN.com), jolloin chatbotin tietämys voidaan keskittää omalle sivustolle tai luotettuun lähteeseen.URL-hakija: Työnkulku hakee tärkeimpien hakutulosten (URL:ien) sisällöt kokonaisina dokumentteina.
Kehotteen kokoaminen: Haettu sisältö, käyttäjän syöte ja keskusteluhistoria yhdistetään Kehotepohja-komponentilla, jotta vastaukselle saadaan rikas konteksti.
Kielimallin generointi: Kehote lähetetään OpenAI LLM:lle, joka tuottaa johdonmukaisen ja kontekstiin sopivan vastauksen.
Vastauksen näyttö: Generoitu vastaus näytetään käyttäjälle Chat-tuloksen kautta.
Esimerkkitapaus
- Käyttäjä avaa chatin: Tervetuloviesti ja kolme esimerkkikysymyspainiketta ilmestyvät.
- Käyttäjä klikkaa “milloin on äitienpäivä 2024?”: Kysymys näkyy heti chatissa (välitön palaute).
- Työnkulku käy läpi kysymyksen laajennuksen, haun, sisällön haun, kehotteen kokoamisen ja LLM-generoinnin, ja näyttää vastauksen.
Miksi tämä työnkulku on hyödyllinen
- Reaaliaikainen tieto: Chatbotti pystyy vastaamaan kysymyksiin hyödyntäen uusinta tietoa internetistä tai valitsemastasi verkkotunnuksesta.
- Alakohtainen rajoitus: Mukauttamalla
query_prefix-kenttää voit varmistaa, että chatbotti hakee tietoa vain luotettavalta sivustoltasi tai tietopankistasi, parantaen vastausten luotettavuutta. - Kontekstin huomiointi: Ottamalla kehotteeseen mukaan keskusteluhistorian ja haetun sisällön, vastaukset voidaan räätälöidä ja tehdä kontekstuaalisesti sopiviksi monivaiheisiin keskusteluihin.
- Skaalautuvuus ja automaatio: Modulaarinen rakenne mahdollistaa työnkulun helpon laajennettavuuden ja mukauttamisen eri toimialoille, tukien laajamittaista käyttöä eri aihepiireissä tai sivustoilla.
- Käyttäjäkokemus: Pika-aloituspainikkeet ja välitön palaute tekevät chatbotista helposti lähestyttävän loppukäyttäjälle.
Työnkulun yhteenvetotaulukko
| Vaihe | Kuvaus |
|---|---|
| Käyttäjän syöte | Käyttäjä kirjoittaa kysymyksen tai painaa pika-aloituspainiketta |
| Kysymyksen laajennus | Syöte parafrasoidaan laajemman hakukattavuuden saavuttamiseksi |
| Google-haku | Google-haut suoritetaan rajattuna tiettyyn verkkotunnukseen |
| URL-sisällön haku | Haetaan parhaiden hakutulosten sisällöt |
| Kehotteen rakentaminen | Käyttäjän syöte, hakutulokset ja keskusteluhistoria yhdistetään kehotteeksi |
| LLM-generointi | OpenAI LLM tuottaa vastauksen täydellä kontekstilla |
| Tuloste | Vastaus näytetään käyttäjälle |
Mukauttaminen
- Kohdistaaksesi chatbotin omaan verkkotunnukseesi, muokkaa Google-haku -komponentin
query_prefix-kenttää (esim.site: www.OMADOMAIN.com). - Lisää tai vaihda esimerkkikysymyksiä Painikewidgetti-komponenttien avulla, jotta käyttäjäkokemus on räätälöidympi.
Ihanteelliset käyttötapaukset
- Asiakastukibotit, jotka vastaavat aina ajantasaisen dokumentaation tai verkkosisällön perusteella.
- Sisäiset tietäjäassistentit, jotka on rajattu yrityksen intranetiin tai tukipalveluportaaliin.
- Chatbotit, joiden tulee aina viitata ulkoisiin, auktoritatiivisiin lähteisiin (esim. vaatimustenmukaisuus tai tarkkuusvaatimukset).
Automatisoimalla haun, sisällön haun ja vastausten generoinnin tämä työnkulku säästää manuaalista tiedonhakua ja varmistaa, että käyttäjät saavat aina ajantasaisimman ja olennaisimman tiedon.
