Tokeni
Tokeni suurten kielimallien (LLM) yhteydessä on merkkijono, jonka malli muuntaa numeerisiksi esityksiksi tehokasta käsittelyä varten. Tokenit ovat tekstin perus...
2 min lukuaika
Token
LLM
+3
Kehotteen rooli LLM-malleissa
Kehotteilla on keskeinen rooli LLM-mallien toiminnassa. Ne toimivat ensisijaisena mekanismina, jonka kautta käyttäjät ovat vuorovaikutuksessa näiden mallien kanssa. Muotoilemalla kysymyksesi tai ohjeesi tehokkaasti voit merkittävästi vaikuttaa LLM:n tuottamien vastausten laatuun ja osuvuuteen. Hyvät kehotteet ovat olennaisia LLM-mallien täyden potentiaalin hyödyntämiseksi, oli kyse yrityskäytöstä, sisällöntuotannosta tai tutkimuksesta.
Miten kehotea käytetään LLM-malleissa?
Kehotteita käytetään eri tavoin ohjaamaan LLM:n tuottamaa sisältöä. Tässä muutamia yleisiä lähestymistapoja:
- Zero-shot-kehottaminen: Mallille annetaan tehtävä ilman esimerkkejä. Esimerkiksi: “Käännä ‘cheese’ ranskaksi.”
- One-shot-kehottaminen: Annetaan yksi esimerkki tehtävän havainnollistamiseksi. Esimerkiksi: “Käännä englannista ranskaksi: cheese => fromage. Käännä nyt ‘bread’.”
- Few-shot-kehottaminen: Tarjotaan useita esimerkkejä mallin ohjaamiseksi. Esimerkiksi: “Käännä englannista ranskaksi: cheese => fromage, bread => pain. Käännä nyt ‘apple’.”
- Chain-of-thought-kehottaminen: Kehotteeseen sisällytetään yksityiskohtaiset päättelyvaiheet, jotka auttavat mallia tuottamaan harkitun vastauksen. Esimerkiksi: “Jos sinulla on 5 omenaa ja ostat 3 lisää, montako omenaa sinulla on? Ensin sinulla on 5 omenaa. Sitten lisäät 3, jolloin yhteensä on 8 omenaa.”
Valmis kasvattamaan liiketoimintaasi?
Aloita ilmainen kokeilujakso tänään ja näe tulokset muutamassa päivässä.
Tehokkaiden kehotteiden laatiminen LLM-malleille
Tehokkaiden kehotteiden luominen vaatii selkeyttä ja tarkkuutta. Tässä vinkkejä:
- Selkeys: Käytä yksinkertaista ja yksiselitteistä kieltä. Vältä ammattisanastoa ja monimutkaisia sanoja. Esimerkiksi, sen sijaan että kysyt “Kuka voitti vaalit?”, täsmennä: “Mikä puolue voitti Paraguayn vuoden 2023 yleisvaalit?”
- Tarkkuus: Tarjoa tarvittava konteksti. Sen sijaan että pyydät “Laadi lista elämäkertani otsikoista”, täsmennä: “Laadi kymmenen otsikon lista elämäkertaani varten. Kirja kertoo matkastani seikkailijana, joka on elänyt epätavallisen elämän, tavannut monenlaisia persoonia ja lopulta löytänyt rauhan puutarhanhoidosta.”
- Positiiviset ohjeet: Muotoile ohjeet positiivisesti. Sen sijaan, että sanot “Älä tee otsikoista liian pitkiä”, täsmennä: “Jokaisen otsikon tulisi olla 2–5 sanaa pitkä.”
Kehottamisen edistyneet tekniikat
Few-shot- ja chain-of-thought-kehottaminen
Tutkijat ovat havainneet, että esimerkkien tarjoaminen (few-shot-kehottaminen) tai yksityiskohtaisten päättelyvaiheiden lisääminen (chain-of-thought-kehottaminen) voi parantaa mallin suorituskykyä merkittävästi. Esimerkiksi:
- Few-shot-kehottaminen: “Käännä englannista ranskaksi: cheese => fromage, bread => pain. Käännä nyt ‘apple’.”
- Chain-of-thought-kehottaminen: “Rogerilla on 5 tennispalloa. Hän ostaa 6 lisää. Kuinka monta tennispalloa hänellä on yhteensä? Ensin Rogerilla on 5 tennispalloa. Sitten hän ostaa 6 lisää, joten hänellä on nyt 11 tennispalloa.”
Rakenteellinen kehottaminen
Kehotteen rakenteistaminen mielekkäällä tavalla voi ohjata LLM-mallia tuottamaan tarkempia ja osuvampia vastauksia. Jos tehtävänä on esimerkiksi asiakaspalvelu, voit aloittaa järjestelmäviestillä: “Olet ystävällinen tekoälyavustaja, joka voi auttaa asiakasta hänen viimeisintä tilaustaan koskevissa asioissa.”
