Cea mai semnificativă limitare a modelelor lingvistice de mari dimensiuni este tendința lor de a prezenta informații vagi, depășite sau chiar false. Pentru a te asigura că răspunsurile sunt mereu actualizate și relevante pentru cazul tău de utilizare, modelele generative trebuie direcționate către sursele potrivite de cunoștințe.

Această abordare, numită Retrieval-Augmented Generation (RAG), furnizează modelelor generative propriile tale surse de cunoștințe. Componentele de tip retriever, inclusiv Document Retriever, îți permit să folosești această metodă.

Ce este componenta Document Retriever?

Această componentă permite chatbot-ului să recupereze cunoștințe din propriile tale surse, asigurând că informația este relevantă, de încredere și actualizată. Informația provine direct din sursele specificate de tine în secțiunile Documente și Programări. Rolul acestei componente este de a controla procesul de recuperare.

Interogare de intrare

Specifică interogarea folosită pentru a căuta informațiile relevante. Poate fi legată dintr-o altă componentă sau introdusă manual. În majoritatea cazurilor, interogarea ta de intrare va fi Chat Input.

Număr de documente

Această setare limitează numărul de documente din care flow-ul ar trebui să recupereze informații, asigurând că rezultatele rămân relevante și nu durează prea mult să fie generate.

Categorii de documente

Această setare opțională îți permite să limitezi recuperarea la una dintre categoriile create în ecranul Documente din Surse de Cunoștințe.

Programări

Îți permite să limitezi recuperarea la una dintre programările specificate în ecranul Programări al Sursei de Cunoștințe.

Prag

Sursele din baza ta de cunoștințe vor corespunde interogării în grade diferite. AI va stabili un scor de relevanță între 0 și 1. Această setare îți permite să controlezi cât de bine trebuie să corespundă rezultatul interogării.

Pragul exact depinde de cazul tău de utilizare, dar în general, 0.7-0.8 este recomandat pentru răspunsuri foarte relevante dintr-un număr rezonabil de surse.

Imaginează-ți că setezi pragul la 0.6 și ai următoarele articole:

• Articolul A: 0.8
• Articolul B: 0.65
• Articolul C: 0.5
• Articolul D: 0.9

Doar articolele cu un scor de relevanță peste 0.6 vor fi incluse în rezultat, adică doar A, B și D.

• Un prag ridicat, precum 0.9, va returna rezultate foarte relevante, care corespund îndeaproape interogării, dar s-ar putea să nu găsească suficiente documente și să rateze unele relevante.
• Un prag scăzut, de exemplu sub 0.5, va furniza informații din mai multe documente, dar riscă să returneze informații nerelevante.

Cum conectezi componenta Document Retriever în flow-ul tău

Componenta conține un singur punct de intrare și unul de ieșire:

• Interogare de intrare: Interogarea poate fi orice text de ieșire. Utilizările comune includ conectarea la Chat Input de la om sau la un Generator.
• Output: Ieșirea oricărei componente de tip retriever este întotdeauna un Document.

Output-ul Document conține date structurate care nu sunt potrivite pentru rezultatul final din chat. Toate componentele care primesc Documente ca input le transformă într-un format prietenos cu utilizatorul. Acestea sunt fie componente Widget, fie transformatorul Document to Text.

De ce să folosești Document Retriever?

• Ancorarea modelelor AI: Crește acuratețea și relevanța răspunsurilor AI furnizând informații reale, contextuale, din baza de cunoștințe a organizației tale.
• Augmentare contextuală: Oferă modelelor LLM sau chatbot-urilor documente de suport sau materiale de referință pentru răspunsuri mai informate.
• Filtrare flexibilă: Căutarea poate fi rafinată după categorie, programare, URL, structură de document sau metadate, asigurând că afișezi doar cele mai relevante informații.
• Output personalizat: Alege cât conținut să recuperezi, cum să îl împarți și ce metadate să incluzi, facilitând adaptarea pentru procese AI ulterioare sau nevoi de UI.
• Integrare cu agenți: Prin descrieri de unelte și denumiri, componenta poate fi referită ca o unealtă în arhitecturi bazate pe agenți.

Exemple de utilizare

• Retrieval-Augmented Generation (RAG): Furnizează modelelor LLM documente de suport pentru răspunsuri precise și susținute de cunoștințe.
• Chatbots și asistenți virtuali: Afișează rapid FAQ-uri sau documente de politici ca răspuns la întrebări ale angajaților sau clienților.
• Îmbogățire de date: Preia metadate despre produse, autori sau alte informații pentru analize AI suplimentare sau automatizări de workflow.

Exemplu

Hai să încercăm acum! Înainte de a construi flow-ul, trebuie să ne asigurăm că am creat Documente sau Programări relevante. Dacă nu există o sursă bună, chatbot-ul își va cere scuze pentru că nu poate răspunde.

Pași:

1. Începe cu Chat Input.
2. Adaugă Document Retriever și conectează Chat Input ca Interogare de intrare.
3. Output-ul este un Document care trebuie transformat; pentru acest exemplu vom folosi Document to Text.
4. Apoi, conectează un Generator AI.
5. Ești gata să conversezi.

Acum, flow-ul nostru poate căuta sursele noastre pe baza unei interogări umane, transformă datele structurate în text lizibil și le transmite AI-ului pentru a genera un răspuns prietenos cu utilizatorul.

Sursele noastre de cunoștințe conțin o programare setată să acceseze pagina de prețuri FlowHunt pentru informații actualizate. Să întrebăm botul despre aceasta: