Büyük dil modellerinin en önemli dezavantajı, belirsiz, eski veya tamamen yanlış bilgiler sunabilmeleridir. Yanıtların her zaman güncel ve kullanım senaryonuza uygun olması için üretici modellerin doğru bilgi kaynaklarına yönlendirilmesi gerekir.

Retrieval-Augmented Generation (RAG) olarak adlandırılan bu yaklaşım, üretici modellere kendi bilgi kaynaklarınızı sağlar. Belge Getirici dahil getirici bileşenler bu yöntemi kullanmanıza olanak tanır.

Belge Getirici bileşeni nedir?

Bu bileşen, sohbet botunun kendi kaynaklarınızdan bilgi almasını sağlayarak, bilgilerin alakalı, güvenilir ve güncel olmasını garanti eder. Bu bilgiler doğrudan Belgeler ve Zamanlamalar’da belirttiğiniz kaynaklardan gelir. Bu bileşenin rolü, getirme işlemini kontrol etmektir.

Girdi Sorgusu

Alakalı bilgileri aramak için kullanılan sorguyu belirtir. Bir bileşenden bağlanabilir veya manuel olarak girilebilir. Çoğu durumda, girdi sorgunuz Sohbet Girdisi olacaktır.

Belge Sayısı

Bu ayar, akışın kaç belgeden bilgi getireceğini sınırlar ve sonuçların alakalı kalmasını ve çok uzun sürmemesini sağlar.

Belge kategorileri

Bu isteğe bağlı ayar, Bilgi Kaynakları’nın Belgeler ekranında oluşturduğunuz kategorilerden birine getirme işlemini sınırlamanıza olanak tanır.

Zamanlamalar

Getirme işlemini, Bilgi Kaynakları’nın Zamanlamalar ekranında belirttiğiniz Zamanlamalardan birine sınırlamanızı sağlar.

Eşik

Bilgi tabanınızdaki kaynaklar, sorguyla farklı derecelerde eşleşecektir. AI, bunları 0’dan 1’e kadar alaka düzeyine göre sıralar. Bu ayar, çıktının sorguyla ne kadar iyi eşleşmesi gerektiğini kontrol etmenizi sağlar.

Tam eşik değeri kullanım senaryonuza bağlıdır, ancak genellikle yüksek alaka düzeyi ve makul kaynak sayısı için 0.7-0.8 önerilir.

Eşiği 0.6 olarak ayarladığınızı ve aşağıdaki makalelerin olduğunu varsayalım:

• Makale A: 0.8
• Makale B: 0.65
• Makale C: 0.5
• Makale D: 0.9

Yalnızca 0.6’nın üzerinde alaka puanına sahip makaleler çıktıya dahil olur; yani yalnızca A, B ve D.

• Yüksek bir eşik, örneğin 0.9, sorguya çok yakın ve çok alakalı sonuçlar döndürür; ancak yeterli belge bulmakta zorlanabilir ve bazı alakalıları kaçırabilir.
• Düşük bir eşik, örneğin 0.5’in altı, daha fazla belgeden bilgi getirir, fakat alakasız bilgi riski artar.

Belge Getirici bileşenini akışınıza nasıl bağlarsınız?

Bileşende yalnızca bir giriş ve bir çıkış noktası bulunur:

• Girdi Sorgusu: Sorgu herhangi bir metin çıktısı olabilir. Yaygın kullanım alanları, insan Sohbet Girdisi veya bir Üreteç bağlamaktır.
• Çıktı: Herhangi bir getirici türündeki bileşenin çıktısı her zaman bir Belge’dir.

Belge çıktısı, nihai sohbet çıktısına uygun olmayan yapılandırılmış veri içerir. Belgeleri giriş olarak alan tüm bileşenler, bunları kullanıcı dostu bir formata dönüştürür. Bunlar, Widget bileşenleri veya Belgeden Metne dönüştürücüsüdür.

Neden Belge Getirici Kullanılmalı?

• AI Modellerini Temellendirme: Kurumunuzun bilgi tabanından gerçek ve bağlamsal bilgi sağlayarak AI çıktılarının doğruluğunu ve alakasını artırın.
• Bağlamsal Zenginleştirme: LLM’lere veya sohbet botlarına daha bilgili yanıtlar için destekleyici belgeler veya referans materyali sunun.
• Esnek Filtreleme: Arama, kategori, zamanlama, URL, belge yapısı veya meta verilere göre ince ayarlanabilir; böylece yalnızca en alakalı bilgileri öne çıkarırsınız.
• Özel Çıktı: Ne kadar içerik getirileceğini, nasıl bölüneceğini ve hangi meta verilerin dahil edileceğini seçerek, AI süreçleri veya arayüz ihtiyaçlarına kolayca uyum sağlayın.
• Ajana Entegrasyon: Araç açıklamaları ve adlandırmayla, bu bileşen ajan tabanlı mimarilerde bir araç olarak kullanılabilir.

Örnek Kullanım Alanları

• Retrieval-Augmented Generation (RAG): LLM’lere destekleyici belgeler sağlayarak doğru, bilgiye dayalı yanıtlar üretin.
• Sohbet Botları ve Sanal Asistanlar: Çalışan/müşteri sorularına anında SSS veya politika belgeleri sunun.
• Veri Zenginleştirme: Ürün, yazar veya diğer meta verileri içeri çekerek AI tabanlı analiz veya iş akışı otomasyonu için kullanın.

Örnek

Hadi Hemen Deneyelim! Akışı oluşturmadan önce, uygun Belgeler veya Zamanlamalar oluşturduğumuzdan emin olmalıyız. Uygun bir kaynak yoksa sohbet botu, yanıt veremeyeceği için özür dileyecektir.

Adımlar:

1. Sohbet Girdisi ile başlayın.
2. Belge Getirici ekleyin ve Sohbet Girdisi’ni Girdi Sorgusu olarak bağlayın.
3. Çıktı, dönüştürülmesi gereken bir Belge’dir; bu örnek için Belgeden Metne bileşenini kullanacağız.
4. Sonra bir AI Üreteci bağlayın.
5. Artık sohbete hazırsınız.

Artık Akışımız, insan sorgusuna göre kaynaklarımızı arayabilir, yapılandırılmış verileri okunabilir metne dönüştürebilir ve AI’a kullanıcı dostu bir yanıt oluşturması için iletebilir.

Bilgi Kaynaklarımızda FlowHunt’in fiyatlandırma sayfasını güncel bilgi için tarayan bir Zamanlama bulunuyor. Bot’a bunu soralım: