Bir müşterinin sohbet botunuzla siparişi hakkında konuştuğunu hayal edin. Daha fazla sorusu var, ancak bot hemen hangi siparişten bahsedildiğini unutuyor ve bu da sinir bozucu bir müşteri deneyimine yol açıyor. Bunu önlemek için, sohbet botunun mesaj geçmişini hatırlamasını istersiniz; işte bu bileşen tam olarak bunu yapar.

Ancak, yapay zekânın önceki mesajları tutması token maliyeti yaratır. Ayrıca, Flow’ların çoğu kullanımında hafıza gerekli değildir. Bu nedenle, bu bileşen isteğe bağlıdır ve ihtiyacınıza göre hafızayı sınırlandırmanıza olanak verir; böylece maliyetleri de kontrol altında tutarsınız.

Sohbet Geçmişi bileşeni nedir?

Sohbet Geçmişi bileşeni, sohbet botunun belirli sayıda önceki mesajı hatırlamasını sağlar. Bu, sohbet botunun tutarlı bir sohbet yürütmesini sağlarken, hatırlanan mesaj ve token sayısını da sınırlar.

Sohbet geçmişi, bileşenlerin Hafıza kategorisinde bulunur ve isteğe bağlıdır:

Son Mesaj Sayısı

Sohbet botunun kaç önceki mesajı hatırlayacağını kontrol eder. Varsayılan değer 5’tir ve bu, herhangi bir temel sorgu etrafındaki sohbeti karşılar. Eğer kullanım senaryonuzda botun daha uzun süre tutarlı bir sohbet yürütmesi gerekiyorsa, limiti artırabilirsiniz; ancak Max Tokens ayarını da artırmayı unutmayın.

Maksimum Token

Her önceki mesaj, modelin ilgili ve bağlama duyarlı yanıtlar üretebilmesi için daha küçük metin birimlerine (tokenlara) ayrılır. Maksimum Token ayarı, önceki mesajları hatırlamak için kullanılacak token sayısını sınırlar. Token kullanımı modellere göre değişir ve tek bir token bir kelime, alt kelime veya tek bir karakter olabilir.

Mesaj Türü

Bu açılır ayar, hangi mesajların hatırlanacağını filtrelemenizi sağlar: yalnızca insan mesajları, yalnızca yapay zekâ mesajları veya tümü.

Sohbet Geçmişi bileşeni akışınıza nasıl bağlanır?

Geçmişin düzgün çalışabilmesi için LLM ve kullanıcı girdisiyle bağlantılı olması gerekir. Ancak, bileşende sadece çıkan bağlantı (handle) bulunur, gelen bağlantı yoktur.

Sohbet Geçmişi bileşeninin çıktı türü sohbet geçmişidir ve geçmiş talep eden bileşenlere, yani Promptlar ve Bölücülere bağlanır.

Örneğin, Takip soruları bileşeninde, yanıt LLM jeneratörü ile, bağlam sohbet geçmişi ile ve Girdi metni insan Sohbet Girişi ile sağlanır.