チャット履歴コンポーネント

顧客がチャットボットと注文についてチャットしているとします。追加の質問をしたいのに、ボットがすぐにどの注文の話かを忘れてしまうと、顧客体験は非常にストレスフルなものになります。これを防ぐためには、チャットボットにメッセージ履歴を記憶させる必要があります。このコンポーネントはまさにその役割を果たします。

ただし、AIが過去のメッセージを保持するにはトークンが必要です。また、多くのフローではメモリが不要な場合もあります。そのため、このコンポーネントはオプションとなっており、必要に応じて記憶量を調整でき、コストも抑えられます。

チャット履歴コンポーネントとは？

チャット履歴コンポーネントは、チャットボットが一定数の過去メッセージを記憶できるようにします。これにより、記憶するメッセージの数やトークン使用量を制限しつつ、一貫性のある会話を維持できます。

チャット履歴はメモリカテゴリのコンポーネントにあり、オプションで利用可能です。

最後のメッセージ数

チャットボットが記憶する過去メッセージ数を制御します。デフォルト値は5で、基本的な問い合わせのやり取りに十分対応できます。より長い会話が必要な場合は上限を増やせますが、その際は「最大トークン数」も忘れずに増やしてください。

最大トークン数

過去の各メッセージは小さな単位（トークン）に分割され、モデルはそれを処理して適切で文脈に沿った応答を生成します。「最大トークン数」設定は、過去メッセージの記憶に使用できるトークン数の上限です。トークンの使い方はモデルによって異なり、1つのトークンは単語やサブワード、または1文字の場合もあります。

メッセージタイプ

このドロップダウン設定では、どのメッセージを記憶するかを選べます：人間のメッセージのみ、AIのメッセージのみ、またはすべて。

チャット履歴コンポーネントをフローに接続する方法

正しく機能させるには、履歴をLLMとユーザー入力に接続する必要があります。ただし、このコンポーネントには入力用ハンドルがなく、出力用のみとなっています。

チャット履歴コンポーネントの出力タイプはチャット履歴であり、履歴を必要とするプロンプトやスプリッターなどのコンポーネントに接続されます。

例えば、フォローアップ質問コンポーネントでは、回答はLLMジェネレーターが提供し、コンテキストはチャット履歴で、人間のチャット入力でテキストを入力します。