LLMに応答のファクトチェックと情報源の明示をさせる方法

RIG（リトリーバル・インタリーブド・ジェネレーション）とは？

リトリーバル・インタリーブド・ジェネレーション（RIG）は、情報検索と回答生成をシームレスに融合させる最先端のAI手法です。従来はRAG（Retrieval Augmented Generation）や単純な生成型モデルが使われていましたが、RIGはこれらのプロセスを統合することでAIの正確性を高めます。検索と生成を組み合わせることで、AIシステムはより広範な知識を活用し、より精度が高く関連性のある応答を提供できるようになります。RIGの主な目的はミスを減らし、AI出力の信頼性を高めることであり、AIの精度を追求する開発者にとって不可欠なツールとなっています。このように、リトリーバル・インタリーブド・ジェネレーションは、RAG（Retrieval Augmented Generation）に代わる文脈ベースのAI応答生成手法として注目されています。

RIG（リトリーバル・インタリーブド・ジェネレーション）はどのように機能する？

RIGの動作は次の通りです。以下のステージはオリジナルのブログに着想を得ていますが、こちらはData Commons APIを活用した一般的なケースが中心です。実際には多くの場合、WikipediaやData Commonsなどの一般的な[知識ベース]と自社の独自データの両方を利用したくなるでしょう。以下に、FlowHuntで自分の知識ベースとWikipediaのような一般知識ベースの両方からRIGチャットボットを構築する方法を紹介します。

1. ユーザーの質問がジェネレーターに入力され、該当部分の出典を付記したサンプル回答が生成されます。この段階では、ジェネレーターが良い回答を出しても、誤ったデータや統計情報が混じった「幻覚」を含んでしまうことがあります。

2. 次の段階では、この出力をAIエージェントに渡し、Wikipediaと接続して各セクションのデータを精査し、それぞれに情報源を追加します。

ご覧の通り、この手法はチャットボットの正確性を大幅に高め、各生成セクションに出典が付き、根拠が明確になります。

FlowHuntでRIGチャットボットを作る方法

第一段階（ダミーのサンプル回答ジェネレーター）を追加

最初のフローは、チャット入力・プロンプトテンプレート・ジェネレーターで構成されます。これらを接続するだけでOKです。最も重要なのはプロンプトテンプレートです。私は次のようなものを使いました：

ユーザーの質問が与えられます。ユーザーの質問に基づいて、架空のデータやパーセンテージを含む最適な回答を生成してください。各セクションの後に、そのセクションを正しいデータで修正するために使用すべき情報源を明記してください。独自データがある場合は内部知識ソースを、一般的な知識の場合はWikipediaを指定してください。

入力例：再生可能エネルギーで上位の国はどこで、最適な指標は何か、その値はどの国が一番か？
出力例：再生可能エネルギーで上位の国はノルウェー、スウェーデン、ポルトガル、アメリカです [Wikipediaで「Top Countries in renewable Energy」を検索]。再生可能エネルギーの一般的な指標はキャパシティファクターです [Wikipediaで「metric for renewable energy」を検索]。1位の国のキャパシティファクターは20％です [Wikipediaで「biggest capacity factor」を検索]。

それでは始めます！
ユーザー入力：{input}

このようにFew Shotプロンプトを使うことで、ジェネレーターが望む形式で出力するように誘導できます。

ファクトチェック部分を追加

次に、サンプル回答の出力をファクトチェックし、正しい情報源に基づいて回答を修正するパートを追加します。ここではWikipediaとAIエージェントを使います。WikipediaをAIエージェントに接続することで、単純なジェネレーターより柔軟で高度な処理が可能です。ジェネレーターの出力をAIエージェントに接続し、WikipediaツールもAIエージェントに接続します。AIエージェント用のゴールは次の通りです：

ユーザーの質問へのサンプル回答が与えられます。サンプル回答には誤ったデータが含まれている可能性があります。指定されたクエリに従ってWikipediaツールを使い、Wikipediaの情報で回答を修正してください。各指定セクションごとにWikipediaのリンクを含めてください。ツールでデータを取得し、そのセクションの回答を修正してください。出典のリンクは必ずそのセクションごとに記載し、文末にはまとめて記載しないでください。

同様に、ドキュメントリトリーバーをAIエージェントに追加すれば、自社独自の知識ベースから文書を取得することも可能です。

このフローはこちらから実際にお試しいただけます。

Retrieval-Augmented Generation（RAG）の理解

RIGの価値を正しく理解するには、その前身であるRetrieval-Augmented Generation（RAG）を知るのが役立ちます。RAGは、関連データの検索と、適切な内容を生成するモデルの強みを組み合わせた手法です。RAGからRIGへの進化は大きな前進です。RIGは検索と生成を単に行うだけでなく、両者を交互に混ぜて処理することで、より高い精度と効率を実現します。これにより、AIシステムは段階的に理解と出力を向上させ、正確かつ関連性が高く、洞察に富んだ結果をもたらします。検索と生成をうまく融合させることで、膨大な情報を活用しつつ、一貫性と関連性のある応答を維持できます。

リトリーバル・インタリーブド・ジェネレーションの未来

リトリーバル・インタリーブド・ジェネレーションの将来は非常に有望で、今後も多くの進歩や研究が期待されています。AIの発展と共に、RIGは機械学習やAIアプリケーションの世界で重要な役割を担うことになるでしょう。その影響力は現状を超え、AIシステムの情報処理・生成のあり方を変革する可能性を秘めています。研究が進むことで、RIGを様々なAIフレームワークに統合する技術革新も進み、より効率的で正確、信頼性の高いAIシステムが実現される見込みです。こうした進展により、RIGの重要性は今後ますます高まり、AIの正確性とパフォーマンスを支える礎となるでしょう。

結論として、リトリーバル・インタリーブド・ジェネレーションはAIの正確性と効率性を追求するうえで大きな一歩です。検索と生成のプロセスを巧みに融合させることで、大規模言語モデルの性能を向上させ、多段階の推論や教育・ファクトチェック分野での新たな可能性を開きます。今後もRIGの進化がAIの新しいイノベーションを牽引し、より賢く信頼できるAIシステムの実現に貢献していくでしょう。