カスタムガードレールコンポーネントはAIワークフロー内でインテリジェントなフィルターとして機能し、ユーザー入力がワークフローデザイナーによって設定された特定の条件に合致していることを保証します。このコンポーネントは言語モデル（LLM）とカスタマイズ可能なプロンプトを組み合わせて、会話やデータの流れを検証・制御します。
コンポーネントの役割
カスタムガードレールの本質は、ユーザー入力のゲートキーパーです。「ガードレールプロンプト」と呼ばれる指示を使って、LLMにどのような内容が許可されるかを指示します。たとえば、デフォルトのプロンプトでは、会話をスポーツのトピックに厳密に制限し、無関係または意味不明（ナンセンス）な入力をブロックします。この仕組みにより、AIワークフローが本来の目的から逸脱せずに集中できます。
動作の仕組み
- コンポーネントは入力テキスト（通常はユーザーメッセージ）を受け取ります。
- この入力とガードレールプロンプトを選択したLLMに送信します。
- LLMがプロンプトに従って入力を評価し、条件を満たしているか判断します。
- 結果に応じて、コンポーネントはメッセージを2つの経路（合格＝true、不合格＝false）のいずれかに出力します。
入力
| 名前 | 型 | 説明 |
|---|---|---|
| LLM | HandleInput | ガードレールの評価・強制に使用する言語モデル |
| ガードレールプロンプト | PromptInput | どんな内容が許可されるかをLLMに指示するプロンプト |
| 入力テキスト | Message | 検証対象となるユーザーのメッセージや内容 |
- LLM: ガードレールとして使うモデルを選択できます。用途に合わせて様々なLLMを利用可能です。
- ガードレールプロンプト: プロンプトを編集することでガードレールの厳しさや寛容さを調整できます。
- 入力テキスト: 実際に検証されるテキストです。
出力
| 名前 | 型 | 説明 |
|---|---|---|
| 合格経路 | Message | 入力テキストがガードレールチェックを通過し、条件を満たした場合の出力 |
| 不合格経路 | Message | 入力テキストが条件を満たさず、フィルタリングまたは却下された場合の出力 |
- 合格経路: 入力がガードレールの基準を満たせば、ここから次の処理へ進みます。
- 不合格経路: 入力がトピック外や基準を満たさない場合はこちらから出力され、警告や再入力依頼など別処理が可能です。
このコンポーネントを使う理由
- 品質管理: AIアプリ内で厳格なトピックや内容のルールを強制できます。
- 安全性と関連性: トピック外や不適切・無関係な内容へのAIの応答を防げます。
- 柔軟な制御: プロンプトを簡単に修正でき、要件やポリシーの変更にも対応可能です。
- シームレス統合: 様々なLLMと連携し、ワークフロー内で柔軟な入出力ルーティングを実現します。
ユースケース
- チャットボットのトピック維持（例：カスタマーサポートや教育ボット）
- ユーザー生成コンテンツの事前フィルタリング
- 自動AI対話におけるコンプライアンスや法的要件の徹底
- スパムやナンセンスな入力によるワークフローの妨害防止
カスタムガードレールコンポーネントをAIワークフローに組み込むことで、受け入れる内容を細かく制御でき、AIシステムが意図通りに動作し、信頼性と関連性の高い結果を提供できるようになります。