LLMコンテキスト
FlowHuntのLLMコンテキストを統合して、AI支援開発を強化しましょう。スマートなファイル選択、高度なコンテキスト管理、直接的なLLM統合により、関連するコードやドキュメントのコンテキストをお気に入りの大規模言語モデルのチャットインターフェースにシームレスに注入できます。...
1 分で読める
AI
LLM
+4
Custom LLM OpenAI コンポーネントは、OpenAI API と互換性のある大規模言語モデルと柔軟に連携できるインターフェースを提供します。これには OpenAI だけでなく、JinaChat、LocalAI、Prem などの代替プロバイダーのモデルも含まれます。このコンポーネントは高いカスタマイズ性を持ち、自然言語処理が必要なさまざまな AI ワークフローシナリオに適しています。
目的と機能
このコンポーネントは、AI ワークフローと OpenAI API 標準に準拠した言語モデルとの橋渡しをします。モデルプロバイダーや API エンドポイント、その他のパラメータを指定することで、ワークフロー内でテキスト生成・処理、チャット、その他の言語ベースの出力を実現できます。コンテンツの要約、質問応答、クリエイティブなテキスト生成、その他の NLP タスクなど、用途に合わせて柔軟に設定可能です。
設定項目
このコンポーネントの挙動は、以下のパラメータで制御できます。
| パラメータ | 型 | 必須 | デフォルト | 説明 |
|---|---|---|---|---|
| 最大トークン数 | int | いいえ | 3000 | 生成されるテキスト出力の最大長を制限します。 |
| モデル名 | string | いいえ | （空欄） | 使用するモデル名を正確に指定します（例: gpt-3.5-turbo）。 |
| OpenAI API ベース | string | いいえ | （空欄） | カスタム API エンドポイントを設定可能（例: JinaChat、LocalAI、Prem 用）。空欄の場合は OpenAI を使用。 |
| API キー | string | はい | （空欄） | 選択した言語モデルプロバイダーへのアクセス用の秘密の API キーです。 |
| 温度 | float | いいえ | 0.7 | 出力の創造性を制御します。値が低いほど結果は決定的になります。範囲：0～1。 |
| キャッシュを使用 | bool | いいえ | true | クエリのキャッシュ有効化/無効化で効率化とコスト削減が可能です。 |
注記: これらのすべての設定オプションはアドバンスド（上級）設定となっており、モデルの挙動や統合をきめ細かくコントロールできます。
入力と出力
入力:
このコンポーネントには入力ハンドルはありません。出力:
BaseChatModelオブジェクトを出力します。ワークフロー内の次のコンポーネントでさらなる処理や対話に利用できます。
このコンポーネントを使う理由
- 柔軟性: OpenAI 互換の言語モデルならサードパーティやローカル展開も含めて接続可能。
- カスタマイズ性: トークン上限やランダム性（温度）、キャッシュ利用など、用途に合わせてパラメータ調整が可能。
- 拡張性: チャットボット、コンテンツ生成、要約、コード生成など幅広く利用可能。
- 効率性: 内蔵キャッシュで冗長なクエリを防ぎ、API 利用コストを最適化。
利用例
- OpenAI 互換言語モデルのローカルインスタンスを使ったチャットボットの展開
- JinaChat、LocalAI、カスタム API エンドポイントによる要約やクリエイティブコンテンツ生成
- LLM を活用したテキスト分析を大規模 AI ワークフローに統合し、出力を下流コンポーネントへ連携
機能まとめ表
| 機能 | 説明 |
|---|---|
| プロバイダー対応 | OpenAI、JinaChat、LocalAI、Prem、または OpenAI API 互換サービス全般 |
| 出力タイプ | BaseChatModel |
| API エンドポイント | 設定可能 |
| セキュリティ | API キー必須（秘密保持） |
| 利便性 | パワーユーザー向けの高度な設定も可能、デフォルトでも多くの用途に対応 |
このコンポーネントは、OpenAI 直利用でも代替プロバイダー利用でも、柔軟で堅牢かつカスタマイズ可能な LLM 機能を AI ワークフローに統合したい全ての方に最適です。