LLM OpenAI

LLM Open AIコンポーネントとは？

LLM OpenAIコンポーネントは、ChatGPTモデルとあなたのフローを接続します。実際に生成や処理を行うのはジェネレーターやエージェントですが、LLMコンポーネントを使うことで使用するモデルをコントロールできます。すべてのコンポーネントにはデフォルトでChatGPT-4が付属しています。モデルを変更したい場合や、より詳細にコントロールしたい場合はこのコンポーネントを接続してください。

LLM OpenAIコンポーネントの設定

モデル名

ここでモデルを選択します。FlowHuntがサポートするすべてのOpenAIモデルが表示されます。ChatGPTは多様な性能・価格帯のモデルを取り揃えています。例えば、より古いGPT-3.5を使用するとコストは低くなりますが、最新の4oに比べて出力の品質や速度が劣ります。

FlowHuntで利用可能なOpenAIモデル：

• GPT-4o – OpenAIの最新かつ最も人気のあるモデル。テキスト・画像・音声の処理やウェブ検索もできるマルチモーダルモデル。詳細はこちら。
• GPT-4o Mini – GPT-4oの小型・低コスト版。GPT-3.5 Turboより高性能で、128Kコンテキストウィンドウと60%以上のコスト削減を実現。タスク処理例はこちら。
• o1 Mini – o1モデルの効率化バージョン。複雑な推論タスクに適しており、性能と効率のバランスが取れています。テスト結果はこちら。
• o1 Preview – 推論能力を強化した先行モデル。特にコーディングや科学的推論など複雑な問題解決に優れ、プレビュー版として利用可能。思考やタスク処理の様子はこちら。
• gpt-4-vision-preview – テキスト・画像入力対応のプレビューモデル。JSONモードや並列関数実行などの機能に対応し、マルチモーダルなやり取りを強化。詳細はこちら。
• GPT-3.5 Turbo – GPTのレガシーバージョン。シンプルなタスクに最適で、コストも抑えられます。新しいモデルとの比較はAIエージェントテストをご覧ください。

タスクに最適なモデルを選ぶ際は、必要な品質や速度を考慮しましょう。旧モデルは、シンプルな大量タスクや会話用途でコスト削減に役立ちます。コンテンツ生成やウェブ検索の場合は、より新しく洗練されたモデルをおすすめします。

最大トークン数

トークンとは、モデルが処理・生成するテキストの最小単位です。モデルによって扱いが異なり、1トークンは単語やサブワード、1文字などさまざまです。通常、料金は数百万トークン単位で設定されています。

最大トークン数の設定は、1回のやり取りまたはリクエストで処理できるトークン数の上限を定めるもので、回答が適切な範囲内で生成されるようにします。初期値は4,000トークンで、文書や複数ソースの要約・回答生成に最適です。

温度（Temperature）

温度は回答の多様性を制御します。0から1までの範囲で設定可能です。

0.1に設定すると、回答は非常に的確ですが、繰り返しや物足りなさを感じる場合があります。

1に設定すると、最大限の創造性が発揮されますが、無関係な内容や幻覚的な回答が増えるリスクも高まります。

例えば、カスタマーサポートボットの推奨温度は0.2～0.5です。この範囲であれば、回答の一貫性や台本通りの内容を維持しつつ、自然なバリエーションも保てます。

LLM OpenAIをフローに追加する方法

すべてのLLMコンポーネントには出力ハンドルのみが存在することに気づくでしょう。入力はこのコンポーネントを通過せず、モデルの表現だけを担い、実際の生成処理はAIエージェントやジェネレーターで行われます。

LLMハンドルは常に紫色です。LLM入力ハンドルは、AIによるテキスト生成やデータ処理を行うコンポーネントに配置されます。ハンドルをクリックするとオプションが確認できます。

これにより、さまざまなツールを作成できます。コンポーネントの動作例を見てみましょう。ここでは、o1 Previewを使ったシンプルなエージェント駆動型チャットボットフローの例です。基本的なChatGPTチャットボットとして考えることができます。

このシンプルなチャットボットフローには次が含まれます：

• チャット入力：ユーザーがチャットで送信するメッセージを表します。
• チャット履歴：チャットボットが過去の回答を記憶し、考慮できるようにします。
• チャット出力：チャットボットの最終的な回答を表します。
• AIエージェント：自律的に回答を生成するAIエージェントです。
• LLM OpenAI：OpenAIのテキスト生成モデルへの接続です。