LLM Gemini

LLM Geminiコンポーネントとは

LLM Geminiコンポーネントは、GoogleのGeminiモデルをあなたのフローに接続します。実際のテキスト生成やAIエージェントの動作は「ジェネレーター」や「エージェント」で行われますが、LLMコンポーネントでは利用するモデル自体をコントロールできます。すべてのコンポーネントはデフォルトでChatGPT-4を搭載しています。モデルを変更したい場合やさらに詳細なコントロールが必要な場合、このコンポーネントを接続してください。

LLMコンポーネントの接続は任意であることにご注意ください。LLMを使用するすべてのコンポーネントはデフォルトでChatGPT-4oが組み込まれています。LLMコンポーネントを追加することで、モデルの切り替えや設定の調整が可能になります。

LLM Geminiコンポーネントの設定

Max Tokens（最大トークン数）

トークンとは、モデルが処理・生成するテキストの最小単位を指します。トークン数はモデルによって異なり、1トークンは単語やサブワード、1文字の場合もあります。多くのモデルは、100万トークン単位で課金されます。

最大トークン数の設定は、1回のやり取りやリクエストで処理できるトークンの総数を制限し、応答が適切な範囲内で生成されるようにします。デフォルトの上限は4,000トークンで、複数の資料や文書をまとめて要約・回答するのに最適なサイズです。

Temperature（温度）

Temperatureは回答の多様性を調整するパラメータで、0から1の範囲で設定します。

0.1のように低い値では、回答は非常に的確になりますが、繰り返しや単調になりやすくなります。

逆に1のような高い値では、最大限の創造性が発揮されますが、無関係な内容や「幻覚」的な回答が生じるリスクもあります。

例えば、カスタマーサポートボットに推奨される温度は0.2～0.5です。この範囲なら、スクリプト通りの正確な回答を維持しつつ、自然な表現のバリエーションも確保できます。

モデル

ここではモデルを選択できます。GoogleのサポートされているGeminiモデルがすべて表示されます。FlowHuntでは以下の最新Geminiモデルに対応しています。

• Gemini 2.0 Flash Experimental – エージェント向けに設計された高度で低遅延なモデル。ネイティブツール利用、画像生成、音声生成などの新機能を搭載。最先端のGoogleモデルが定型業務をどこまでこなせるか弊社の検証もご覧ください。
• Gemini 1.5 Flash – 軽量・マルチモーダルでスピード・効率性を追求。音声・画像・動画・テキスト入力に対応し、最大1,048,576トークンのコンテキストウィンドウを持ちます。詳細はこちら。
• Gemini 1.5 Flash-8B – 1.5 Flashモデルの小型・高速・低コストバージョン。同等のマルチモーダル機能を維持しつつ、価格は50%安く、レート制限も2倍。最も「非力」なモデルの実力検証もご参照ください。
• Gemini 1.5 Pro – 幅広い推論タスクに最適化された中型マルチモーダルモデル。大量データや長尺の音声・動画入力も処理でき、最大2,097,152トークンの入力に対応。出力例もご覧いただけます。

LLM Geminiをフローに追加する方法

すべてのLLMコンポーネントには出力ハンドルのみが付いているのが特徴です。入力はコンポーネントを通過せず、あくまで「モデル」を表し、実際の生成処理はAIエージェントやジェネレーターで行われます。

LLMのハンドルは常に紫色です。LLMの入力ハンドルは、AIによるテキスト生成やデータ処理を行うコンポーネントに付いています。ハンドルをクリックすると、各種オプションが表示されます。

これにより、さまざまなツールを自由に作成できます。実際のコンポーネントの動作例を見てみましょう。下図は、Gemini 2.0 Flash Experimentalを使って応答を生成するシンプルなAIエージェントチャットボットフローです。いわば基本的なGeminiチャットボットのイメージです。

このシンプルなチャットボットフローには以下が含まれます。

• チャット入力：ユーザーがチャットで送信するメッセージを表します。
• チャット履歴：チャットボットが過去の応答を記憶し、参照できるようにします。
• チャット出力：チャットボットの最終的な応答を表します。
• AIエージェント：自律的に応答を生成するAIエージェント。
• LLM Gemini：Googleのテキスト生成モデルとの接続。