LLM Gemini

LLM Gemini 组件是什么？

LLM Gemini 组件将 Google 的 Gemini 模型连接到您的流程中。虽然生成器和智能体是实现 AI 魔法的地方，但 LLM 组件让您可以控制所用模型。所有组件默认集成 ChatGPT-4。若您需要更换模型或获得更多控制权，可以连接该组件。

请注意，连接 LLM 组件是可选的。所有使用 LLM 的组件默认集成 ChatGPT-4o。LLM 组件允许你更换模型并控制模型参数。

LLM Gemini 组件设置

Max Tokens

Token 代表模型处理和生成的最小文本单元。不同模型对 Token 的定义有所不同，一个 Token 可能是单词、子词，甚至单个字符。模型通常以百万 Token 为计价单位。

Max Tokens 设置限制单次交互或请求中可处理的 Token 总数，确保生成的回复在合理范围内。默认上限为 4,000 Token，适合文档和多来源内容的摘要与问答。

Temperature

Temperature 控制回答的多样性，范围在 0 到 1 之间。

0.1 的温度将使回复非常直接，但可能重复且缺乏细节。

1 的高温度允许答案最大程度发挥创造性，但也可能带来不相关甚至幻觉式的回复。

例如，客服机器人推荐的温度为0.2 到 0.5 之间。这种设置能保证回答相关且符合脚本，同时允许自然的回答变化。

Model

这是模型选择器。在这里你可以找到 Google 支持的所有 Gemini 模型。我们支持所有最新的 Gemini 模型：

• Gemini 2.0 Flash Experimental —— 一款先进的低延迟模型，专为智能体设计。具备原生工具调用、图片生成、语音生成等新能力。查看该 Google 最先进模型在常规任务中的表现。
• Gemini 1.5 Flash —— 轻量级多模态模型，优化速度与效率，支持音频、图片、视频和文本输入，最大上下文窗口达 1,048,576 Token。了解更多信息。
• Gemini 1.5 Flash-8B —— 1.5 Flash 的更小、更快、更经济变体，提供类似多模态能力，价格降低 50%，速率限额提升 2 倍。输出效果如何？点此了解。
• Gemini 1.5 Pro —— 中型多模态模型，适用于各种推理任务，可处理大量数据，包括扩展的音频和视频输入，Token 输入上限为 2,097,152。查看输出示例。

如何将 LLM Gemini 添加到流程中

你会注意到所有 LLM 组件都只有输出端口。输入不会通过该组件，因为它仅代表模型，实际文本生成发生在 AI Agent 和生成器中。

LLM 端口总是紫色。在任何用于文本生成或数据处理的组件上，都可以找到 LLM 输入端口。点击端口可以查看选项：

这让你可以创建各种各样的工具。让我们看看该组件的实际应用。以下是一个使用 Gemini 2.0 Flash Experimental 生成回复的 AI Agent 聊天机器人流程。你可以把它理解为基础的 Gemini 聊天机器人。

这个简单的聊天机器人流程包括：

• 聊天输入：代表用户在聊天中发送的消息。
• 聊天历史：确保聊天机器人能够记忆和参考过往回复。
• 聊天输出：代表聊天机器人的最终回复。
• AI Agent：负责生成回复的自主 AI 智能体。
• LLM Gemini：连接 Google 文本生成模型的桥梁。