LLM OpenAI

什么是 LLM Open AI 组件？

LLM OpenAI 组件将 ChatGPT 模型连接到您的流程中。虽然实际的生成和智能发生在 Generator 和 Agent 中，但 LLM 组件允许您控制所用的模型。所有组件默认自带 ChatGPT-4。如需更换模型或获得更多控制权，可连接此组件。

LLM OpenAI 组件设置

模型名称

这是模型选择器。在这里，您会找到 FlowHunt 支持的所有 OpenAI 模型。ChatGPT 提供了功能和价格各异的丰富模型列表。例如，使用较老的 GPT-3.5 成本低于最新的 4o，但输出的质量和速度会有所下降。

FlowHunt 支持的 OpenAI 模型：

• GPT-4o – OpenAI 最新且最受欢迎的模型。支持文本、图片、音频处理及网页搜索的多模态模型。了解更多。
• GPT-4o Mini – GPT-4o 的小型、经济版，在 128K 上下文窗口下比 GPT-3.5 Turbo 性能更强，成本降低 60% 以上。查看其任务表现。
• o1 Mini – o1 模型的精简版，专为复杂推理任务设计，在性能与效率之间取得平衡。查看我们的测试结果。
• o1 Preview – 增强推理能力的高级模型，专长于复杂问题解决，尤其擅长编程和科学推理，目前为预览版。了解其思考和任务处理方式。
• gpt-4-vision-preview – 支持文本与图片输入的预览模型，具备 JSON 模式和并行函数调用等特性，提升多模态交互能力。了解更多。
• GPT-3.5 Turbo – GPT 的旧版，适合简单任务且成本低廉。参见我们的 AI Agent 测试，了解其与新模型的对比。

选择合适的模型时，请考虑任务需要的输出质量和速度。旧模型适合简单批量任务和聊天时节省成本。如果您要生成内容或进行网页搜索，建议选择更先进的模型。

最大 Token 数

Token 代表模型处理和生成的文本单元。不同模型的 token 使用量各异，一个 token 可能是单词、子词或单个字符。模型通常按百万 token 计费。

最大 token 设置限制单次交互或请求可处理的 token 总数，确保答案在合理范围内生成。默认上限为 4000 token，适合对文档和多个来源进行总结生成答案。

温度（Temperature）

温度控制答案的多样性，范围为 0 到 1。

0.1 的温度会让回复非常直接，但可能重复且过于刻板。

1 的高温度则允许答案最大程度的创造性，但可能导致无关甚至虚构的回复。

例如，客服机器人推荐的温度为 0.2 到 0.5。这样既能保证答案相关且符合脚本，又可保持自然的变化。

如何将 LLM OpenAI 添加到流程中

您会注意到，所有 LLM 组件只有输出端口。输入不会经过该组件，因为它只是模型的表示，真正的生成发生在 AI Agent 和 Generator 中。

LLM 端口始终为紫色。任何使用 AI 生成文本或处理数据的组件上都能找到 LLM 输入端口。点击端口即可查看选项：

这样您可以创建各种工具。让我们看看该组件的实际应用。以下是一个简单的 Agent 驱动的聊天机器人流程，使用 o1 Preview 生成回复。您可以把它当作基础版的 ChatGPT 聊天机器人。

这个简单的聊天机器人流程包括：

• 聊天输入：代表用户在聊天中发送的信息。
• 聊天记录：确保机器人能记住并考虑过往回复。
• 聊天输出：代表机器人的最终回复。
• AI Agent：自动生成回复的智能体。
• LLM OpenAI：连接 OpenAI 文本生成模型的桥梁。