AI 防火墙
AI 防火墙是一种专门为保护人工智能系统（尤其是大型语言模型 LLM 和生成式 AI API）而设计的安全层，能够通过对自然语言输入输出的上下文感知检测，防御传统防火墙无法拦截的独特攻击和滥用行为。...
2 分钟阅读
AI Security
LLM
+3
自定义护栏组件作为 AI 工作流中的智能过滤器，确保用户输入符合由工作流设计者设定的特定标准。该组件结合语言模型（LLM）和可自定义的提示，用于验证和控制对话或数据流向。
组件作用
自定义护栏的核心是为用户输入把关。它通过“护栏提示”指令告知 LLM 哪些内容是可接受的。例如，默认提示会将对话严格限制在体育话题，并屏蔽所有无关或无意义（乱码）的输入。此机制确保 AI 工作流始终聚焦于既定目标，不偏离主题。
工作原理
- 组件接收输入文本（通常为用户消息）。
- 它将该输入与护栏提示一起发送到选定的 LLM。
- LLM 根据提示评估输入是否符合标准。
- 根据结果，组件将消息输出到两条路径之一：接受（true）或拒绝（false）。
输入项
| 名称 | 类型 | 描述 |
|---|---|---|
| LLM | HandleInput | 用于执行护栏检查的语言模型。 |
| 护栏提示 | PromptInput | 提供给 LLM 的允许内容指令。 |
| 输入文本 | Message | 需要验证的用户消息或内容。 |
- LLM：选择你希望作为护栏执行者的模型。可根据需求灵活使用不同 LLM。
- 护栏提示：通过编辑提示，自定义护栏的严格程度。
- 输入文本：需要验证的实际文本。
输出项
| 名称 | 类型 | 描述 |
|---|---|---|
| 通过路径 | Message | 输入文本通过护栏检查（即符合标准）时从此输出。 |
| 拒绝路径 | Message | 输入文本未通过标准被过滤/拒绝时从此输出。 |
- 通过路径：当输入符合护栏要求时，经此输出进行后续处理。
- 拒绝路径：如输入偏题或未通过检查，经此输出，可进行不同处理（如发送警告或请求澄清）。
为什么使用此组件？
- 质量控制：在 AI 应用中强制执行严格的话题边界或内容规则。
- 安全与相关性：防止 AI 回应偏题、无关或不适当的内容。
- 可定制化执行：可根据需求轻松修改护栏提示，适应不断变化的要求或政策。
- 无缝集成：兼容多种 LLM，可灵活配置输入/输出路由。
应用场景
- 让聊天机器人保持话题聚焦（如客服、教育机器人）。
- 在内容处理或存储前过滤用户生成内容。
- 在自动化 AI 互动中执行合规或法律要求。
- 防止垃圾或无意义输入扰乱工作流。
将自定义护栏组件集成进 AI 工作流后，你可以精细控制可接受的内容，确保 AI 系统按预期运行并输出可靠、相关的结果。