Generador
Explora el componente Generador en FlowHunt: potente generación de texto impulsada por IA usando el modelo LLM que elijas. Crea respuestas dinámicas de chatbot ...
2 min de lectura
AI
Automation
+4
Barandilla Personalizada
Barandilla Personalizada utiliza un modelo de IA y un prompt para validar las entradas de usuario, permitiendo solo los temas relevantes en tu flujo de trabajo.
AI
Guardrail
Validation
Automation
Descripción del componente
Cómo funciona el componente Barandilla Personalizada
The Custom Guardrail component functions as an intelligent filter within an AI workflow, ensuring that user input aligns with specific criteria set by the workflow designer. This component leverages a language model (LLM) in combination with a customizable prompt to validate and control the flow of conversation or data.
What the Component Does
At its core, the Custom Guardrail serves as a gatekeeper for user inputs. It uses a prompt (the “Guardrail Prompt”) to instruct the LLM on what is considered acceptable content. For example, the default prompt restricts conversations strictly to sports topics and blocks any unrelated or nonsensical (gibberish) inputs. This mechanism ensures that the AI workflow remains focused and does not deviate from its intended purpose.
How It Works
- The component receives an input text (typically a user message).
- It sends this input, along with the guardrail prompt, to the selected LLM.
- The LLM evaluates the input based on the prompt and determines whether it meets the criteria.
- Depending on the result, the component outputs the message along one of two routes: accepted (true) or rejected (false).
Inputs
| Name | Type | Description |
|---|---|---|
| LLM | HandleInput | The language model used to evaluate and enforce the guardrail. |
| Guardrail Prompt | PromptInput | The instruction provided to the LLM on what content is allowed. |
| Input Text | Message | The user’s message or content to be validated. |
- LLM: Choose the model you wish to use as your guardrail enforcer. This allows flexibility in using different LLMs suited for your needs.
- Guardrail Prompt: Customize how strict or lenient the guardrail should be by editing the prompt.
- Input Text: The actual text that needs validation.
Outputs
| Name | Type | Description |
|---|---|---|
| True Route | Message | Output if the input text passes the guardrail check (i.e., meets the criteria). |
| False Route | Message | Output if the input text does not meet the criteria and is filtered out/rejected. |
- True Route: When the input complies with the guardrail, it is passed through this output for further processing.
- False Route: If the input is off-topic or fails the check, it is sent through this output, allowing you to handle it differently (e.g., send a warning or request clarification).
Why Use This Component?
- Quality Control: Enforce strict topic boundaries or content rules within your AI applications.
- Safety and Relevance: Prevent AI from responding to off-topic, irrelevant, or inappropriate content.
- Customizable Enforcement: Easily modify the guardrail prompt to reflect changing requirements or policies.
- Seamless Integration: Works with a variety of LLMs and accepts flexible input/output routing in your workflow.
Use Cases
- Moderating chatbots to stay on-topic (e.g., customer support, educational bots).
- Filtering user-generated content before it is processed or stored.
- Enforcing compliance or legal requirements in automated AI interactions.
- Preventing spam or nonsensical inputs from disrupting workflows.
By integrating the Custom Guardrail component into your AI workflow, you gain fine-grained control over what content is accepted, helping ensure your AI system behaves as intended and delivers reliable, relevant results.
Preguntas frecuentes
- ¿Qué hace el componente Barandilla Personalizada?
Barandilla Personalizada verifica la entrada del usuario con un prompt definido usando un LLM, permitiendo solo las entradas que cumplan con tus criterios (como restricciones de temas) para continuar en el flujo de trabajo.
- ¿Cómo filtra las entradas de usuario?
Utiliza un prompt de barandilla y un modelo de IA para analizar los mensajes del usuario, dirigiendo automáticamente las entradas válidas hacia adelante y bloqueando o redirigiendo cualquier cosa fuera de los temas o reglas especificadas.
- ¿Puedo personalizar el prompt de la barandilla?
Sí, puedes definir cualquier prompt para establecer tu lógica de validación deseada, como restringir temas, bloquear entradas sin sentido o asegurar el cumplimiento de las normas de conversación.
- ¿Qué sucede con las entradas que no cumplen los criterios?
Las entradas que no superan la comprobación de la barandilla se dirigen por una vía alternativa, lo que te permite gestionar los mensajes rechazados adecuadamente en tu flujo.
- ¿Necesito conocimientos de programación para usar la Barandilla Personalizada?
No se requiere programación. Simplemente estableces los criterios en lenguaje natural y conectas el componente dentro de tu flujo.
Prueba FlowHunt Barandilla Personalizada
Protege tus flujos de trabajo de IA y modela las interacciones de usuario usando el componente Barandilla Personalizada—diseñado para un filtrado de entradas preciso y control de temas.
Saber más
Entrada de Chat
El componente de Entrada de Chat en FlowHunt inicia las interacciones con el usuario capturando mensajes desde el Playground. Sirve como punto de partida para l...
2 min de lectura
AI
Chatbot
+3
Puerta de Escalamiento
El componente Puerta de Escalamiento enruta inteligentemente los mensajes entrantes según la lógica de escalamiento, permitiendo que los flujos cambien entre re...
2 min de lectura
AI
Human Escalation
+4