Haz que los LLM verifiquen sus respuestas e incluyan fuentes

¿Qué es RIG (Generación Intercalada con Recuperación)?

La Generación Intercalada con Recuperación, o RIG por sus siglas en inglés, es un método de IA de vanguardia que combina de manera fluida la búsqueda de información y la generación de respuestas. En el pasado, los modelos de IA utilizaban RAG (Generación Aumentada con Recuperación) o simplemente generación, pero RIG fusiona estos procesos para mejorar la precisión de la IA. Al entrelazar recuperación y generación, los sistemas de IA pueden acceder a una base de conocimientos más amplia, ofreciendo respuestas más precisas y relevantes. El objetivo principal de RIG es reducir errores y mejorar la confiabilidad de los resultados de la IA, convirtiéndose en una herramienta esencial para los desarrolladores que buscan perfeccionar la precisión de la IA. Así, la Generación Intercalada con Recuperación surge como alternativa a RAG (Generación Aumentada con Recuperación) para generar respuestas impulsadas por IA basadas en un contexto.

¿Cómo funciona RIG (Generación Intercalada con Recuperación)?

Así es como funciona RIG. Las siguientes etapas están inspiradas en el blog original, que se centra más en casos de uso generales utilizando la API de Data Commons. Sin embargo, en la mayoría de los casos de uso, puedes querer utilizar tanto una [base de conocimientos general](e.g., Wikipedia o Data Commons) como tus propios datos. Aquí te mostramos cómo puedes aprovechar la potencia de los flujos en FlowHunt para crear un chatbot RIG a partir de tu propia base de conocimientos y una base de conocimientos general como Wikipedia.

1. Una consulta de usuario se envía a un generador, que genera una respuesta de ejemplo con una cita de las secciones correspondientes. En esta etapa, el generador incluso podría producir una buena respuesta pero con datos y estadísticas incorrectas (alucinados).

   

2. En la siguiente fase, usamos un Agente de IA que recibe esta salida y refina los datos en cada sección conectándose a Wikipedia y, adicionalmente, añade fuentes para cada sección correspondiente.

   

Como puedes ver, este método mejora significativamente la precisión del chatbot y garantiza que cada sección generada tenga una fuente y esté fundamentada en la realidad.

¿Cómo crear un chatbot RIG en FlowHunt?

Añade la primera etapa (Generador de respuesta de ejemplo simple):

La primera parte del flujo consiste en una entrada de chat, una plantilla de prompt y un generador. Simplemente conéctalos. La parte más importante es la plantilla de prompt. He usado la siguiente:

Se da la consulta del usuario. Basado en la consulta del usuario, genera la mejor respuesta posible con datos o porcentajes ficticios. Después de cada una de las diferentes secciones de tu respuesta, incluye qué fuente de datos se debe usar para obtener los datos correctos y refinar esa sección con datos correctos. Puedes especificar elegir una fuente de conocimiento interna para obtener datos si hay datos personalizados del producto o servicio del usuario o usar Wikipedia como fuente de conocimiento general.

Ejemplo de entrada: ¿Qué países lideran en energía renovable y cuál es la mejor métrica para medirlo y cuál es ese valor para el país líder?
Ejemplo de salida: Los países líderes en energía renovable son Noruega, Suecia, Portugal, EE. UU. [Buscar en Wikipedia con la consulta “Top Countries in renewable Energy”], la métrica habitual para energía renovable es el factor de capacidad [Buscar en Wikipedia con la consulta “metric for renewable energy”], y el país número uno tiene un factor de capacidad del 20% [buscar en Wikipedia “biggest capacity factor”]

¡Comencemos ahora!
Entrada del usuario: {input}

Aquí usamos ‘Few Shot prompting’ para que el generador produzca exactamente el formato que queremos.

Añade la parte de verificación de hechos:

Ahora, añade la segunda parte, que verifica la respuesta de ejemplo y la refina en base a fuentes reales. Aquí, usamos Wikipedia y Agentes de IA, ya que es más fácil y flexible conectar Wikipedia a Agentes de IA que a simples Generadores. Conecta la salida del generador al Agente de IA y conecta la herramienta de Wikipedia al Agente de IA. Este es el objetivo que uso para el Agente de IA:

Se te da una respuesta de ejemplo a la pregunta del usuario. La respuesta de ejemplo puede incluir datos erróneos. Usa la herramienta de Wikipedia en las secciones indicadas con la consulta especificada, para usar la información de Wikipedia y refinar la respuesta. Incluye el enlace de Wikipedia en cada una de las secciones especificadas. OBTÉN DATOS DE TUS HERRAMIENTAS Y REFINA LA RESPUESTA EN ESA SECCIÓN. AÑADE EL ENLACE A LA FUENTE EN ESA SECCIÓN EN PARTICULAR Y NO AL FINAL.

De forma similar, puedes añadir un Recuperador de Documentos al Agente de IA, que puede conectarse a tu propia base de conocimientos personalizada para recuperar documentos.

Puedes probar este flujo exacto aquí.

Entendiendo la Generación Aumentada con Recuperación (RAG)

Para apreciar realmente RIG, ayuda primero a mirar a su predecesor, la Generación Aumentada con Recuperación (RAG). RAG combina las fortalezas de los sistemas que buscan datos relevantes y los modelos que generan contenido coherente y adecuado. El paso de RAG a RIG es un gran avance. RIG no solo recupera y genera, sino que también mezcla estos procesos para lograr una mayor precisión y eficiencia. Esto permite a los sistemas de IA mejorar su comprensión y resultados de manera progresiva, entregando resultados no solo precisos, sino también relevantes y perspicaces. Al combinar recuperación con generación, los sistemas de IA pueden aprovechar grandes cantidades de información manteniendo respuestas coherentes y relevantes.

El futuro de la Generación Intercalada con Recuperación

El futuro de la Generación Intercalada con Recuperación es prometedor, con muchos avances y líneas de investigación en el horizonte. A medida que la IA sigue creciendo, RIG está llamada a desempeñar un papel clave en la configuración del mundo del aprendizaje automático y las aplicaciones de IA. Su impacto potencial va más allá de las capacidades actuales, prometiendo transformar la forma en que los sistemas de IA procesan y generan información. Con la investigación en curso, esperamos más innovaciones que mejorarán la integración de RIG en varios marcos de IA, lo que conducirá a sistemas de IA más eficientes, precisos y confiables. A medida que estos desarrollos se materialicen, la importancia de RIG no hará más que aumentar, consolidando su papel como piedra angular de la precisión y el rendimiento de la IA.

En conclusión, la Generación Intercalada con Recuperación marca un gran avance en la búsqueda de precisión y eficiencia en la IA. Al combinar hábilmente los procesos de recuperación y generación, RIG mejora el rendimiento de los modelos de lenguaje grande, refuerza el razonamiento en varios pasos y ofrece posibilidades interesantes en educación y verificación de hechos. Mirando hacia adelante, la evolución continua de RIG sin duda impulsará nuevas innovaciones en la IA, consolidando su papel como una herramienta vital en la búsqueda de sistemas de inteligencia artificial más inteligentes y confiables.