실시간 도메인 특화 RAG 챗봇

개요

이 워크플로우는 실시간 Google 검색을 활용해 인터넷에서 최신 정보를 가져오는 간단한 RAG(검색 기반 생성) 챗봇을 구현합니다. 특히 모든 검색을 특정 도메인으로 제한하도록 맞춤 설정할 수 있습니다. 주요 목적은 온라인에서 찾을 수 있는 가장 관련성 높고 최신의 콘텐츠를 활용해 사용자 질문에 답변하는 챗봇을 만드는 것으로, 정적 지식 기반만으로는 충분하지 않은 상황에서 매우 유용합니다.

주요 구성 요소 및 흐름

이 워크플로우는 각기 다른 기능을 담당하는 여러 모듈형 블록으로 구성되어 있습니다. 아래는 워크플로우의 구조와 기능에 대한 요약입니다:

워크플로우 동작 방식

사용자가 채팅을 열면 채팅 열기 트리거가 활성화됩니다. 이로써 채팅 인터페이스가 초기화되고 여러 버튼 위젯에 예제 질문(예: “이빨이 500개인 공룡은?")이 표시됩니다. 사용자가 버튼을 클릭하거나 채팅 입력을 통해 직접 메시지를 입력하면 워크플로우는 아래와 같이 진행됩니다:

1. 질문 확장: 사용자의 입력이 여러 버전으로 바뀌어 관련 검색 결과를 최대한 많이 찾을 수 있도록 합니다.

2. Google 검색: 확장된 질문들이 Google 검색에 전달됩니다. 기본적으로 검색은 query_prefix 필드(예: site: www.YOURDOMAIN.com)로 제한되어, 챗봇의 지식이 귀하의 웹사이트나 신뢰할 수 있는 소스에 집중됩니다.

3. URL 수집기: 워크플로우가 상위 검색 결과(여러 URL)의 콘텐츠를 전체 문서로 가져옵니다.

4. 프롬프트 조립: 수집된 콘텐츠, 사용자 입력, 채팅 기록을 프롬프트 템플릿 컴포넌트로 결합해 풍부한 맥락을 제공합니다.

5. 언어 모델 생성: 프롬프트가 OpenAI LLM으로 전송되어 일관되고 맥락에 맞는 답변을 생성합니다.

6. 답변 출력: 생성된 답변이 채팅 출력을 통해 사용자에게 표시됩니다.

예시 사용 흐름

• 사용자가 채팅을 엽니다: 환영 메시지와 세 개의 예제 질문 버튼이 나타납니다.
• 사용자가 “2024년 어머니의 날은 언제야?” 버튼을 클릭합니다: 질문이 바로 채팅 출력에 표시됩니다(즉각적 피드백).
• 워크플로우가 질문 확장, 검색, 수집, 프롬프트 조립, LLM 생성을 순차적으로 실행한 뒤 답변을 표시합니다.

이 워크플로우의 장점

• 실시간 지식: 챗봇이 인터넷이나 선택한 도메인에서 최신 정보를 바탕으로 질문에 답변할 수 있습니다.
• 도메인 제한: query_prefix를 맞춤 설정하면 챗봇이 신뢰할 수 있는 웹사이트나 지식 기반만을 참조하게 하여 답변의 신뢰성을 높일 수 있습니다.
• 맥락 인식: 프롬프트에 채팅 기록과 수집된 콘텐츠를 포함해 다중 턴 대화에서도 맥락에 맞는 답변을 제공합니다.
• 확장성 및 자동화: 모듈형 설계로 다양한 도메인에 쉽게 확장 또는 적용할 수 있어, 여러 주제나 웹사이트에 대규모로 배포하기에 적합합니다.
• 사용자 경험: 빠른 시작 버튼과 즉각적인 피드백으로 최종 사용자가 쉽고 편하게 챗봇을 이용할 수 있습니다.

워크플로우 요약 표

맞춤 설정

• 챗봇을 자신의 도메인에만 집중시키려면 Google 검색 컴포넌트의 query_prefix 필드(예: site: www.YOURDOMAIN.com)를 수정하세요.
• 버튼 위젯 컴포넌트에서 예제 질문을 추가하거나 변경해 사용자 경험을 더욱 맞춤화할 수 있습니다.

이상적인 활용 사례

• 최신 문서나 웹 콘텐츠를 기반으로 항상 답변하는 고객 지원 챗봇
• 회사 인트라넷이나 지원 포털로 제한된 내부 지식 비서
• 외부의 신뢰할 수 있는 자료만 항상 인용하거나 참조해야 하는 챗봇(예: 컴플라이언스, 정확성 등)

검색, 수집, 답변 생성 과정을 자동화함으로써, 이 워크플로우는 수동 조사 시간을 절약하고 항상 가장 최신·관련성 높은 정보를 사용자에게 제공합니다.