프롬프트
LLM을 위한 동적 변수 기반의 프롬프트 템플릿을 생성하며, {input}, {human_input}, {context}, {chat_history}, {system_message} 등의 필드를 지원합니다....
개요
이 워크플로우는 실시간 Google 검색을 활용해 인터넷에서 최신 정보를 가져오는 간단한 RAG(검색 기반 생성) 챗봇을 구현합니다. 특히 모든 검색을 특정 도메인으로 제한하도록 맞춤 설정할 수 있습니다. 주요 목적은 온라인에서 찾을 수 있는 가장 관련성 높고 최신의 콘텐츠를 활용해 사용자 질문에 답변하는 챗봇을 만드는 것으로, 정적 지식 기반만으로는 충분하지 않은 상황에서 매우 유용합니다.
주요 구성 요소 및 흐름
이 워크플로우는 각기 다른 기능을 담당하는 여러 모듈형 블록으로 구성되어 있습니다. 아래는 워크플로우의 구조와 기능에 대한 요약입니다:
| 구성 요소 | 역할 |
|---|---|
| 채팅 입력 | 사용자 질문 및 채팅 메시지를 수신합니다. |
| 채팅 기록 | 맥락 인식 답변을 위한 대화 기록을 유지합니다. |
| 질문 확장 | 사용자의 입력을 여러 대체 질문으로 바꿔 검색 범위를 넓힙니다. |
| Google 검색 | 도메인 접두사로 제한된 Google 검색을 실행합니다. |
| URL 수집기 | Google 검색에서 반환된 URL에서 콘텐츠를 추출합니다. |
| 프롬프트 템플릿 | 언어 모델을 위한 맥락, 사용자 입력, 기록을 구조화합니다. |
| OpenAI LLM | 언어 모델(예: GPT-3/4)을 사용해 답변을 생성합니다. |
| 생성기 | 프롬프트와 맥락을 LLM에 전달해 답변을 생성합니다. |
| 채팅 출력 | 사용자에게 챗봇의 답변을 표시합니다. |
| 버튼 위젯 | 사용자가 한 번의 클릭으로 시도할 수 있는 예제 질문을 제공합니다. |
| 채팅 열기 트리거 | 대화를 초기화하고 빠른 시작 버튼을 표시합니다. |
워크플로우 동작 방식
사용자가 채팅을 열면 채팅 열기 트리거가 활성화됩니다. 이로써 채팅 인터페이스가 초기화되고 여러 버튼 위젯에 예제 질문(예: “이빨이 500개인 공룡은?")이 표시됩니다. 사용자가 버튼을 클릭하거나 채팅 입력을 통해 직접 메시지를 입력하면 워크플로우는 아래와 같이 진행됩니다:
질문 확장: 사용자의 입력이 여러 버전으로 바뀌어 관련 검색 결과를 최대한 많이 찾을 수 있도록 합니다.
Google 검색: 확장된 질문들이 Google 검색에 전달됩니다. 기본적으로 검색은
query_prefix필드(예:site: www.YOURDOMAIN.com)로 제한되어, 챗봇의 지식이 귀하의 웹사이트나 신뢰할 수 있는 소스에 집중됩니다.URL 수집기: 워크플로우가 상위 검색 결과(여러 URL)의 콘텐츠를 전체 문서로 가져옵니다.
프롬프트 조립: 수집된 콘텐츠, 사용자 입력, 채팅 기록을 프롬프트 템플릿 컴포넌트로 결합해 풍부한 맥락을 제공합니다.
언어 모델 생성: 프롬프트가 OpenAI LLM으로 전송되어 일관되고 맥락에 맞는 답변을 생성합니다.
답변 출력: 생성된 답변이 채팅 출력을 통해 사용자에게 표시됩니다.
예시 사용 흐름
- 사용자가 채팅을 엽니다: 환영 메시지와 세 개의 예제 질문 버튼이 나타납니다.
- 사용자가 “2024년 어머니의 날은 언제야?” 버튼을 클릭합니다: 질문이 바로 채팅 출력에 표시됩니다(즉각적 피드백).
- 워크플로우가 질문 확장, 검색, 수집, 프롬프트 조립, LLM 생성을 순차적으로 실행한 뒤 답변을 표시합니다.
이 워크플로우의 장점
- 실시간 지식: 챗봇이 인터넷이나 선택한 도메인에서 최신 정보를 바탕으로 질문에 답변할 수 있습니다.
- 도메인 제한:
query_prefix를 맞춤 설정하면 챗봇이 신뢰할 수 있는 웹사이트나 지식 기반만을 참조하게 하여 답변의 신뢰성을 높일 수 있습니다. - 맥락 인식: 프롬프트에 채팅 기록과 수집된 콘텐츠를 포함해 다중 턴 대화에서도 맥락에 맞는 답변을 제공합니다.
- 확장성 및 자동화: 모듈형 설계로 다양한 도메인에 쉽게 확장 또는 적용할 수 있어, 여러 주제나 웹사이트에 대규모로 배포하기에 적합합니다.
- 사용자 경험: 빠른 시작 버튼과 즉각적인 피드백으로 최종 사용자가 쉽고 편하게 챗봇을 이용할 수 있습니다.
워크플로우 요약 표
| 단계 | 설명 |
|---|---|
| 사용자 입력 | 사용자가 질문을 입력하거나 빠른 시작 버튼 클릭 |
| 질문 확장 | 입력을 바꿔 검색 범위를 넓힘 |
| Google 검색 | Google에서 지정 도메인에 한정해 검색 |
| URL 콘텐츠 수집 | 상위 검색 결과의 콘텐츠를 가져옴 |
| 프롬프트 구성 | 사용자 입력, 검색 결과, 채팅 기록을 프롬프트로 조합 |
| LLM 생성 | OpenAI LLM이 전체 맥락을 바탕으로 답변 생성 |
| 출력 | 답변이 사용자에게 표시됨 |
맞춤 설정
- 챗봇을 자신의 도메인에만 집중시키려면 Google 검색 컴포넌트의
query_prefix필드(예:site: www.YOURDOMAIN.com)를 수정하세요. - 버튼 위젯 컴포넌트에서 예제 질문을 추가하거나 변경해 사용자 경험을 더욱 맞춤화할 수 있습니다.
이상적인 활용 사례
- 최신 문서나 웹 콘텐츠를 기반으로 항상 답변하는 고객 지원 챗봇
- 회사 인트라넷이나 지원 포털로 제한된 내부 지식 비서
- 외부의 신뢰할 수 있는 자료만 항상 인용하거나 참조해야 하는 챗봇(예: 컴플라이언스, 정확성 등)
검색, 수집, 답변 생성 과정을 자동화함으로써, 이 워크플로우는 수동 조사 시간을 절약하고 항상 가장 최신·관련성 높은 정보를 사용자에게 제공합니다.
