질의 확장
사용자의 입력을 여러 가지 대체 질의로 패러프레이즈하여 LLM 프롬프트를 사용한 지식베이스 시맨틱 검색을 개선합니다....
이 워크플로우 **“시맨틱 검색”**은 고급 언어 모델과 시맨틱 검색 기법을 활용하여 사용자가 개인 지식베이스 내에서 정보를 검색할 수 있도록 합니다. 이 시스템은 예약된 모든 도메인, 문서 및 Q&A 섹션을 스캔하여, 사용자 질의에 가장 적합한 정보를 자동으로 찾아 제공합니다.
사용자 상호작용 및 환영 메시지
사용자가 채팅 인터페이스를 열면, 워크플로우가 환영 메시지를 트리거합니다:
- 메시지 위젯 표시:
👋 개인 지식베이스 검색 도구에 오신 것을 환영합니다!
저는 여러분의 개인 지식베이스 문서에서 정보를 검색하는 데 도움을 드릴 거예요 📚. 예약된 모든 도메인, 개인 문서, Q&A 섹션을 스캔하여 필요한 정보를 찾아드리겠습니다.
질의를 입력해 주시면, 함께 답을 찾아봅시다! ✨🔍
이 친근한 메시지는 사용자를 안내하고 검색 질의 입력을 유도합니다.
질의 처리 및 확장
사용자 입력:
사용자가 채팅 입력 필드를 통해 질의를 제출합니다.질의 확장:
- 질의가 질의 확장 컴포넌트로 전송됩니다.
- OpenAI 언어 모델(
gpt-4o-mini)이 동작하는 이 컴포넌트는 최대 3개의 패러프레이즈 또는 의미적으로 유사한 질의를 생성합니다. - 이는 초기 질의의 표현이 모호하거나 제한적일 때에도 모든 관련 문서를 찾을 가능성을 높입니다.
| 컴포넌트 | 목적 |
|---|---|
| 채팅 입력 | 사용자의 검색 질문 수집 |
| OpenAI LLM (gpt-4o-mini) | 질의의 대체 표현 생성 |
| 질의 확장 | 검색을 위한 최대 3개의 질의 변형 생성 |
문서 검색
- 확장된 질의가 문서 검색기로 전달됩니다.
- 이 컴포넌트는 사용자의 개인 지식베이스(예약된 도메인, 문서, Q&A 섹션 포함)를 검색합니다.
- 관련성이 높은 최대 10개의 문서를 검색하며,
<H1>헤더 내 콘텐츠에 집중하여 문맥 관련성을 극대화합니다.
결과 제시
- 검색된 문서는 문서 위젯에 전달되어, 채팅에 적합한 방식으로 포맷되어 표시됩니다.
- 최종적으로 정리된 결과가 채팅 인터페이스에서 사용자에게 보여집니다.
| 단계 | 컴포넌트 | 출력 유형 |
|---|---|---|
| 문서 검색 | 문서 검색기 | 원본 문서 |
| 결과 포맷팅 | 문서 위젯 | 메시지 |
| 사용자에게 표시 | 채팅 출력 | 채팅 메시지 |
워크플로우 다이어그램
flowchart LR
A[Chat Opened] --> B[Welcome Message]
B --> C[User Query Input]
C --> D[Query Expansion\n(OpenAI LLM)]
D --> E[Document Retriever]
E --> F[Document Widget]
F --> G[Chat Output]
주요 장점 및 활용 사례
- 자동화: 워크플로우가 시맨틱 검색을 자동화하여 사용자가 항상 친절하고 안내되는 경험을 할 수 있도록 수동 노력을 줄여줍니다.
- 확장성: 질의를 확장하고 모든 관련 소스를 검색함으로써 대규모 또는 복잡한 지식베이스에도 적합한 강력한 커버리지를 제공합니다.
- 정확성: LLM을 활용한 패러프레이징은 질의 표현 방식에 의한 정보 누락 위험을 줄여줍니다.
- 사용자 경험: 즉각적인 피드백과 명확한 안내로 비전문가도 쉽게 사용할 수 있습니다.
주요 활용 사례:
- 지원팀을 위한 내부 지식 관리
- 사내 FAQ 및 문서 검색 포털
- 비공개 또는 독점 데이터셋용 자동화 어시스턴트
시맨틱 검색과 LLM 기반 질의 확장을 통합함으로써, 이 워크플로우는 사용자가 효율적으로 관련 지식을 찾아 정보 탐색과 생산성을 크게 높일 수 있도록 지원합니다.
