워크플로우 설명

이 워크플로우는 LLM(대형 언어 모델), 동적 데이터 생성, 외부 API 요청(LiveAgent 등), 자동 문서 검색 등을 활용하여 고급 고객 지원 및 지식 검색 업무를 자동화하고 확장하도록 설계되었습니다. 지원 프로세스를 간소화하고, 컨텍스트 기반으로 고객 문의에 답변하며, 지식 베이스 조회와 외부 시스템 연동을 통합하려는 조직에 특히 유용합니다.

개요

워크플로우는 다음과 같은 주요 단계를 조율합니다:

• 사용자 입력(채팅) 수신
• 사용자 입력 및 컨텍스트 기반 동적 API 요청 생성
• 외부 소스(LiveAgent 등)에서 데이터 수집 및 파싱
• LLM을 활용한 응답 내 핵심 정보 추출 및 요약
• 지식 베이스 문서 검색을 통한 응답 보강
• LLM 기반 에이전트가 컨텍스트에 기반한 고객 응답 생성
• 최종 응답을 사용자에게 전달

주요 구성 요소 및 흐름

상세 단계

1. 사용자 입력 및 컨텍스트 수집

• 채팅 입력 노드에서 사용자의 메시지를 수신합니다.
• 채팅 기록 노드가 최근 N개의 메시지를 불러와 컨텍스트 기반 응답이 가능하게 합니다.
• 프롬프트 템플릿이 사용자 입력과 기록을 활용해 외부 API(예: LiveAgent의 대화 기록) 호출용 URL을 동적으로 생성합니다.

2. API 요청 구성

• 데이터 생성 노드로 쿼리 파라미터 또는 요청 본문을 동적으로 구성합니다(API 키 등 민감 정보 포함 가능).
• 생성된 URL과 파라미터는 API 요청 노드로 전달되어, 외부 시스템(LiveAgent 등)과 통신해 필요한 데이터를 가져옵니다.

3. 데이터 파싱 및 전처리

• API 응답 결과는 데이터 파싱 노드에서 처리되어, 원본 데이터에서 필요한 필드만 추출하거나 구조화된 텍스트로 변환됩니다.
• 파싱된 데이터는 LLM 생성기 노드로 전달되어, 명확한 시스템 메시지를 바탕으로 “Preview"와 같은 특정 정보를 추출합니다.

4. 지식 보강

• 문서 검색기 노드는 내부 지식 베이스에서 사용자의 문의와 관련성이 높은 문서를 검색하여 에이전트의 컨텍스트를 보강합니다. 이 도구는 LLM 에이전트에게 제공됩니다.

5. LLM 에이전트 응답 생성

• 도구 호출 에이전트 노드는 강력한 LLM 기반 에이전트로서:
  • 사용자 입력, API 응답, 채팅 기록, 다양한 도구(Document Retriever, Contact Human Assist 등) 접근
  • 시스템 프롬프트로 다음을 명확히 안내:
    • 항상 권위 있는 소스(Document Retriever, knowledge_source_tool 등)만 사용
    • 답변이나 URL 임의 생성 금지
    • 필요 시 추가 질문
    • 항상 친절하고, 전문적이며, 간결한 포맷(불릿, 굵은 글씨, 이모지 등) 사용
    • 슬로바키아어나 감지된 사용자 언어로 이메일 형식으로만 답변
    • 해결 불가 시 인간 상담원에게 이관
• 이를 통해 모든 고객 응답이 정확하고, 컨텍스트 기반이며, 정책을 준수하며, 확장성이 뛰어납니다.

6. 사용자에게 출력

• LLM 에이전트가 생성한 최종 응답은 파싱 및 포맷팅되어 채팅 출력 노드를 통해 사용자에게 전달됩니다.

참고 및 베스트 프랙티스

• API 키 및 LiveAgent 링크: 워크플로우에는 API 키 삽입과 프롬프트 템플릿 내 YOURLINK를 실제 LiveAgent 인스턴스 URL로 교체하도록 안내하는 노트 노드가 포함되어 있습니다.
• 보안 및 컴플라이언스: API 키 및 민감 정보는 동적 데이터 노드를 통해 관리하여 노출 위험을 최소화합니다.
• 확장성: 모듈형 설계로 도구, 데이터 변환, 출력 채널 추가가 용이합니다.

확장 및 자동화에 유용한 이유

• 엔드-투-엔드 자동화: 실시간 채팅, API, 지식 베이스 등 다양한 소스를 통합하고, 의사결정과 응답 생성을 자동화합니다.
• LLM 기반 추론: 최신 LLM을 활용해 컨텍스트 이해, 정보 추출, 인간다운 소통이 가능합니다.
• 일관되고 고품질의 지원: 시스템 프롬프트로 회사 정책, 어조, 이관 정책, 허위 정보 방지 등을 강제합니다.
• 외부 시스템과의 신속한 통합: 프롬프트 템플릿과 연결 노드만 수정하면 다양한 API·지식 베이스에 손쉽게 적용 가능합니다.
• 휴먼 인 루프 이관: 복잡한 사례는 자동으로 인간 상담원에게 이관해 경계 상황도 완벽 대응합니다.
• 확장성: 병렬로 대량 문의도 정확하고 컴플라이언스 준수하며 처리할 수 있습니다.

주요 노드 요약 테이블

이 워크플로우는 고객 지원 자동화와 외부 티켓/채팅 시스템 통합, 그리고 LLM 기반 응답이 항상 회사 공식 지식에 기반하도록 보장하는 데 이상적입니다. 대규모, 지능형 지원 어시스턴트 구축의 핵심이 될 수 있습니다.