맞춤형 지식베이스 추가로 AI 환각 줄이기

인덱싱

FlowHunt 스케줄 기능 개요

오늘 포스트에서는 FlowHunt의 스케줄 기능과 이를 활용해 도메인을 효과적으로 인덱싱하는 방법을 살펴봅니다. 스케줄을 설정하면 챗봇이 항상 최신 정보를 접근할 수 있어 AI 환각 위험은 줄이고 응답의 정확성은 높일 수 있습니다.

FlowHunt
2024년 8월 13일

챗봇을 위한 도메인 인덱싱의 중요성

챗봇이 정확하고 관련성 있는 답변을 하려면 잘 인덱싱된 콘텐츠에 접근할 수 있어야 합니다. 도메인, URL, 사이트맵을 정기적으로 크롤링하면 챗봇이 콘텐츠를 폭넓게 이해하게 되어 더욱 정밀한 답변을 제공합니다.

정확한 데이터로 LLM 환각 줄이기

AI 환각은 모델이 제공된 데이터에 근거하지 않은 정보를 생성할 때 발생합니다. 정기적인 인덱싱으로 챗봇이 도메인의 최신·정확한 정보를 활용하도록 하면 이런 현상을 줄일 수 있습니다.

웹사이트 인덱싱 이해하기

스케줄 기능이란?

FlowHunt의 스케줄 기능은 도메인, 특정 URL, 사이트맵의 크롤링을 자동화하는 기능입니다. 이를 통해 챗봇은 사이트의 최신 업데이트를 항상 파악할 수 있습니다.

인덱싱 가능한 콘텐츠 유형 (도메인, URL, 사이트맵)

FlowHunt는 전체 도메인, 특정 URL, 구조화된 사이트맵 등 다양한 방식의 크롤링을 지원합니다. 이 기능은 블로그, 이커머스 등 콘텐츠가 자주 업데이트되는 사이트에 특히 유용합니다.

크롤링 빈도 설정: 매일, 매주, 매월, 매년

웹사이트의 업데이트 주기에 맞춰 크롤링 빈도를 설정할 수 있습니다. 예를 들어, 매일 새 콘텐츠가 올라온다면 크롤링도 매일로 맞추면 챗봇이 항상 최신 정보를 유지할 수 있습니다.

도메인 인덱싱에 스케줄 기능을 활용하는 장점

콘텐츠의 정확성과 최신성 보장

정기적으로 크롤링하면 챗봇에 인덱싱되는 모든 정보가 최신이 되므로, 답변의 정확성이 높아집니다. 사용자가 신뢰할 수 있는 최신 정보를 제공하는 데 매우 중요합니다.

최신 데이터로 챗봇 응답 강화

챗봇이 최신 콘텐츠에 접근할 수 있으므로, 관련성 있고 정확한 답변을 생성할 수 있습니다. 상품 비교, 상세 리뷰, 대형 FAQ 등 다양한 웹사이트에 특히 유용합니다.

AI 답변에서 환각 위험 최소화

도메인을 꾸준히 인덱싱하면 챗봇이 오래되거나 무관한 데이터에 근거한 답변을 할 위험이 줄어듭니다. 이로써 더욱 신뢰할 수 있는 사용 경험을 제공합니다.

도메인 인덱싱의 실용적 활용 사례

웹사이트 큐레이터

웹사이트 큐레이터는 스케줄 기능을 통해 사이트의 모든 콘텐츠가 인덱싱되어 챗봇이 손쉽게 접근할 수 있도록 할 수 있습니다. 이는 챗봇이 사이트 내비게이션 및 정보 제공에 강력한 도구가 됩니다.

이샵 상품 비교

이커머스 플랫폼은 이 기능을 활용해 챗봇이 정확한 상품 비교를 제공하도록 할 수 있습니다. 관련 상품 정보에 접근할 수 있으므로 고객의 의사결정 과정을 효과적으로 지원합니다.

일반 웹사이트 큐레이션 및 정보 검색

이커머스 외에도, 상세 정보 검색이 필요한 교육 플랫폼, 서비스 제공자, 콘텐츠 라이브러리 등 다양한 웹사이트에 유용합니다. 챗봇이 포괄적인 가이드 역할을 하며, 사용자가 필요한 정보를 빠르게 찾을 수 있습니다.

스케줄 기능으로 챗봇 만들기: 단계별 가이드

스케줄 탭으로 이동하기

스케줄 기능을 사용하려면 FlowHunt의 스케줄 탭으로 이동하세요. 여기서 도메인이나 사이트의 특정 콘텐츠 인덱싱을 위한 크롤링 스케줄을 설정합니다.

새 스케줄 생성하기

새 스케줄 생성을 클릭하여 시작하세요. 인덱싱할 도메인, URL, 사이트맵을 선택하라는 안내가 나옵니다.

크롤링할 도메인, URL, 사이트맵 선택

웹사이트에 구조화된 사이트맵이 있다면 이를 크롤링에 활용하는 것이 가장 좋습니다. 사이트맵에는 모든 URL이 포함되어 있어 챗봇이 관련 콘텐츠를 손쉽게 인덱싱할 수 있습니다.

크롤링 빈도 선택

다음으로 도메인 또는 사이트맵 크롤링 주기를 선택하세요. 잦은 업데이트가 있다면 매일, 그렇지 않다면 매주 또는 매월 정도로 설정하면 됩니다.

FlowHunt에서 플로우 만들기

“내 플로우” 탭 접근

스케줄 설정 후 내 플로우 탭으로 이동합니다. 여기에서 인덱싱된 콘텐츠를 활용할 새 플로우를 만듭니다.

플로우 생성 및 이름 정하기

프로젝트의 주제를 잘 드러내는 이름을 붙이면 이후 플로우를 쉽게 식별할 수 있습니다.

플로우 캔버스 이해하기

플로우 캔버스는 FlowHunt의 작업 공간입니다. 직관적으로 설계되어 있어 컴포넌트 드래그 앤 드롭, 연결, 논리적 순서 구성이 쉽게 가능합니다.

플로우의 필수 컴포넌트

입력 컴포넌트: 사용자 질문 받기

입력 컴포넌트는 사용자의 질문이 입력되는 부분입니다. 플로우의 시작점으로, 사용자가 탐색하고자 하는 주제나 질문을 캡처합니다.

출력 컴포넌트: AI 응답 전달

출력 컴포넌트는 AI 에이전트의 응답이 전달되는 부분입니다. 수집·처리된 정보를 담아 최종적으로 사용자에게 제공됩니다.

검색 향상을 위한 질문 확장 추가

LLM(대형 언어 모델)이 사용자의 질문을 더 잘 이해하도록 질문 확장 컴포넌트를 추가하세요. 이 컴포넌트는 입력 질문을 여러 표현으로 바꿔, 챗봇의 의미 기반 검색 능력을 높입니다.

추가 컴포넌트로 AI 응답 강화

대화 기록 연동

챗봇이 이전 대화를 기억하도록 대화 기록 기능을 추가하면, 사용자의 과거 질문에 기반해 더 맞춤화된 답변을 할 수 있습니다.

LLM 통합: 비용 효율적인 GPT-3.5 Turbo 선택

질문 확장 컴포넌트에는 GPT-3.5 Turbo 등 LLM을 사용할 수 있습니다. 이 모델은 최고 속도나 성능은 아니지만, 비용 대비 효율적이며 단순 질의 처리에 충분합니다.

인덱싱 콘텐츠 접근을 위한 문서 검색기 활용

문서 검색기 컴포넌트는 크롤링된 페이지 정보를 불러오는 데 필수적입니다. 스케줄로 도메인을 인덱싱했다면, 이 컴포넌트가 챗봇 응답의 핵심 데이터 소스가 됩니다.

문서 검색기 컴포넌트 설정

문서 검색기를 질문 확장에 연결

문서 검색기 컴포넌트를 질문 확장 컴포넌트와 연결합니다. 이로써 챗봇이 확장된 질문에 따라 인덱싱된 콘텐츠에서 관련 정보를 불러올 수 있습니다.

스케줄을 문서 검색기에 연결

다음으로, 문서 검색기에 스케줄을 추가하세요. 이렇게 하면 챗봇이 가장 최근 크롤링된 도메인 또는 사이트맵의 정보만을 활용하게 됩니다.

최적 출력을 위한 설정 조정

문서 검색기 설정을 통해 출력 결과를 세밀하게 조정할 수 있습니다. 예를 들어, 불러오는 정보의 양이나 응답에서 우선시할 콘텐츠 부분을 조절할 수 있습니다.

플로우에서 프롬프트와 콘텐츠 생성

프롬프트 도구 플로우에 추가

데이터 준비가 끝나면 이제 텍스트 응답을 생성해야 합니다. 프롬프트 도구를 플로우에 추가하고, 문서 검색기를 컨텍스트로, 입력 컴포넌트를 입력으로 연결하세요.

문서 검색기를 컨텍스트로 활용

문서 검색기는 프롬프트 도구에 컨텍스트를 제공하여, 챗봇이 답변을 생성할 때 필요한 배경 정보를 전달합니다.

원하는 답변을 위한 프롬프트 미세 조정

챗봇의 답변을 더 효과적으로 유도하려면 프롬프트를 맞춤 설정하세요. 어조, 스타일, 포함되어야 할 정보 등을 명확히 지정할 수 있습니다.

예시 프롬프트:

당신은 문서 검색기에서 받은 콘텐츠만을 기반으로 답변하는 웹사이트 큐레이터입니다. 답을 모르면 사용자에게 모른다고 알려주세요.

당신의 임무는 CHAT HISTORY의 이전 대화를 고려하여 INPUT의 고객 질문에 답하는 것입니다.

CONTEXT가 제공되면 이를 활용해 답변하세요.

— CONTEXT START
{context}
— CONTEXT END

— CHAT HISTORY START
{chat_history}
— CHAT HISTORY END

— INPUT START
{input}
— INPUT END

답변 언어: {lang}

답변은 마크다운 형식으로 작성하세요.

ANSWER:

플로우 마무리

생성 컴포넌트를 LLM에 연결

마지막으로 생성 컴포넌트를 강력한 LLM에 연결하세요. 이렇게 하면 챗봇이 최종적으로 사용자에게 제공할 답변을 생성할 수 있습니다.

사용자 상호작용을 위한 출력 설정

챗봇의 목표에 맞게 출력 컴포넌트를 설정하세요. 예를 들면, 링크 제공, 콘텐츠 생성, 사용자 질문에 맞춘 안내 등이 있습니다.

연결된 콘텐츠로 사용자 경험 향상

챗봇이 인덱싱·크롤링된 정보를 활용하므로, 관련 콘텐츠 링크를 제공해 사용자 경험을 개선할 수 있습니다. 문서 위젯을 플로우에 추가해 문서 검색기와 연결하면 사용자가 필요한 페이지에 직접 접근할 수 있습니다.

결론

핵심 포인트 요약

이 가이드에서는 FlowHunt의 스케줄 기능으로 도메인을 인덱싱하고 챗봇의 정확성을 높이는 방법을 다뤘습니다. 사이트를 정기적으로 크롤링하면 챗봇이 항상 최신 정보를 활용하므로 AI 환각 가능성이 줄어듭니다.

LLM 환각 줄이기에 대한 마지막 생각

AI 환각을 줄이는 것은 사용자 신뢰를 유지하고 챗봇이 고품질·정확한 정보를 제공하는 데 매우 중요합니다. FlowHunt의 스케줄 기능을 활용하면 챗봇 지식베이스를 항상 최신 상태로 유지하여, 사용자 질문에 신뢰할 수 있는 답변을 제공할 수 있습니다.

완성된 플로우의 스크린샷입니다: