LLM 제미니

LLM Gemini 컴포넌트란 무엇인가요?

LLM Gemini 컴포넌트는 Google의 Gemini 모델을 플로우에 연결해 줍니다. 실제 생성과 작업은 Generator 및 Agent에서 이루어지지만, LLM 컴포넌트를 통해 사용할 모델을 제어할 수 있습니다. 모든 컴포넌트는 기본적으로 ChatGPT-4를 내장하고 있습니다. 모델을 변경하거나 더 세밀하게 제어하고 싶다면 해당 컴포넌트를 연결하면 됩니다.

LLM 컴포넌트 연결은 선택 사항임을 기억하세요. LLM을 사용하는 모든 컴포넌트는 기본값으로 ChatGPT-4o가 제공됩니다. LLM 컴포넌트를 통해 모델을 전환하고, 모델 설정을 제어할 수 있습니다.

LLM Gemini 컴포넌트 설정

Max Tokens

토큰은 모델이 처리하고 생성하는 텍스트의 개별 단위를 의미합니다. 토큰 사용량은 모델마다 다르며, 한 토큰은 단어, 서브워드, 한 글자 등 다양할 수 있습니다. 모델은 보통 수백만 토큰 단위로 과금됩니다.

최대 토큰(Max Tokens) 설정은 한 번의 상호작용 또는 요청에서 처리할 수 있는 토큰의 총량을 제한하여, 응답이 적절한 범위 내에서 생성되도록 합니다. 기본 제한은 4,000 토큰으로, 문서와 여러 소스를 요약하여 답변을 생성하는 데 최적의 크기입니다.

Temperature

Temperature(온도)는 답변의 다양성을 제어하며, 0에서 1 사이의 값을 가집니다.

0.1의 낮은 온도는 매우 간결하나 반복적이고 빈약한 답변을 만들 수 있습니다.

1의 높은 온도는 답변에 최대한의 창의성을 허용하지만, 무관하거나 비현실적인 응답이 생성될 위험이 있습니다.

예를 들어, 고객 응대 챗봇에 추천되는 온도는 0.2~0.5 사이입니다. 이 정도면 답변이 스크립트에서 벗어나지 않으면서도 자연스러운 변화를 줄 수 있습니다.

Model

이곳에서 모델을 선택할 수 있습니다. Google이 지원하는 모든 Gemini 모델이 여기에 표시됩니다. 최신 Gemini 모델들을 모두 지원합니다:

• Gemini 2.0 Flash Experimental – 에이전트를 위해 설계된 고급 저지연 모델로, 네이티브 도구 사용, 이미지 생성, 음성 생성 등 새로운 기능을 제공합니다. 가장 진보된 Google 모델이 일상 작업을 어떻게 처리하는지 테스트 결과를 확인해보세요.
• Gemini 1.5 Flash – 속도와 효율에 최적화된 경량 멀티모달 모델로, 오디오, 이미지, 비디오, 텍스트 입력을 처리할 수 있으며 최대 1,048,576 토큰의 컨텍스트 윈도우를 가집니다. 자세히 알아보기.
• Gemini 1.5 Flash-8B – 1.5 Flash의 소형·고속·저비용 버전으로, 유사한 멀티모달 기능을 제공하면서 가격은 50% 낮고, 처리 속도는 2배 높습니다. 가장 약한 모델의 결과물은 어느 정도일까요? 여기서 확인하세요.
• Gemini 1.5 Pro – 다양한 추론 작업에 최적화된 중형 멀티모달 모델로, 대용량 데이터와 확장된 오디오·비디오 입력까지 처리할 수 있으며, 입력 토큰 제한은 2,097,152입니다. 출력 예시를 확인해보세요.

LLM Gemini를 플로우에 추가하는 방법

모든 LLM 컴포넌트에는 출력 핸들만 있다는 점을 알 수 있습니다. 입력은 컴포넌트를 통과하지 않으며, 이 컴포넌트는 단지 모델을 나타내고 실제 생성은 AI Agent 및 Generator에서 이루어집니다.

LLM 핸들은 항상 보라색입니다. LLM 입력 핸들은 텍스트 생성이나 데이터 처리를 위해 AI를 사용하는 모든 컴포넌트에서 찾을 수 있습니다. 핸들을 클릭하면 옵션을 확인할 수 있습니다:

이렇게 다양한 도구를 만들 수 있습니다. 컴포넌트가 실제로 어떻게 동작하는지 살펴보겠습니다. 아래는 Gemini 2.0 Flash Experimental 모델을 사용하여 응답을 생성하는 간단한 AI Agent 챗봇 플로우입니다. 즉, 기본적인 Gemini 챗봇이라고 할 수 있습니다.

이 간단한 챗봇 플로우는 다음으로 구성됩니다:

• 채팅 입력: 사용자가 채팅에 보내는 메시지를 나타냅니다.
• 채팅 기록: 챗봇이 이전 응답을 기억하고 반영할 수 있도록 합니다.
• 채팅 출력: 챗봇의 최종 응답을 나타냅니다.
• AI Agent: 응답을 생성하는 자율형 AI 에이전트입니다.
• LLM Gemini: Google의 텍스트 생성 모델과의 연결부입니다.