LLM Gemini

Thành phần LLM Gemini là gì?

Thành phần LLM Gemini kết nối các mô hình Gemini từ Google vào luồng của bạn. Trong khi Generators và Agents là nơi diễn ra điều kỳ diệu thực sự, các thành phần LLM cho phép bạn kiểm soát mô hình được sử dụng. Tất cả các thành phần đều đi kèm ChatGPT-4 theo mặc định. Bạn có thể kết nối thành phần này nếu muốn thay đổi mô hình hoặc kiểm soát nó nhiều hơn.

Hãy nhớ rằng việc kết nối thành phần LLM là không bắt buộc. Tất cả các thành phần sử dụng LLM đều có ChatGPT-4o là mặc định. Các thành phần LLM cho phép bạn thay đổi mô hình và kiểm soát cài đặt mô hình.

Cài Đặt Thành Phần LLM Gemini

Max Tokens

Tokens đại diện cho các đơn vị văn bản riêng lẻ mà mô hình xử lý và tạo ra. Việc sử dụng token thay đổi tùy theo mô hình, và một token có thể là từ, phần của từ, hoặc chỉ một ký tự. Các mô hình thường được tính phí theo hàng triệu token.

Cài đặt max tokens giới hạn tổng số token có thể được xử lý trong một lần tương tác hoặc yêu cầu, đảm bảo các phản hồi được tạo ra trong phạm vi hợp lý. Giới hạn mặc định là 4.000 token, kích thước tối ưu để tóm tắt tài liệu và nhiều nguồn nhằm tạo câu trả lời.

Temperature

Temperature kiểm soát mức độ đa dạng của câu trả lời, nằm trong khoảng từ 0 đến 1.

Một temperature là 0.1 sẽ giúp câu trả lời rất đúng trọng tâm nhưng có thể lặp lại và thiếu sáng tạo.

Temperature cao 1 cho phép sự sáng tạo tối đa trong câu trả lời nhưng cũng có nguy cơ xuất hiện các phản hồi không liên quan hoặc “ảo giác”.

Ví dụ, temperature khuyến nghị cho bot chăm sóc khách hàng là từ 0.2 đến 0.5. Mức này sẽ giữ cho câu trả lời phù hợp và bám sát kịch bản trong khi vẫn tạo sự tự nhiên.

Model

Đây là nơi chọn mô hình. Tại đây, bạn sẽ thấy tất cả các mô hình Gemini được Google hỗ trợ. Chúng tôi hỗ trợ tất cả các mô hình Gemini mới nhất:

• Gemini 2.0 Flash Experimental – Mô hình tiên tiến, độ trễ thấp được thiết kế cho các agent. Nó có các khả năng mới như sử dụng công cụ gốc, tạo hình ảnh và tạo giọng nói. Xem mô hình Google tiên tiến nhất xử lý công việc thường ngày như thế nào trong thử nghiệm của chúng tôi.
• Gemini 1.5 Flash – Mô hình đa phương tiện nhẹ, tối ưu về tốc độ và hiệu suất, có thể xử lý âm thanh, hình ảnh, video và văn bản, với cửa sổ ngữ cảnh lên đến 1.048.576 token. Tìm hiểu thêm tại đây.
• Gemini 1.5 Flash-8B – Biến thể nhỏ hơn, nhanh hơn và tiết kiệm chi phí hơn của mô hình 1.5 Flash, cung cấp khả năng đa phương tiện tương tự với giá thấp hơn 50% và giới hạn tốc độ cao gấp đôi so với 1.5 Flash. Đầu ra của mô hình yếu nhất này tốt đến đâu? Tìm hiểu tại đây.
• Gemini 1.5 Pro – Mô hình đa phương tiện cỡ trung bình, tối ưu cho nhiều tác vụ lý luận, có khả năng xử lý lượng lớn dữ liệu, bao gồm cả âm thanh và video dài, với giới hạn token đầu vào lên đến 2.097.152. Xem ví dụ đầu ra.

Cách Thêm LLM Gemini Vào Luồng Của Bạn

Bạn sẽ thấy rằng tất cả các thành phần LLM chỉ có một đầu ra. Đầu vào không đi qua thành phần này, vì nó chỉ đại diện cho mô hình, còn quá trình tạo thực sự diễn ra ở AI Agents và Generators.

Đầu nối LLM luôn có màu tím. Đầu vào LLM xuất hiện ở bất kỳ thành phần nào sử dụng AI để tạo văn bản hoặc xử lý dữ liệu. Bạn có thể thấy các tùy chọn bằng cách nhấp vào đầu nối:

Điều này cho phép bạn tạo ra đủ loại công cụ. Hãy xem thành phần hoạt động ra sao. Đây là một Flow chatbot AI Agent đơn giản đang sử dụng Gemini 2.0 Flash Experimental để tạo phản hồi. Bạn có thể coi nó như một chatbot Gemini cơ bản.

Flow Chatbot đơn giản này bao gồm:

• Chat input: Đại diện cho tin nhắn người dùng gửi trong chat.
• Chat history: Đảm bảo chatbot có thể ghi nhớ và tính đến các phản hồi trước đó.
• Chat output: Đại diện cho phản hồi cuối cùng của chatbot.
• AI Agent: Agent AI tự động tạo các phản hồi.
• LLM Gemini: Kết nối với các mô hình tạo văn bản của Google.