Opis komponentu
Jak działa komponent LLM xAI
Czym jest komponent LLM xAI?
Komponent LLM xAI łączy model Grok z Twoim przepływem. Choć to w Generatorach i Agentach dzieje się właściwa „magia”, to komponenty LLM pozwalają zdecydować, jaki model jest używany. Wszystkie komponenty domyślnie korzystają z ChatGPT-4. Możesz podłączyć ten komponent, jeśli chcesz zmienić model lub mieć nad nim większą kontrolę.
Pamiętaj, że podłączenie komponentu LLM jest opcjonalne. Wszystkie komponenty wykorzystujące LLM domyślnie korzystają z ChatGPT-4o. Komponenty LLM pozwalają zmienić model i kontrolować jego ustawienia.
Ustawienia komponentu LLM xAI
Maksymalna liczba tokenów
Tokeny to pojedyncze jednostki tekstu, które model przetwarza i generuje. Zużycie tokenów różni się w zależności od modelu, a pojedynczy token może oznaczać słowo, fragment słowa lub pojedynczy znak. Modele są zwykle rozliczane w milionach tokenów.
Ustawienie maksymalnej liczby tokenów ogranicza całkowitą liczbę tokenów, które mogą być przetworzone w pojedynczej interakcji lub żądaniu, gwarantując, że odpowiedzi mieszczą się w rozsądnych granicach. Domyślny limit to 4000 tokenów — to optymalny rozmiar do podsumowywania dokumentów i wielu źródeł, by wygenerować odpowiedź.
Temperatura
Temperatura kontroluje zmienność odpowiedzi, w zakresie od 0 do 1.
Temperatura 0,1 sprawi, że odpowiedzi będą bardzo konkretne, ale mogą się powtarzać lub być zbyt ubogie.
Wysoka temperatura 1 pozwala na maksymalną kreatywność w odpowiedziach, ale niesie ryzyko odpowiedzi nie na temat lub nawet „halucynacji”.
Na przykład zalecana temperatura dla chatbota obsługi klienta to między 0,2 a 0,5. Taki poziom zapewnia, że odpowiedzi pozostaną na temat i zgodne ze scenariuszem, jednocześnie pozwalając na naturalną różnorodność.
Model
To selektor modelu. Tutaj znajdziesz wszystkie obsługiwane modele od dostawcy xAI. Flagowy model tekstowy xAI nazywa się Grok. Obecnie obsługujemy tylko model grok-beta, ponieważ jest to jedyny udostępniony do publicznego API.
Chcesz dowiedzieć się więcej o Grok-beta i zobaczyć, jak wypada na tle innych modeli? Sprawdź ten artykuł.
Jak dodać LLM xAI do swojego przepływu
Zauważysz, że wszystkie komponenty LLM mają tylko wyjście. Wejście nie przechodzi przez komponent, ponieważ reprezentuje on wyłącznie model — natomiast właściwe generowanie odbywa się w AI Agentach i Generatorach.
Uchwyt LLM jest zawsze fioletowy. Uchwyt wejściowy LLM pojawia się w każdym komponencie, który używa AI do generowania tekstu lub przetwarzania danych. Opcje zobaczysz, klikając uchwyt:
Dzięki temu możesz tworzyć różnego rodzaju narzędzia. Zobaczmy komponent w akcji. Oto prosty przepływ chatbota AI, który wykorzystuje grok-beta od xAI do generowania odpowiedzi. Możesz traktować go jako podstawowego chatbota xAI.
Ten prosty przepływ chatbota obejmuje:
- Wejście czatu: Reprezentuje wiadomość wysyłaną przez użytkownika na czacie.
- Historia czatu: Pozwala chatbotowi pamiętać i uwzględniać poprzednie odpowiedzi.
- Wyjście czatu: Reprezentuje końcową odpowiedź chatbota.
- AI Agent: Autonomiczny agent AI generujący odpowiedzi.
- LLM xAI: Połączenie z modelami generowania tekstu xAI.
Najczęściej zadawane pytania
- Czym jest LLM xAI w FlowHunt?
LLM xAI to komponent FlowHunt, który pozwala połączyć i kontrolować modele generowania tekstu dostawców xAI, takie jak Grok-beta, w Twoich przepływach AI i chatbotach.
- Jakie modele xAI obsługuje FlowHunt?
Obecnie FlowHunt obsługuje model grok-beta od xAI, a kolejne modele będą dodawane, gdy tylko staną się dostępne poprzez publiczne API.
- Jakie ustawienia mogę kontrolować w komponencie LLM xAI?
Możesz dostosować maksymalną liczbę tokenów, temperaturę (zmienność odpowiedzi) oraz wybrać dostępne modele xAI, aby dopasować zachowanie chatbota lub narzędzia AI.
- Czy podłączenie komponentu LLM xAI jest wymagane dla każdego chatbota?
Nie, to opcjonalne. Domyślnie komponenty korzystają z ChatGPT-4o, ale możesz podłączyć LLM xAI, aby przełączyć się na modele xAI lub uzyskać większą kontrolę.
- Jak dodać komponent LLM xAI do mojego projektu FlowHunt?
Po prostu dodaj komponent LLM do przepływu; pełni on rolę selektora modelu. Właściwe generowanie tekstu odbywa się w AI Agentach i Generatorach połączonych z tym komponentem.
Wypróbuj LLM xAI od FlowHunt już dziś
Buduj inteligentniejsze chatboty i narzędzia AI z FlowHunt. Połącz się z topowymi modelami xAI, takimi jak Grok-beta, w elastycznym panelu bez kodowania.
Dowiedz się więcej
