LLM Gemini

LLM Gemini bileşeni nedir?

LLM Gemini bileşeni, Google’ın Gemini modellerini akışınıza bağlar. Gerçek sihrin gerçekleştiği yer olan Generator ve Agent’lar olsa da, LLM bileşenleri kullanılan modeli kontrol etmenizi sağlar. Tüm bileşenler varsayılan olarak ChatGPT-4 ile gelir. Modeli değiştirmek veya üzerinde daha fazla kontrol sahibi olmak isterseniz bu bileşeni bağlayabilirsiniz.

Bir LLM Bileşeni bağlamanın isteğe bağlı olduğunu unutmayın. Bir LLM kullanan tüm bileşenler varsayılan olarak ChatGPT-4o ile gelir. LLM bileşenleri, modeli değiştirmenize ve model ayarlarını yönetmenize olanak tanır.

LLM Gemini Bileşeni Ayarları

Max Tokens

Token’lar, modelin işlediği ve ürettiği metnin bireysel birimleridir. Kullanılan token sayısı modellere göre değişir; tek bir token bir kelime, bir alt kelime veya tek bir karakter olabilir. Modeller genellikle milyonlarca token üzerinden fiyatlandırılır.

Maksimum token ayarı, tek bir etkileşim veya istekte işlenebilecek toplam token sayısını sınırlar ve yanıtların makul sınırlar içinde üretilmesini sağlar. Varsayılan limit 4.000 token’dır; bu, belgeleri ve birden fazla kaynağı özetlemek, bir cevap oluşturmak için ideal boyuttur.

Temperature

Temperature, yanıtların çeşitliliğini 0 ile 1 arasında kontrol eder.

0.1 sıcaklık değeri, yanıtları çok net ve doğrudan yapar; ancak tekrarlı ve yetersiz olabilir.

1 gibi yüksek bir sıcaklık değeri ise yanıtların maksimum yaratıcılıkla üretilmesini sağlar; ancak, alakasız ve hatta hayali yanıtlar ortaya çıkabilir.

Örneğin, bir müşteri hizmetleri botu için önerilen sıcaklık 0.2 ile 0.5 arasındadır. Bu seviye, yanıtların hem alakalı hem de doğal değişkenlikte olmasını sağlar.

Model

Burası model seçici alanıdır. Burada, Google tarafından desteklenen tüm Gemini modellerini bulabilirsiniz. Tüm en güncel Gemini modellerini destekliyoruz:

• Gemini 2.0 Flash Experimental – Agent’lar için tasarlanmış, gelişmiş ve düşük gecikmeli bir modeldir. Yerel araç kullanımı, görsel oluşturma ve konuşma üretimi gibi yeni özelliklere sahiptir. En gelişmiş Google modelinin rutin görevleri testimizde nasıl gerçekleştirdiğini görün.
• Gemini 1.5 Flash – Hız ve verimlilik için optimize edilmiş hafif, çok modlu bir modeldir; ses, görsel, video ve metin girdilerini işleyebilir ve 1.048.576 token’a kadar bağlam penceresine sahiptir. Daha fazla bilgi edinin.
• Gemini 1.5 Flash-8B – 1.5 Flash modelinin daha küçük, hızlı ve uygun maliyetli bir varyantıdır; benzer çok modlu yetenekler sunar ve 1.5 Flash’a göre %50 daha düşük fiyat, 2 kat daha yüksek hız limiti sağlar. En zayıf modelin çıktısı ne kadar iyi? Buradan öğrenin.
• Gemini 1.5 Pro – Geniş bir akıl yürütme görev yelpazesi için optimize edilmiş orta boyutlu bir çok modlu modeldir; büyük miktarda veriyi işleyebilir, uzun ses ve video girdilerini destekler ve 2.097.152 giriş token sınırına sahiptir. Çıktı örneklerini inceleyin.

LLM Gemini Bileşenini Akışınıza Nasıl Ekleyebilirsiniz

Tüm LLM bileşenlerinin yalnızca bir çıkış noktası olduğunu göreceksiniz. Girdi, bileşenden geçmez; çünkü bileşen sadece modeli temsil eder, asıl üretim ise AI Agent ve Generator’larda gerçekleşir.

LLM bağlantı noktası her zaman mor renktedir. LLM giriş noktası, metin üretimi veya veri işleme için yapay zeka kullanan her bileşende bulunur. Seçenekleri görmek için bağlantı noktasına tıklayabilirsiniz:

Bu sayede her türlü aracı oluşturabilirsiniz. Şimdi bileşenin nasıl çalıştığını görelim. İşte Gemini 2.0 Flash Experimental kullanan basit bir AI Agent sohbet botu Akışı. Bunu temel bir Gemini sohbet botu olarak düşünebilirsiniz.

Bu basit Sohbet Botu Akışı şunları içerir:

• Sohbet girişi: Kullanıcının sohbete gönderdiği mesajı temsil eder.
• Sohbet geçmişi: Sohbet botunun önceki yanıtları hatırlamasını ve dikkate almasını sağlar.
• Sohbet çıkışı: Sohbet botunun son yanıtını temsil eder.
• AI Agent: Yanıtları üreten otonom yapay zeka agent’ı.
• LLM Gemini: Google’ın metin üretim modellerine bağlantı.