LLM OpenAI

LLM Open AI bileşeni nedir?

LLM OpenAI bileşeni, ChatGPT modellerini akışınıza bağlar. Asıl sihrin gerçekleştiği yer olan Generatorlar ve Agentlerdir; LLM bileşenleri ise kullanılan model üzerinde kontrol sağlar. Tüm bileşenler varsayılan olarak ChatGPT-4 ile gelir. Modeli değiştirmek ya da üzerinde daha fazla kontrol sahibi olmak isterseniz bu bileşeni bağlayabilirsiniz.

LLM OpenAI Bileşen Ayarları

Model Adı

Burası model seçicisidir. Burada FlowHunt’ın desteklediği tüm OpenAI modellerini bulacaksınız. ChatGPT, farklı yetenek ve fiyatlara sahip tam bir model listesi sunar. Örneğin, daha az gelişmiş ve eski olan GPT-3.5’i kullanmak, en yeni 4o’ya göre daha uyguna mal olur; ancak çıktı kalitesi ve hızı daha düşük olur.

FlowHunt’ta mevcut OpenAI modelleri:

• GPT-4o – OpenAI’nin en yeni ve en popüler modeli. Metin, görsel ve ses işleyebilen, internette arama yapabilen çok modlu bir model. Daha fazla bilgi edinin.
• GPT-4o Mini – GPT-4o’nun daha küçük, uygun maliyetli versiyonu; 128K bağlam penceresi ve %60’tan fazla maliyet avantajı ile GPT-3.5 Turbo’dan üstün performans sunar. Görevlerle nasıl başa çıktığını görün.
• o1 Mini – o1 modelinin sadeleştirilmiş versiyonu; karmaşık akıl yürütme görevlerinde performans ve verimlilik dengesi sunar. Testlerimizde nasıl sonuç verdiğini inceleyin.
• o1 Preview – Gelişmiş akıl yürütme yeteneklerine sahip, özellikle kodlama ve bilimsel akıl yürütmede başarılı önizleme modeli. Nasıl düşündüğünü ve görevleri nasıl ele aldığını keşfedin.
• gpt-4-vision-preview – Hem metin hem görsel girişi kabul eden, JSON modu ve paralel fonksiyon çağrısı gibi özellikleri destekleyen, çok modlu etkileşim kabiliyetlerini geliştiren önizleme modeli. Daha fazla bilgi edinin.
• GPT-3.5 Turbo – GPT’nin eski bir versiyonu; basit görevler için idealdir ve bütçenizi zorlamaz. Yeni modellerle karşılaştırmak için AI Agent testimize bakın.

Doğru modeli seçerken, görevin gerektirdiği kalite ve hızı göz önünde bulundurun. Eski modeller, basit toplu işler ve sohbetler için tasarruf sağlayabilir. İçerik üretmek veya internette arama yapmak istiyorsanız, daha yeni ve rafine bir modeli seçmenizi öneririz.

Maksimum Token

Tokenlar, modelin işlediği ve ürettiği metnin bireysel birimleridir. Token kullanımı modellere göre değişir ve bir token bir kelime, alt-kelime ya da tek karakter olabilir. Modeller genellikle milyonlarca token üzerinden fiyatlandırılır.

Maksimum token ayarı, tek bir etkileşimde veya istekte işlenebilecek toplam token sayısını sınırlar ve yanıtların makul çerçevede kalmasını sağlar. Varsayılan sınır 4.000 tokendir; bu, belgelerin ve birden fazla kaynağın özetlenip yanıt üretilmesi için ideal boyuttur.

Sıcaklık (Temperature)

Sıcaklık, cevapların çeşitliliğini 0 ile 1 arasında kontrol eder.

0,1 sıcaklık değeri, yanıtları çok nokta atışı ancak tekrarlı ve eksik yapabilir.

1 gibi yüksek bir sıcaklık, cevaplarda maksimum yaratıcılık sağlar fakat alakasız veya hayali yanıtlar üretme riski taşır.

Örneğin, bir müşteri hizmetleri botu için önerilen sıcaklık 0,2 ile 0,5 arasındadır. Bu seviyede yanıtlar hem alakalı ve senaryoya bağlı olur hem de doğal çeşitlilik gösterir.

LLM OpenAI Bileşeni Akışınıza Nasıl Eklenir

Tüm LLM bileşenlerinde yalnızca bir çıktı bağlantısı olduğunu göreceksiniz. Girdi, bileşenden geçmez; çünkü bileşen sadece modeli temsil eder, asıl üretim işlemi ise AI Agentlar ve Generatorlarda gerçekleşir.

LLM bağlantısı her zaman mor renktedir. LLM giriş bağlantısı, yapay zeka ile metin üreten veya veri işleyen herhangi bir bileşende bulunur. Bağlantıya tıklayarak seçenekleri görebilirsiniz:

Bu sayede her türlü aracı oluşturabilirsiniz. Şimdi bileşenin nasıl çalıştığını görelim. İşte yanıtları üretmek için o1 Preview kullanan basit bir Agent tabanlı sohbet botu akışı. Bunu temel bir ChatGPT sohbet botu olarak düşünebilirsiniz.

Bu basit Sohbet Botu Akışı şunları içerir:

• Sohbet girişi: Kullanıcının sohbette gönderdiği mesajı temsil eder.
• Sohbet geçmişi: Sohbet botunun önceki yanıtları hatırlamasını ve dikkate almasını sağlar.
• Sohbet çıktısı: Sohbet botunun son yanıtını temsil eder.
• AI Agent: Yanıtları üreten otonom yapay zeka ajanı.
• LLM OpenAI: OpenAI’nin metin üretme modellerine bağlantı.