LLM Meta AI

LLM Meta AI bileşeni nedir?

LLM Meta AI bileşeni, Claude model ailesini Flow’unuza bağlar. Gerçek sihrin gerçekleştiği yer olan Üreticiler ve Ajanlar’da, LLM bileşenleri kullanılan modeli kontrol etmenizi sağlar. Tüm bileşenler varsayılan olarak ChatGPT-4 ile gelir. Modeli değiştirmek veya üzerinde daha fazla kontrol elde etmek isterseniz, bu bileşeni bağlayabilirsiniz.

Bir LLM Bileşeni bağlamanın isteğe bağlı olduğunu unutmayın. LLM kullanan tüm bileşenler varsayılan olarak ChatGPT-4o ile gelir. LLM bileşenleri, modeli değiştirmenizi ve model ayarlarını kontrol etmenizi sağlar.

LLM Meta AI Bileşeni Ayarları

Maksimum Token

Tokenlar, modelin işlediği ve ürettiği metnin bireysel birimlerini temsil eder. Token kullanımı modellere göre değişir ve bir token, kelimelerden veya alt kelime birimlerinden tek bir karaktere kadar herhangi bir şey olabilir. Modeller genellikle milyonlarca token üzerinden fiyatlandırılır.

Maksimum token ayarı, tek bir etkileşimde veya istekte işlenebilecek toplam token sayısını sınırlar ve yanıtların makul sınırlar içinde üretilmesini sağlar. Varsayılan sınır 4.000 tokendir; bu, belgeleri ve birkaç kaynağı özetleyerek yanıt üretmek için en uygun boyuttur.

Sıcaklık

Sıcaklık, yanıtların çeşitliliğini 0 ile 1 arasında kontrol eder.

0.1 sıcaklık, yanıtları çok kısa ve öz ama muhtemelen tekrarlayıcı ve yetersiz yapar.

1 gibi yüksek bir sıcaklık, yanıtlarda maksimum yaratıcılığa olanak tanır, ancak alakasız veya hatta hayali yanıtlar üretme riski taşır.

Örneğin, bir müşteri hizmetleri botu için önerilen sıcaklık 0.2 ile 0.5 arasında olmalıdır. Bu seviye, yanıtların hem alakalı hem de doğal bir çeşitlilikle olmasını sağlar.

Model

Bu, model seçme alanıdır. Burada Meta AI’nın desteklenen tüm modellerini bulabilirsiniz. Meta’nın açık kaynak, hafif Llama modellerini destekliyoruz. Bu modeller, verimli cihaz üzerinde ve edge dağıtımlar için tasarlanmıştır:

• Llama 3.2 1B – 1B modeli yaklaşık 1,23 milyar parametre içerir ve 128.000 token’a kadar bağlam uzunluğuna sahiptir. Model, özetleme, yönerge takibi ve yeniden yazma gibi görevler için optimize edilmiştir ve mobil ve gömülü cihaz uygulamaları için uygundur. Bu model ve nasıl çalıştığı hakkında daha fazla bilgiyi bu makalede bulabilirsiniz.
• Llama 3.2. 3B – 3B modeli yaklaşık 3,21 milyar parametreye ve 128.000 token’a kadar bağlam uzunluğuna sahiptir. Bu modelin çeşitli görevleri nasıl ele aldığını öğrenin.

LLM Meta AI Bileşeni Akışınıza Nasıl Eklenir

Tüm LLM bileşenlerinin yalnızca bir çıkış tutamacına sahip olduğunu göreceksiniz. Girdi, bileşenden geçmez; çünkü bileşen yalnızca modeli temsil eder, asıl üretim AI Ajanları ve Üreticilerde gerçekleşir.

LLM tutamacı her zaman mordur. LLM giriş tutamacı, metin üretmek veya veri işlemek için AI kullanan herhangi bir bileşende bulunur. Tutamağa tıklayarak seçenekleri görebilirsiniz:

Bu, her türlü aracı oluşturmanıza olanak tanır. Şimdi bileşeni uygulamada görelim. İşte Meta AI’nın Llama 3.2 1B’sini yanıt üretmek için kullanan basit bir AI Ajan sohbet botu akışı. Bunu temel bir Llama sohbet botu olarak düşünebilirsiniz.

Bu basit Sohbet Botu Akışı şunları içerir:

• Sohbet girişi: Kullanıcının sohbete gönderdiği mesajı temsil eder.
• Sohbet geçmişi: Sohbet botunun geçmiş yanıtları hatırlamasını ve dikkate almasını sağlar.
• Sohbet çıkışı: Sohbet botunun son yanıtını temsil eder.
• AI Ajanı: Yanıtları otomatik olarak üreten bir yapay zeka ajanı.
• LLM Meta AI: Meta’nın metin üretim modellerine bağlantı sağlar.