LLM Güvenliği
LLM güvenliği, büyük dil modeli dağıtımlarını prompt enjeksiyonu, jailbreaking, veri sızdırma, RAG zehirlenmesi ve model kötüye kullanımı gibi yapay zekaya özgü...
4 dakika okuma
LLM Security
AI Security
+3
Özel Korkuluk bileşeni, bir yapay zeka iş akışında akıllı bir filtre olarak çalışır ve kullanıcı girdisinin iş akışını tasarlayan kişinin belirlediği özel kriterlere uygun olmasını sağlar. Bu bileşen, özelleştirilebilir bir istem ile birlikte bir dil modeli (LLM) kullanarak görüşme veya veri akışını doğrular ve kontrol eder.
Bileşen Ne Yapar?
Temelde, Özel Korkuluk kullanıcı girdileri için bir bekçi görevi görür. LLM’ye hangi içeriğin kabul edilebilir olduğunu bildiren bir istem (“Korkuluk İstemi”) kullanılır. Örneğin, varsayılan istem konuşmaları yalnızca spor konularıyla sınırlandırır ve ilgisiz ya da anlamsız (saçma) girdileri engeller. Bu mekanizma, yapay zeka iş akışının odaklanmış kalmasını ve amaç dışına çıkmamasını sağlar.
Nasıl Çalışır?
- Bileşen bir girdi metni alır (genellikle bir kullanıcı mesajı).
- Bu girdiyi, korkuluk istemiyle birlikte seçilen LLM’ye gönderir.
- LLM, girdiyi isteme göre değerlendirir ve kriterleri karşılayıp karşılamadığını belirler.
- Sonuca bağlı olarak, bileşen mesajı iki yoldan birine iletir: kabul edilen (true) veya reddedilen (false).
Girdiler
| Adı | Tipi | Açıklama |
|---|---|---|
| LLM | HandleInput | Korkuluğu değerlendirmek ve uygulamak için kullanılan dil modeli. |
| Korkuluk İstemi | PromptInput | LLM’ye hangi içeriğe izin verileceğini belirten talimat. |
| Girdi Metni | Mesaj | Doğrulanacak olan kullanıcının mesajı veya içeriği. |
- LLM: Korkuluk uygulayıcınız olarak kullanmak istediğiniz modeli seçin. İhtiyaçlarınıza uygun farklı LLM’leri kullanma esnekliği sunar.
- Korkuluk İstemi: Korkuluğunuzun ne kadar sıkı veya esnek olacağını istemi düzenleyerek özelleştirin.
- Girdi Metni: Doğrulanması gereken gerçek metin.
Çıktılar
| Adı | Tipi | Açıklama |
|---|---|---|
| Doğru Yol | Mesaj | Girdi metni korkuluk kontrolünden geçerse (yani kriterlere uyarsa) çıkan sonuç. |
| Yanlış Yol | Mesaj | Girdi metni kriterleri karşılamaz ve filtrelenir/reddedilirse çıkan sonuç. |
- Doğru Yol: Girdi korkuluğa uyuyorsa, bu çıktıyla sonraki işlemlere iletilir.
- Yanlış Yol: Girdi konu dışıysa veya kontrolü geçemezse, bu çıktıya yönlendirilir ve farklı şekilde ele alabilirsiniz (ör. uyarı göndermek veya açıklama istemek gibi).
Neden Bu Bileşeni Kullanmalısınız?
- Kalite Kontrolü: Yapay zeka uygulamalarınızda katı konu sınırları veya içerik kuralları uygulayın.
- Güvenlik ve Alaka: Yapay zekanın konu dışı, alakasız veya uygunsuz içeriklere yanıt vermesini önleyin.
- Özelleştirilebilir Uygulama: Korkuluk istemini kolayca değişen gereksinimlere veya politikalara göre düzenleyin.
- Sorunsuz Entegrasyon: Çeşitli LLM’lerle çalışır ve iş akışınızda esnek giriş/çıkış yönlendirmelerini destekler.
Kullanım Alanları
- Sohbet botlarının konu dışına çıkmadan moderasyonu (ör. müşteri desteği, eğitim botları).
- Kullanıcı tarafından oluşturulan içeriklerin işlenmeden veya depolanmadan önce filtrelenmesi.
- Otomatik yapay zeka etkileşimlerinde uyumluluk veya yasal gereksinimlerin sağlanması.
- Saçma veya istenmeyen girdilerin iş akışlarını bozmasını önleme.
Özel Korkuluk bileşenini yapay zeka iş akışınıza entegre ederek, hangi içeriğin kabul edileceği üzerinde ayrıntılı kontrol elde edersiniz; böylece yapay zeka sisteminizin amaçlandığı gibi çalışmasını ve güvenilir, alakalı sonuçlar sunmasını sağlarsınız.
