سياق LLM
عزز تطويرك بمساعدة الذكاء الاصطناعي من خلال دمج سياق LLM من FlowHunt. قم بحقن سياق الكود والوثائق ذات الصلة بسلاسة في واجهات الدردشة الخاصة بنماذج اللغة الكبيرة...
5 دقيقة قراءة
AI
LLM
+4
يوفر مكون Custom LLM OpenAI واجهة مرنة للتفاعل مع نماذج اللغة الكبيرة المتوافقة مع واجهة OpenAI API. يشمل ذلك النماذج الصادرة من OpenAI بالإضافة إلى مقدمي الخدمة البديلة مثل JinaChat وLocalAI وPrem. تم تصميم هذا المكون ليكون عالي القابلية للتخصيص، مما يجعله مناسبًا لمجموعة متنوعة من سيناريوهات سير عمل الذكاء الاصطناعي التي تتطلب معالجة اللغة الطبيعية.
الهدف والوظائف
يعمل هذا المكون كجسر بين سير عمل الذكاء الاصطناعي لديك ونماذج اللغة التي تتبع معيار OpenAI API. من خلال السماح لك بتحديد مزود النموذج ونقطة النهاية والمعلمات الأخرى، يمكنك توليد النصوص أو معالجتها أو المحادثة أو أي مخرجات لغوية أخرى داخل سير عملك. سواء كنت تحتاج إلى تلخيص محتوى أو الإجابة على الأسئلة أو توليد نصوص إبداعية أو تنفيذ مهام معالجة لغة طبيعية أخرى، يمكن تكييف هذا المكون حسب احتياجاتك.
الإعدادات
يمكنك التحكم في سلوك المكون من خلال عدة معلمات:
| المعامل | النوع | مطلوب | الافتراضي | الوصف |
|---|---|---|---|---|
| الحد الأقصى للتوكنات | int | لا | 3000 | يحدد الحد الأقصى لطول النص الناتج. |
| اسم النموذج | string | لا | (فارغ) | تحديد اسم النموذج الدقيق المراد استخدامه (مثال: gpt-3.5-turbo). |
| قاعدة OpenAI API | string | لا | (فارغ) | يتيح لك تعيين نقطة نهاية API مخصصة (مثل JinaChat أو LocalAI أو Prem). الافتراضي OpenAI إذا تُرك فارغًا. |
| مفتاح API | string | نعم | (فارغ) | مفتاح API السري الخاص بك للوصول إلى مزود نموذج اللغة المختار. |
| درجة الحرارة | float | لا | 0.7 | يتحكم في إبداعية المخرجات. القيم الأقل تعني نتائج أكثر تحديدًا. النطاق من 0 إلى 1. |
| استخدام التخزين المؤقت | bool | لا | true | تمكين/تعطيل التخزين المؤقت للاستعلامات لتحسين الكفاءة وتقليل التكاليف. |
ملاحظة: جميع خيارات التكوين هذه تعتبر إعدادات متقدمة، وتمنحك تحكمًا دقيقًا في سلوك النموذج وتكامله.
المدخلات والمخرجات
المدخلات:
لا توجد مقابض إدخال لهذا المكون.المخرجات:
- ينتج كائنًا من نوع
BaseChatModel، والذي يمكن استخدامه في المكونات التالية ضمن سير عملك لمزيد من المعالجة أو التفاعل.
- ينتج كائنًا من نوع
لماذا تستخدم هذا المكون؟
- مرونة: ربط أي نموذج لغوي متوافق مع OpenAI، بما في ذلك النماذج من أطراف ثالثة أو منشورة محليًا.
- قابلية التخصيص: ضبط معلمات مثل حد التوكنات، والعشوائية (درجة الحرارة)، والتخزين المؤقت لتناسب حالتك.
- قابلية التوسع: مناسب لتطبيقات مثل روبوتات الدردشة، وتوليد المحتوى، والتلخيص، وتوليد الشيفرات البرمجية، وأكثر.
- الكفاءة: التخزين المؤقت المدمج يساعد على تجنب الاستعلامات المكررة وإدارة تكاليف استخدام API بشكل فعال.
أمثلة على حالات الاستخدام
- نشر روبوت دردشة باستخدام نسخة محلية من نموذج لغوي متوافق مع OpenAI.
- توليد ملخصات أو محتوى إبداعي باستخدام JinaChat أو LocalAI أو نقطة نهاية API مخصصة.
- دمج تحليل نصي يعتمد على LLM ضمن سير عمل ذكاء اصطناعي أوسع، وربط المخرجات بمكونات معالجة لاحقة.
جدول ملخص
| الميزة | الوصف |
|---|---|
| دعم المزودين | OpenAI، JinaChat، LocalAI، Prem، أو أي خدمة متوافقة مع OpenAI API |
| نوع الإخراج | BaseChatModel |
| نقطة نهاية API | قابلة للتكوين |
| الأمان | يتطلب مفتاح API (يُحفظ بشكل سري) |
| سهولة الاستخدام | إعدادات متقدمة للمستخدمين المحترفين، لكن القيم الافتراضية مناسبة لمعظم التطبيقات |
هذا المكون مثالي لكل من يبحث عن دمج قدرات LLM مرنة وقوية وقابلة للتخصيص في تدفقات عمل الذكاء الاصطناعي الخاصة به، سواء كنت تستخدم OpenAI مباشرة أو مزودًا بديلاً.
