يوفر مكون Custom LLM OpenAI واجهة مرنة للتفاعل مع نماذج اللغة الكبيرة المتوافقة مع واجهة OpenAI API. يشمل ذلك النماذج الصادرة من OpenAI بالإضافة إلى مقدمي الخدمة البديلة مثل JinaChat وLocalAI وPrem. تم تصميم هذا المكون ليكون عالي القابلية للتخصيص، مما يجعله مناسبًا لمجموعة متنوعة من سيناريوهات سير عمل الذكاء الاصطناعي التي تتطلب معالجة اللغة الطبيعية.

الهدف والوظائف

يعمل هذا المكون كجسر بين سير عمل الذكاء الاصطناعي لديك ونماذج اللغة التي تتبع معيار OpenAI API. من خلال السماح لك بتحديد مزود النموذج ونقطة النهاية والمعلمات الأخرى، يمكنك توليد النصوص أو معالجتها أو المحادثة أو أي مخرجات لغوية أخرى داخل سير عملك. سواء كنت تحتاج إلى تلخيص محتوى أو الإجابة على الأسئلة أو توليد نصوص إبداعية أو تنفيذ مهام معالجة لغة طبيعية أخرى، يمكن تكييف هذا المكون حسب احتياجاتك.

الإعدادات

يمكنك التحكم في سلوك المكون من خلال عدة معلمات:

ملاحظة: جميع خيارات التكوين هذه تعتبر إعدادات متقدمة، وتمنحك تحكمًا دقيقًا في سلوك النموذج وتكامله.

المدخلات والمخرجات

• المدخلات:
  لا توجد مقابض إدخال لهذا المكون.

• المخرجات:

  • ينتج كائنًا من نوع BaseChatModel، والذي يمكن استخدامه في المكونات التالية ضمن سير عملك لمزيد من المعالجة أو التفاعل.

لماذا تستخدم هذا المكون؟

• مرونة: ربط أي نموذج لغوي متوافق مع OpenAI، بما في ذلك النماذج من أطراف ثالثة أو منشورة محليًا.
• قابلية التخصيص: ضبط معلمات مثل حد التوكنات، والعشوائية (درجة الحرارة)، والتخزين المؤقت لتناسب حالتك.
• قابلية التوسع: مناسب لتطبيقات مثل روبوتات الدردشة، وتوليد المحتوى، والتلخيص، وتوليد الشيفرات البرمجية، وأكثر.
• الكفاءة: التخزين المؤقت المدمج يساعد على تجنب الاستعلامات المكررة وإدارة تكاليف استخدام API بشكل فعال.

أمثلة على حالات الاستخدام

• نشر روبوت دردشة باستخدام نسخة محلية من نموذج لغوي متوافق مع OpenAI.
• توليد ملخصات أو محتوى إبداعي باستخدام JinaChat أو LocalAI أو نقطة نهاية API مخصصة.
• دمج تحليل نصي يعتمد على LLM ضمن سير عمل ذكاء اصطناعي أوسع، وربط المخرجات بمكونات معالجة لاحقة.

جدول ملخص

هذا المكون مثالي لكل من يبحث عن دمج قدرات LLM مرنة وقوية وقابلة للتخصيص في تدفقات عمل الذكاء الاصطناعي الخاصة به، سواء كنت تستخدم OpenAI مباشرة أو مزودًا بديلاً.