RAG مع نماذج LLM الاستدلالية: OpenAI O1 مقابل OpenAI GPT4o

أطلقت OpenAI مؤخراً نموذجاً جديداً يسمى OpenAI O1 من سلسلة نماذج O1. التغيير المعماري الرئيسي في هذه النماذج هو القدرة على التفكير قبل الإجابة على استفسار المستخدم. في هذه المدونة، سنتعمق في التغييرات الأساسية في OpenAI O1، والنماذج الجديدة التي تعتمدها هذه السلسلة، وكيف يمكن لهذا النموذج أن يزيد دقة RAG بشكل كبير. سنقارن بين تدفق RAG بسيط باستخدام نموذج OpenAI GPT4o ونموذج OpenAI O1.

كيف يختلف OpenAI O1 عن النماذج السابقة؟

تعلم التعزيز واسع النطاق

يعتمد نموذج O1 على خوارزميات تعلم التعزيز واسعة النطاق أثناء عملية تدريبه. يتيح ذلك للنموذج تطوير “سلسلة أفكار” قوية، مما يسمح له بالتفكير بشكل أعمق وأكثر استراتيجية في حل المشكلات. ومن خلال تحسين مسارات الاستدلال باستمرار عبر تعلم التعزيز، يعزز النموذج قدرته على تحليل المهام المعقدة وحلها بكفاءة عالية.

دمج التفكير المتسلسل

في السابق، كان التفكير المتسلسل آلية فعّالة في هندسة برمجة الإرشادات لجعل نموذج اللغة “يفكر” ذاتياً ويجيب على الأسئلة المعقدة عبر خطة خطوة بخطوة. مع نماذج O1، أصبحت هذه الخطوة مدمجة افتراضياً في النموذج أثناء وقت الاستدلال، مما يجعلها مفيدة في حل مشكلات الرياضيات والبرمجة.

تم تدريب O1 باستخدام تعلم التعزيز ليقوم بـ"التفكير" قبل الرد عبر سلسلة أفكار خاصة. كلما زاد وقت التفكير، زادت كفاءته في مهام الاستدلال. هذا يفتح بعداً جديداً للتوسّع. لم نعد مقيدين بالتدريب المسبق. يمكننا الآن توسيع حسابات الاستدلال أيضاً. pic.twitter.com/niqRO9hhg1
— Noam Brown (@polynoamial) 12 سبتمبر 2024

أداء متفوق في معايير الأداء

في تقييمات موسعة، أظهر نموذج O1 أداءً مذهلاً عبر معايير متعددة:

• AIME (مسابقة الرياضيات الأمريكية): يحل 83% من المسائل بشكل صحيح، وهو تحسن كبير مقارنة بـ 13% لـ GPT-4o.
• GPQA (اختبار خبراء العلوم): يتفوق على خبراء بمستوى الدكتوراه، ليصبح أول نموذج ذكاء اصطناعي يتفوق على البشر في هذا المعيار.
• MMLU (فهم اللغة متعدد المهام): يتفوق في 54 من أصل 57 فئة فرعية، محققاً أداء 78.2% مع تمكين الإدراك البصري.
• مسابقات البرمجة: يحقق تصنيفات عالية في منصات مثل Codeforces، متفوقاً على 93% من المتنافسين البشر.

مقارنة OpenAI O1 مع OpenAI GPT4o في تدفق RAG

لاختبار دقة الأداء بين OpenAI O1 وGPT4o، أنشأنا تدفقين متطابقين مع اختلاف النموذج المستخدم فقط. سنقارن قدرة النماذج على الإجابة عن الأسئلة باستخدام مصدرين تمت فهرستهما حول التقرير الفني لـ OpenAI O1.

أولاً، سنبني تدفق RAG بسيط في FlowHunt. يتكوّن من إدخال محادثة، مسترجع مستندات (يسترجع الوثائق الملائمة)، إرشاد، مولد، وإخراج المحادثة. تتم إضافة مكون OpenAI LLM لتحديد النموذج (وإلا يُستخدم GPT4o افتراضياً).

إليكم استجابة GPT4o:

وهذه نتيجة OpenAI O1:

كما تلاحظ، استخلص OpenAI O1 المزيد من المزايا المعمارية من المقال نفسه—6 نقاط مقابل 4 فقط. بالإضافة إلى ذلك، يقوم O1 باستنتاجات منطقية من كل نقطة، مضيفاً رؤى أعمق حول فائدة التغيير المعماري.

هل أنت مستعد لتنمية عملك؟

ابدأ تجربتك المجانية اليوم وشاهد النتائج في غضون أيام.

طلب عرض توضيحي تسجيل الدخول

هل يستحق نموذج OpenAI O1 الاستثمار؟

من خلال تجاربنا، سيكلّف نموذج O1 أكثر مقابل دقة أعلى. يحتوي النموذج الجديد على 3 أنواع من الرموز: Prompt Token، Completion Token، وReason Token (نوع تم إضافته حديثاً)، مما يجعله نموذجاً أكثر تكلفة على الأرجح. في معظم الحالات، يقدم OpenAI O1 إجابات تبدو أكثر فائدة إذا كانت مستندة للحقيقة. ومع ذلك، هناك بعض الحالات التي يتفوق فيها GPT4o على OpenAI O1—فبعض المهام ببساطة لا تحتاج إلى استدلال.