التعلم بعدد قليل من الأمثلة

ما هو التعلم بعدد قليل من الأمثلة؟

التعلم بعدد قليل من الأمثلة هو نهج في تعلم الآلة يمكّن النماذج من إجراء تنبؤات دقيقة باستخدام عدد صغير فقط من الأمثلة المعنونة. وعلى عكس طرق التعلم الخاضع للإشراف التقليدية التي تتطلب كميات كبيرة من البيانات المعنونة للتدريب، يركّز التعلم بعدد قليل من الأمثلة على تدريب النماذج لتعميم النتائج من بيانات محدودة. الهدف هو تطوير خوارزميات تعلم يمكنها تعلّم مفاهيم أو مهام جديدة بكفاءة من خلال عدد قليل فقط من الحالات، بشكل مشابه لقدرات التعلم البشرية.

في سياق تعلم الآلة، يشير مصطلح “few-shot” إلى عدد أمثلة التدريب لكل فئة. على سبيل المثال:

• التعلم من مثال واحد (One-Shot Learning): يتعلم النموذج من مثال واحد فقط لكل فئة.
• التعلم بعدد قليل من الأمثلة (Few-Shot Learning): يتعلم النموذج من عدد صغير (عادة بين 2 إلى 5) من الأمثلة لكل فئة.

يقع التعلم بعدد قليل من الأمثلة ضمن الفئة الأوسع من تعلم n-shot، حيث يمثّل n عدد أمثلة التدريب لكل فئة. وهو مرتبط ارتباطًا وثيقًا بـ التعلم الفوقي، المعروف أيضًا بـ “التعلم من أجل التعلم”، حيث يتم تدريب النموذج على مجموعة متنوعة من المهام ويتعلم التكيّف السريع مع مهام جديدة باستخدام بيانات محدودة.

كيف يُستخدم التعلم بعدد قليل من الأمثلة؟

يُستخدم التعلم بعدد قليل من الأمثلة بشكل أساسي في الحالات التي يكون فيها الحصول على مجموعة بيانات معنونة ضخمة أمرًا غير عملي أو مستحيل. قد يحدث ذلك للأسباب التالية:

• ندرة البيانات: أحداث نادرة، صور لمنتجات جديدة، نوايا مستخدمين فريدة، أو حالات طبية غير شائعة.
• ارتفاع تكلفة العنونة: يتطلب عنونة البيانات معرفة خبراء أو استثمارًا كبيرًا في الوقت.
• مخاوف الخصوصية: تقيّد القوانين مشاركة أو جمع البيانات لأسباب تتعلق بالخصوصية.

وللتعامل مع هذه التحديات، يستفيد التعلم بعدد قليل من الأمثلة من المعرفة السابقة واستراتيجيات التعلم التي تتيح للنماذج إجراء تنبؤات موثوقة من بيانات قليلة.

المناهج الأساسية في التعلم بعدد قليل من الأمثلة

تم تطوير عدة منهجيات لتطبيق التعلم بعدد قليل من الأمثلة بفعالية:

1. التعلم الفوقي (التعلم من أجل التعلم)
2. التعلم الانتقالي
3. توسيع البيانات
4. تعلم المقاييس

1. التعلم الفوقي (التعلم من أجل التعلم)

يتضمن التعلم الفوقي تدريب النماذج على مجموعة متنوعة من المهام بحيث يمكنها تعلّم مهام جديدة بسرعة من خلال كمية صغيرة من البيانات. يكتسب النموذج فهماً على مستوى أعلى حول كيفية التعلم، مما يمكّنه من التكيّف السريع باستخدام أمثلة قليلة.

المفاهيم الأساسية:

• الحلقات (Episodes): يُنظّم التدريب على شكل حلقات، كل منها يحاكي مهمة تعلم بعدد قليل من الأمثلة.
• مجموعة الدعم (Support Set): مجموعة بيانات معنونة صغيرة يستخدمها النموذج للتعلم.
• مجموعة الاستعلام (Query Set): مجموعة بيانات يتنبأ النموذج عليها بعد التعلم من مجموعة الدعم.

خوارزميات التعلم الفوقي الشائعة:

• التعلم الفوقي غير المعتمد على النموذج (MAML): يدرب معلمات النموذج بحيث تؤدي عدد قليل من تحديثات الانحدار إلى تعميم جيد على المهام الجديدة.
• الشبكات النموذجية (Prototypical Networks): يتعلم فضاء مقاييس يمكن التصنيف فيه بحساب المسافات إلى تمثيلات كل فئة.
• شبكات المطابقة (Matching Networks): تستخدم آليات الانتباه على التضمين المتعلم من مجموعة الدعم لإجراء التنبؤات.

مثال على الاستخدام:

في معالجة اللغة الطبيعية، قد يحتاج روبوت دردشة إلى فهم نوايا مستخدمين جديدة لم تكن موجودة أثناء التدريب الأولي. باستخدام التعلم الفوقي، يمكن للروبوت التكيّف بسرعة للتعرف على هذه النوايا والرد عليها بعد تزويده بعدد قليل من الأمثلة فقط.

2. التعلم الانتقالي

يستفيد التعلم الانتقالي من المعرفة المكتسبة من مهمة ما لتحسين التعلم في مهمة أخرى ذات صلة ولكنها مختلفة. يتم أولاً تدريب النموذج على مجموعة بيانات ضخمة، ثم يتم تعديله (ضبطه) لأداء مهمة التعلم بعدد قليل من الأمثلة المستهدفة.

العملية:

• التدريب المسبق: تدريب النموذج على مجموعة بيانات ضخمة ومتنوعة لتعلم ميزات عامة.
• الضبط الدقيق: تكييف النموذج المدرب مسبقًا على المهمة الجديدة باستخدام البيانات المتاحة المحدودة.

المزايا:

• يقلل الحاجة إلى بيانات معنونة كثيرة للمهمة المستهدفة.
• يستفيد من التمثيلات الغنية التي تم تعلمها خلال التدريب المسبق.

مثال على الاستخدام:

في الرؤية الحاسوبية، يمكن ضبط نموذج مدرّب مسبقًا على ImageNet لتصنيف صور طبية لمرض نادر باستخدام عدد قليل فقط من الأمثلة المعنونة.

3. توسيع البيانات

يشمل توسيع البيانات توليد بيانات تدريب إضافية من مجموعة البيانات المحدودة الموجودة. ويساعد ذلك على منع الإفراط في التكيّف وتحسين قدرة النموذج على التعميم.

التقنيات:

• تحويلات الصور: تدوير، تغيير الحجم، قلب، واقتصاص الصور.
• توليد بيانات اصطناعية: استخدام نماذج توليدية مثل الشبكات التوليدية المتضادة (GANs) لإنشاء عينات بيانات جديدة.
• Mixup وCutMix: دمج أزواج من الأمثلة لإنشاء عينات تدريبية جديدة.

مثال على الاستخدام:

في التعرف على الكلام، يمكن توسيع عدد قليل من العينات الصوتية بإضافة ضوضاء خلفية أو تغيير درجة الصوت أو سرعة التسجيل لإنشاء مجموعة تدريبية أكثر قوة.

4. تعلم المقاييس

يركز تعلم المقاييس على تعلم دالة مسافة تقيس مدى تشابه أو اختلاف نقطتي بيانات. يتعلم النموذج تمثيل البيانات في فضاء تضمين بحيث تكون العناصر المتشابهة قريبة من بعضها البعض.

النهج:

• الشبكات التوأمية (Siamese Networks): تستخدم شبكتين متطابقتين لحساب تضمينات أزواج المدخلات وقياس المسافة بينهما.
• خسارة الثلاثي (Triplet Loss): تضمن أن يكون العنصر الأساسي أقرب إلى المثال الإيجابي من المثال السلبي بهامش معين.
• التعلم التبايني (Contrastive Learning): يتعلم التضمينات من خلال تمييز الأزواج المتشابهة والمختلفة.

مثال على الاستخدام:

في التعرف على الوجوه، يمكّن تعلم المقاييس النموذج من التحقق مما إذا كانت صورتان تعودان لنفس الشخص بناءً على التضمينات المتعلمة.

الأبحاث حول التعلم بعدد قليل من الأمثلة

التعلم بعدد قليل من الأمثلة هو مجال سريع التطور في تعلم الآلة يعالج تحدي تدريب النماذج باستخدام كمية محدودة من البيانات المعنونة. تستعرض هذه الفقرة عدة أوراق علمية رئيسية تساهم في فهم وتطوير منهجيات التعلم بعدد قليل من الأمثلة.

أوراق علمية رئيسية

1. النقل الأمثل العميق: خوارزمية عملية لاستعادة الصور الواقعية

   • المؤلفون: ثيو أدراي، جاي أوهايون، تومر ميخائيلي، مايكل إلاد
   • الملخص: تقدم هذه الورقة خوارزمية مبتكرة لاستعادة الصور تعتمد على مبادئ التعلم بعدد قليل من الأمثلة. باستخدام مجموعة صغيرة من الصور، تعزز الخوارزمية الجودة الإدراكية أو متوسط الخطأ التربيعي للنماذج المدربة مسبقًا دون تدريب إضافي. وتعتمد الطريقة على نظرية النقل الأمثل، حيث يتم مواءمة توزيع المخرجات مع بيانات المصدر من خلال تحويل خطي في الفضاء الكامن لمشفّر-مفكك التباين. تظهر النتائج تحسنًا في الجودة الإدراكية وتقترح طريقة استيفاء لتحقيق التوازن بين الجودة الإدراكية ومتوسط الخطأ التربيعي في الصور المستعادة.
   • اقرأ المزيد

2. استراتيجيات الانحراف الأدنى للتعلم الآلي والتعرف مع عينات تدريبية قصيرة

   • المؤلفون: ميخايل شليزنجر، يفغيني فودولازسكي
   • الملخص: تتناول هذه الدراسة تحديات العينات التدريبية الصغيرة في تعلم الآلة. تنتقد القيود في استراتيجيات التعلم بالاحتمالية القصوى والتعلم الأدنى وتقدم مفهوم تعلم الانحراف الأدنى. يهدف هذا النهج الجديد إلى تجاوز أوجه القصور في الأساليب القائمة، ويقدم بديلاً قويًا لسيناريوهات التعلم بعدد قليل من الأمثلة.
   • اقرأ المزيد

3. بعض الرؤى حول أنظمة التعلم التعزيزي المستمر

   • المؤلفون: تشانغجيان لي
   • الملخص: رغم تركيز هذه الورقة على أنظمة التعلم مدى الحياة، إلا أنها تقدم رؤى قابلة للتطبيق في التعلم بعدد قليل من الأمثلة من خلال تسليط الضوء على قصور الأنماط التقليدية للتعلم التعزيزي. وتقترح أن الأنظمة التي تتعلم باستمرار من خلال التفاعل يمكن أن تقدم رؤى قيمة لتطوير نماذج التعلم بعدد قليل من الأمثلة.
   • اقرأ المزيد

4. Dex: التعلم التزايدي للبيئات المعقدة في التعلم التعزيزي العميق

   • المؤلفون: نيك إريكسون، تشي تشاو
   • الملخص: يُقدّم إطار Dex لتدريب وتقييم طرق التعلم المستمر، مع التركيز على التعلم التزايدي. يمكن اعتبار هذا النهج شكلاً من أشكال التعلم بعدد قليل من الأمثلة، حيث يتم اشتقاق تهيئة الأوزان المثلى من حل بيئات أبسط. وتُظهر الورقة كيف يمكن للتعلم التزايدي أن يتفوق بشكل كبير على الأساليب التقليدية في سيناريوهات التعلم التعزيزي المعقدة.
   • اقرأ المزيد

5. التعلم التقليدي Q المعزز (AQIL)

   • المؤلفون: شياو لي تشانغ، أنيش أغاروال
   • الملخص: تستكشف هذه الورقة تقاطع التعلم بالتقليد والتعلم التعزيزي، وهما مجالان مرتبطان ارتباطًا وثيقًا بالتعلم بعدد قليل من الأمثلة. يجمع AQIL بين هذين النهجين لإنشاء إطار قوي للتعلم غير الخاضع للإشراف، ويقدم رؤى حول كيفية تعزيز التعلم بعدد قليل من الأمثلة من خلال آليات التقليد والتغذية الراجعة.
   • اقرأ المزيد