خسارة اللوغاريتم (Log Loss)
خسارة اللوغاريتم، أو خسارة الانتروبيا التقاطعية، هي مقياس أساسي لتقييم أداء نماذج تعلم الآلة—خاصة في التصنيف الثنائي—من خلال قياس التباعد بين الاحتمالات المتوقع...
يتنبأ الانحدار اللوجستي بالنتائج الثنائية باستخدام الدالة اللوجستية، مع تطبيقات في الرعاية الصحية، والمالية، والتسويق، والذكاء الاصطناعي.
الانحدار اللوجستي هو طريقة إحصائية وتعلم آلي تُستخدم للتنبؤ بالنتائج الثنائية من البيانات. يقدّر احتمال حدوث حدث معين بناءً على متغير أو أكثر من المتغيرات المستقلة. المتغير الأساسي في الانحدار اللوجستي يكون ثنائيًا أو ثنائياً، أي أنه يحتوي على نتيجتين محتملتين مثل النجاح/الفشل، نعم/لا، أو 0/1.
في قلب الانحدار اللوجستي توجد الدالة اللوجستية، والمعروفة أيضًا باسم دالة S (سيغمويد). تقوم هذه الدالة بتحويل القيم المتوقعة إلى احتمالات بين 0 و1، مما يجعلها مناسبة لمهام التصنيف الثنائي. يُعبر عن صيغة الدالة اللوجستية كالتالي:
P(y=1|x) = 1 / (1 + e^-(β₀ + β₁x₁ + … + βₙxₙ))
هنا، (β₀، β₁، …، βₙ) هي المعاملات المستخلصة من البيانات، و(x₁، …، xₙ) هي المتغيرات المستقلة.
الانحدار اللوجستي الثنائي
هو النوع الأكثر شيوعًا حيث يكون للمتغير التابع نتيجتان فقط.
مثال: التنبؤ بما إذا كان البريد الإلكتروني عشوائيًا (1) أم غير عشوائي (0).
الانحدار اللوجستي المتعدد
يُستخدم عندما يكون للمتغير التابع ثلاث فئات أو أكثر غير مرتبة.
مثال: التنبؤ بنوع الفيلم مثل أكشن، كوميدي، أو دراما.
الانحدار اللوجستي المرتب
يُطبق عندما يكون للمتغير التابع فئات مرتبة.
مثال: تقييمات رضا العملاء (سيئ، مقبول، جيد، ممتاز).
الاحتمالات ولوغاريتم الاحتمالات:
يقوم الانحدار اللوجستي بنمذجة لوغاريتم الاحتمالات لحدوث الحدث التابع. تمثل الاحتمالات نسبة احتمال حدوث الحدث إلى عدم حدوثه. ولوغاريتم الاحتمالات هو اللوغاريتم الطبيعي للاحتمالات.
نسبة الاحتمالات:
هي القيمة الأسية لمعامل الانحدار اللوجستي، والتي تكمم التغير في الاحتمالات الناتج عن تغيير وحدة واحدة في المتغير المستقل مع تثبيت بقية المتغيرات.
في مجال الذكاء الاصطناعي، يُعد الانحدار اللوجستي أداة أساسية لمشكلات التصنيف الثنائي. يُستخدم كنموذج أساسي نظرًا لبساطته وفعاليته. في التطبيقات المدعومة بالذكاء الاصطناعي مثل روبوتات المحادثة، يمكن استخدام الانحدار اللوجستي لتصنيف النوايا، مثل تحديد ما إذا كان استفسار المستخدم يخص الدعم أو المبيعات أو الاستفسارات العامة.
كما أن للانحدار اللوجستي أهمية كبيرة في أتمتة الذكاء الاصطناعي، خاصة في مهام التعلم تحت الإشراف حيث يتعلم النموذج من بيانات موسومة للتنبؤ بنتائج بيانات جديدة لم تُشاهد من قبل. غالبًا ما يُستخدم مع تقنيات أخرى لمعالجة البيانات، مثل تحويل السمات التصنيفية إلى شكل ثنائي باستخدام الترميز “one-hot” لنماذج أكثر تعقيدًا كالشبكات العصبية.
يُعد الانحدار اللوجستي طريقة إحصائية أساسية للتصنيف الثنائي، وله تطبيقات واسعة في مجالات مثل اكتشاف الاحتيال، والتشخيص الطبي، وأنظمة التوصية. فيما يلي بعض الأوراق العلمية التي تقدم فهماً متعمقًا للانحدار اللوجستي:
عنوان الورقة | المؤلفون | تاريخ النشر | الملخص | الرابط |
---|---|---|---|---|
الانحدار اللوجستي كتعلم برسيبترون ناعم | Raul Rojas | 2017-08-24 | يناقش العلاقة بين الانحدار اللوجستي وخوارزمية تعلم البرسيبترون. يوضح أن التعلم اللوجستي هو في الأساس نسخة “ناعمة” من تعلم البرسيبترون، ويقدم رؤى حول ميكانيكا الانحدار اللوجستي. | اقرأ المزيد |
انحدار لوجستي آمن وفعال عبر الإنترنت قائم على مشاركة دالة سرية | Jing Liu, Jamie Cui, Cen Chen | 2023-09-18 | يتناول مخاوف الخصوصية في تدريب نماذج الانحدار اللوجستي باستخدام بيانات من أطراف مختلفة. يقدم بروتوكولًا يحافظ على الخصوصية قائمًا على مشاركة دالة سرية (FSS) للانحدار اللوجستي، صُمم ليكون فعالًا خلال مرحلة التدريب عبر الإنترنت، وهو أمر بالغ الأهمية للتعامل مع البيانات واسعة النطاق. | اقرأ المزيد |
تحليل نظري للانحدار اللوجستي والمصنفات البايزية | Roman V. Kirin | 2021-08-08 | يستكشف الاختلافات الأساسية بين الانحدار اللوجستي والمصنفات البايزية، خاصة فيما يتعلق بالتوزيعات الأسية وغير الأسية. ويناقش الظروف التي تتشابه فيها الاحتمالات المتوقعة لكلا النموذجين. | اقرأ المزيد |
يُستخدم الانحدار اللوجستي للتنبؤ بالنتائج الثنائية، مثل ما إذا كان البريد الإلكتروني عشوائيًا أم لا، وتحديد وجود مرض، وتقييم الجدارة الائتمانية، واكتشاف الاحتيال.
تشمل الافتراضات الرئيسية وجود متغير تابع ثنائي، واستقلالية الأخطاء، وعدم وجود تداخل مرتفع بين المتنبئات، وعلاقة خطية مع لوغاريتم الاحتمالات، وحجم عينة كبير.
تشمل المزايا سهولة تفسير المعاملات على أنها نسب احتمالات، والكفاءة الحسابية، والقدرة على التعامل مع المتغيرات الثنائية والمتعددة والمرتبة.
تشمل القيود افتراض الخطية مع لوغاريتم الاحتمالات، والحساسية للقيم الشاذة، وعدم ملاءمته للتنبؤ بالنتائج المستمرة.
روبوتات دردشة ذكية وأدوات ذكاء اصطناعي تحت سقف واحد. اربط الكتل البديهية لتحويل أفكارك إلى تدفقات مؤتمتة.
خسارة اللوغاريتم، أو خسارة الانتروبيا التقاطعية، هي مقياس أساسي لتقييم أداء نماذج تعلم الآلة—خاصة في التصنيف الثنائي—من خلال قياس التباعد بين الاحتمالات المتوقع...
يُعد الانحدار الخطي تقنية تحليلية أساسية في الإحصاء وتعلم الآلة، حيث يقوم بنمذجة العلاقة بين المتغيرات التابعة والمستقلة. ويشتهر ببساطته وسهولة تفسيره، كما أنه ...
الانحدار التدرجي هو خوارزمية تحسين أساسية تُستخدم على نطاق واسع في تعلم الآلة والتعلم العميق لتقليل دوال التكلفة أو الخسارة عن طريق تعديل معلمات النموذج بشكل تك...