MLOps / المسارات والإيصال المضبوط / الدرس 8
شرائح التقييم وبوابات قبول المرشح
حول مقارنة مرشح إلى أدلة صريحة دون أن يمحو متوسط مواتٍ واحد إخفاقات مهمة.
في هذه الصفحة
أهداف الدرس
- مقارنة المرشحين والخطوط الأساسية وفق عقد تقييم واحد.
- عرض قيم الشرائح وأعدادها وعدم يقينها وتغطيتها.
- تعريف الدليل المفقود أو غير الكافي كنتيجة بوابة متميزة.
تبدأ قاعدة القبول بالقرار
اختر المقاييس الأساسية والشرائح المهمة وحدود الموارد وشروط التوافق ومجتمع التقييم المسموح قبل مراجعة النتائج النهائية. تقيس الخسارة خاصية تنبؤ واحدة وقد لا تلتقط كلفة الفعل أو أثره في مجموعة فرعية أو سلوك البديل. قارن المرشح والخط الأساسي كاملين على المشاهدات المؤهلة وتعريف الهدف نفسيهما. يحتاج النموذج الذي لا يدعم مجتمع المدخل المطلوب تصريحاً صريحاً بالتغطية. افصل دليل الاختيار عن التقييم النهائي، وسجل ميزانية المقارنات حتى يظهر الضبط المتكرر على نتائج مواتية بدلاً من أن يتنكر كاختبار مستقل واحد.
قد يخفي تحسن المتوسط تراجعاً حرجاً
يعرض المثال الأول انخفاض الخطأ المطلق الكلي للمرشح مع تراجع شريحته الحرجة. لا تضم الشريحة إلا مشاهدة واحدة؛ فرقمها مهم تشغيلياً وفق المثال وضعيف الدليل إحصائياً في الوقت نفسه. هاتان نقطتان مستقلتان: لا يبرر المتوسط تجاهل الشريحة، ولا يصح اعتبار خطئها الواحد تقديراً مجتمعياً دقيقاً. اعرض العدد وتعريف الشريحة وتوزيع الخطأ حيث يفيد وعدم يقين يناسب السحب والاعتماد. تستهلك الشريحة المختارة بعد البحث عن نتيجة جذابة دليل اختيار وتحتاج التصريح بذلك السياق.
baseline = {"common":[2.0,2.0,2.0,2.0], "critical":[4.0]}
candidate = {"common":[1.0,1.0,1.0,1.0], "critical":[5.0]}
def overall(groups):
values = [value for group in groups.values() for value in group]
return sum(values)/len(values)
print(f"baseline overall={overall(baseline):.2f}")
print(f"candidate overall={overall(candidate):.2f}")
print("critical slice worsens", sum(candidate["critical"])/len(candidate["critical"]) > sum(baseline["critical"])/len(baseline["critical"]))
baseline overall=2.40
candidate overall=1.80
critical slice worsens True
يحسن المرشح المخترع متوسط الخطأ المطلق لكنه يسوء في شريحة حرجة ذات مشاهدة واحدة؛ وتوفر الشريحة الصغيرة دليلاً ضعيفاً أيضاً.
تعبر العتبات عن سياسة خاصة بالمهمة
يفحص المثال الثاني حداً إجمالياً وحد الشريحة الحرجة وعدداً أدنى من المشاهدات وتوافق المدخل. تعلم العتبات الثابتة منطق البوابة ولا تمثل قيماً موصى بها لتطبيقات أخرى. قد يمنع العدد الأدنى مرور تقرير ضئيل جداً، لكنه لا يضمن وحده قوة إحصائية أو تمثيلاً أو ثقة كافية. حدد أثر المقاييس الغائبة والقيم غير المنتهية والأهداف المتأخرة والشرائح غير المدعومة في النتيجة. لا تستبدل القيمة الغائبة بصفر بصمت ولا تحذفها من جميع الفحوص. احفظ معاني النجاح والفشل وعدم كفاية الدليل صراحة في بوابة فعلية.
evidence = {"overall_mae":1.8, "critical_mae":5.0, "critical_count":1, "compatible":True}
checks = {"overall bound":evidence["overall_mae"] <= 2.0,
"critical bound":evidence["critical_mae"] <= 4.0,
"critical minimum count":evidence["critical_count"] >= 3,
"input compatibility":evidence["compatible"]}
failed = [name for name,passed in checks.items() if not passed]
print("failed", failed)
print("passes declared gate", not failed)
failed ['critical bound', 'critical minimum count']
passes declared gate False
يثبت عقد المثال هذه العتبات التوضيحية؛ وليست توصيات عامة أو ضمانات ثقة إحصائية.
قيّم الإجراء الذي سيتخذ القرارات
ضم المعالجة المسبقة الملائمة والمعايرة والعتبات والامتناع وسلوك الدفعات والبديل إذا أثرت في النتيجة المقدمة. صحة الاحتمال ومعايرته وفائدة القرار خصائص مختلفة؛ فلا تحسم خسارة لوغاريتمية أقل كل متطلب تلقائياً. قد يغفل التقييم غير المتصل تفاعلات تنشأ من استجابة المستخدمين للتنبؤ، لكن التجربة المباشرة تحتاج تصميمها الصحيح أيضاً. صرح بنطاق كل مصدر دليل. يمكن للبوابة حجب مرشح غير مدعوم دون إعلان سوء معماريته بصورة عامة. قد يعكس الرفض نقص الدليل أو عدم توافق الحزمة أو متطلباً محدداً لم يتحقق.
احفظ تقرير البوابة ومدخلاته
اربط النتيجة بهويتي المرشح والخط الأساسي وقائمة مجتمع التقييم وإصدار المقيم وتعريفات المقاييس وقواعد الشرائح وسياسة العتبات والحدود. اختبر المقيم نفسه بحالات صغيرة معلومة مستقلاً، ومنها شريحة مفقودة ومرشح يحسن المتوسط لكنه يفشل شرطاً مطلوباً. راجع التغييرات الجوهرية لسياسة البوابة بدلاً من خفض العتبات بعد درجة محبطة. تحسب البرامج خسائر اصطناعية ثابتة وفحوصاً منطقية فقط. لا تدرب نماذج أو تشغل إطار تحليل أو تقدر عدم يقين مجتمع واقعي أو تجيز الإيصال إلى نظام حي.
الأخطاء الشائعة وإصلاحها
تجاوزت خسارة كلية أقل فشل شريحة مطلوبة
- لماذا يحدث؟
- اختزل عقد القبول في مجمل مواتٍ واحد.
- كيف تصلحه؟
- طبق جميع الفحوص المطلوبة المعلنة واعرض أدلتها.
- كيف تتجنب تكراره؟
- احفظ مثال تحسن المتوسط مع تراجع الشريحة.
عومل مقياس مفقود كصفر ناجح
- لماذا يحدث؟
- اختلط غياب الدليل بقيمة مقاسة.
- كيف تصلحه؟
- مثل الدليل المفقود أو غير الكافي صراحة.
- كيف تتجنب تكراره؟
- اختبر حالات المقياس الفارغة والمتأخرة وغير المنتهية وغير المدعومة.
وُصف عدد عينة أدنى كضمان للثقة
- لماذا يحدث؟
- اختلط حارس سياسة بالكفاية الإحصائية.
- كيف تصلحه؟
- قيّم عدم اليقين وافتراضات السحب منفصلين.
- كيف تتجنب تكراره؟
- قدم قواعد العدد كمتطلب دليل واحد له حدود.
اختبر فهمك
1. لماذا قد يفشل الخطأ الكلي 1.80 للمرشح بوابة المثال؟
اعرض الحل المشروح
تطلب البوابة أكثر من قيمة كلية لا تزيد على اثنين. الخطأ الحرج خمسة مقابل حد أربعة، وعدد الشريحة واحد مقابل حد أدنى توضيحي ثلاثة. تفشل النتيجة هذين الشرطين المعلنين رغم تحسن المتوسط؛ فالأرقام أمثلة سياسة اصطناعية.
2. ماذا يقول التقرير عندما تجعل الوسوم المتأخرة شريحة حرجة غير مقاسة؟
اعرض الحل المشروح
صرح بأن دليل الشريحة غير متاح أو لم ينضج، واعرض التغطية وتوقيت الوسوم، وطبق سياسة عدم كفاية الدليل المعلنة. لا تفترض خطأ صفرياً أو تمثيل المجموعة الناضجة للحالات المفقودة. ينبغي أن يستعمل التقييم اللاحق المجتمع وحد النضج الموثقين.
أهم ما تعلمته
- يجمع القبول أدلة قابلة للمقارنة وشروطاً خاصة بالمهمة.
- تحتاج الشرائح أعداداً وعدم يقين إلى جانب قيم المقاييس.
- الدليل المفقود ليس قياساً مواتياً.