التعلم الآلي / الدليل والمسؤولية التشغيلية / الدرس 15
الإنصاف والشرائح والأضرار المحتملة
قيم الضرر بحسب السياق ودليل المجموعات دون اختزال الإنصاف برقم أو حذف بديل.
في هذه الصفحة
أهداف الدرس
- يبدأ الإنصاف بالناس والقرار
- فحص صحة متساوية بأخطاء مختلفة
- تقييم المعالجة وسير العمل الكامل
يبدأ الإنصاف بالناس والقرار
يسأل التقييم من يتضرر وكيف تستخدم المنظومة وما النتيجة المهمة، لا إحصاء بعد التدريب فقط. قد تحمل الأهداف والعينة والخدمة والسياسة انعدام مساواة. حدد المجموعات والتقاطعات بضبط الخصوصية والحوكمة؛ لا يضمن حذف الحساس الإنصاف لبدائله وتحُيز الهدف. أشرك المعنيين وآلية مراجعة عند الحاجة؛ يدعم الدليل الحكم لا يستبدله. وقد تحمل طريقة جمع الهدف أو إتاحة الخدمة أو اختيار من يراجع البشر نتائجه تفاوتا لا يظهر من اسم خاصية حساسة وحدها، لذلك يشمل التقييم سير القرار كاملا.
تسأل المعايير أسئلة مختلفة
تقارن مساواة الاختيار تكرار القرار، وتقارن equalized odds الموجب الصحيح والكاذب بشرط الهدف، وتركز فرصة متكافئة على الاسترجاع المناسب. المعايرة خاصية أخرى. تحدد النتيجة والوسم والضرر المهم، وقد تتعارض الأهداف وليس الحد شهادة أخلاقية أو قانونية. حدد التعريف والمجتمع والمجموعة وعدم اليقين ولا تبدل لتجميل النظام. ولا توجد عتبة رقمية واحدة تمنح شهادة أخلاقية أو قانونية عامة؛ بل يجب اختيار التعريف والمجتمع والمقارنة بحسب الضرر المقصود وعدم تبديلها لتجميل النتائج.
فحص صحة متساوية بأخطاء مختلفة
للمثال مجموعتان مبتكرتان متساويتا الصحة ومختلفتا الاختيار والاسترجاع والكاذب. يظهر الجدول المقامات لا يعلن عدلا عاما. لا تدعم الأربع استنتاج مجتمع ولا تحوي بيانات سكانية حقيقية. يحتاج التقييم دعما وعدم يقين ووسما وعواقب، ويجب إعلان المقام الصفري لا بديل يوهم بالدليل. وإذا كان أحد المقامات صفرا فليس ذلك معدلا مقيسا صفريا، بل غيابا لدليل محدد يجب عرضه بوضوح مع حجم المجموعة وعدم اليقين المناسب لهذه القلة.
import numpy as np
group = np.array(["A"] * 4 + ["B"] * 4)
y = np.array([1, 1, 0, 0, 1, 1, 0, 0])
pred = np.array([1, 0, 0, 0, 1, 1, 1, 0])
for name in ["A", "B"]:
mask = group == name
actual, chosen = y[mask], pred[mask]
tpr = np.sum((actual == 1) & (chosen == 1)) / np.sum(actual == 1)
fpr = np.sum((actual == 0) & (chosen == 1)) / np.sum(actual == 0)
print(f"{name} n={int(mask.sum())} selection={chosen.mean():.2f} tpr={tpr:.2f} fpr={fpr:.2f}")
A n=4 selection=0.25 tpr=0.50 fpr=0.00
B n=4 selection=0.75 tpr=1.00 fpr=0.50
المقامات موجبة بالجدول المبتكر ولا تكشف الصحة المتساوية هذه الفروق.
قد يخفي التجميع مجموعة صغيرة
يقارن المثال وزن الصف ومتوسط المجموعات، فتغيب أخطاء الكبير وتتركز بالصغير. لا توجد أفضلية معيارية تلقائية؛ أعلن الوزن وافحص المجموعة. تكشف التقاطعات فشلا وتزيد القلة عدم اليقين والخصوصية، وقد ينتقي البحث الكثير تطرفا هشا؛ فافصل الاستكشاف والتأكيد المسبق. وقد يكشف التقاطع فشلا تخفيه فئة واسعة لكنه يزيد القلة والخصوصية، كما ينبغي فصل البحث الاستكشافي عن مقارنة مؤكدة اختيرت قبل النظر إلى النتائج.
import numpy as np
error = np.array([0.0, 0.0, 0.0, 0.0, 1.0, 1.0])
group = np.array(["large"] * 4 + ["small"] * 2)
means = [error[group == name].mean() for name in ["large", "small"]]
print(f"row-weighted error={error.mean():.3f}")
print(f"macro-group error={np.mean(means):.3f}")
row-weighted error=0.333
macro-group error=0.500
يعكس الفرق وحدة الوزن ولا يعلن مقياس إنصاف شاملا.
تقييم المعالجة وسير العمل الكامل
قد تغير المعالجة العتبة والوزن والتمثيل والجمع والبشر. قيم الضرر والثانوي لا رقما منفردا؛ وتحتاج سياسات المجموعات حوكمة وسياقا لا وصفة آلية. اختبر الوصول والاعتراض والمراجعين والرصد، فقد يندمج متنبئ منصف ظاهريا بتخصيص غير منصف. احفظ الافتراض وراجعه مع المجتمع والوسم والسياسة. وقد تحسن معالجة رقما وتغير الكلفة والسعة أو مجموعة أخرى، لذلك تحتاج القرارات الخاصة بالمجموعات إلى مراجعة حوكمة وسياق، لا تطبيق وصفة برمجية آلية بلا نظر.
الأخطاء الشائعة وإصلاحها
تسمى الصحة الواحدة إنصافا
- لماذا يحدث؟
- لم تفحص الأضرار والأخطاء.
- كيف تصلحه؟
- اختر معيارا وشرائح مدعومة.
- كيف تتجنب تكراره؟
- أبلغ الأعداد والحدود.
يعد حذف الحساس ضمانا
- لماذا يحدث؟
- بقي البديل والهدف والعمل.
- كيف تصلحه؟
- قيم العملية كاملة.
- كيف تتجنب تكراره؟
- راجع التمثيل والنتائج لا الأسماء.
يعد معدل شريحة ضئيلة حقيقة ثابتة
- لماذا يحدث؟
- أغفل الدعم واليقين.
- كيف تصلحه؟
- أبلغ القيد واجمع الملائم.
- كيف تتجنب تكراره؟
- افصل الاستكشاف والتأكيد.
اختبر فهمك
1. هل تثبت صحة متساوية equalized odds؟
اعرض الحل المشروح
لا؛ تجمع الصحة بحسب الانتشار، بينما يقارن المعيار الاسترجاع والكاذب مشروطين. احسب الدعم وعدم اليقين وراجع مناسبة الضرر لا المساواة وحدها. وقد تتساوى الصحة مع اختلاف الاسترجاع والموجب الكاذب، كما توضح عينة الدرس، فلا يجوز استبدال المقامات بعضها ببعض.
2. لماذا تفحص المعالجة خارج المقياس المحسن؟
اعرض الحل المشروح
قد تغير السعة والكلفة والمعايرة والوصول وخطأ غيرها. قيم الكل والقيود مع المعنيين؛ لا تثبت زيادة رقم الإنصاف والنشر دون سياق وحوكمة. وقد تتطلب السياسة مراجعة حوكمة مع الأطراف المتأثرة، لأن تحسين تعريف واحد لا يحسم كل سؤال متعلق بالضرر.
أهم ما تعلمته
- تحتاج معايير الإنصاف غرضا سياقيا.
- افحص الشرائح المشروطة والمتقاطعة المدعومة.
- لا يشهد رقم للعملية كلها.