التعلم الآلي / أساس التنبؤ والبيانات / الدرس 3
التقسيم والمجموعات والزمن والتسرب
قدر التعميم وفق النشر المقصود وامنع عبور المعلومات لحدود التقييم.
في هذه الصفحة
أهداف الدرس
- يحاكي التقسيم الاستخدام المستقبلي
- إبقاء الكيان المتكرر في طرف واحد
- حماية الاختبار النهائي من الاختيار
يحاكي التقسيم الاستخدام المستقبلي
تلائم بيانات التدريب المعاملات وتدعم التحقق الاختيارات ويقدر الاختبار الإجراء المختار بافتراض العينة. لا يصح التقسيم العشوائي إلا إذا مثل الاستقلال والنشر. يختلف الحدث الجديد من مشاهدة لحدث معروف، وقد ينجح المألوف ويفشل الجديد. اختر وحدة الفصل قبل الملاءمة والتحويل. لا يصلح التقسيم هدفا خاطئا أو خاصية مستقبلية أو مجتمعا غير ممثل؛ إنه جزء الدليل لا كل الضمان. وقد يقدر اختبار مشاهدات جديدة لكيانات معروفة شيئا مختلفا تماما عن اختبار كيانات لم يرها النظام، لذلك يجب تسمية ادعاء التعميم قبل اختيار وحدة الفصل.
التسرب أوسع من نسخ الهدف
يحدث التسرب حين تؤثر معلومة غير متاحة للعملية المقصودة. يشمل مشتق الهدف وتكرار الشخص وملاءمة التحويل للجميع وضبط الاختيارات بالاختبار. قد يسرب تحويل غير موجه توزيع التقييم؛ فتعلم كل خطوة داخل طية التدريب. قد يختلف العقد الانتقالي الصريح لكنه يحتاج تبريرا لا عذرا للمخالفة. وثق التقسيم والهويات المفصولة. ولا يزيل وصف التحويل بأنه غير موجه أثر تعلمه من توزيع المحتجز؛ كما أن الاستثناء الانتقالي يحتاج إلى عقد مقصود لا تبرير لاحق لتسرب غير متعمد.
إبقاء الكيان المتكرر في طرف واحد
يفصل المثال كل مشاهدات c عن a وb ويظهر المعرفات والفهارس. يوضح عقدا لا أداء بستة صفوف. إذا اختلف حجم المجموعات فحدد وزن الصف أو المجموعة وأبلغه. قد تكون شخصا أو أسرة أو جهازا أو موقعا، وقد يبقى الارتباط عند بناء معرف خاطئ؛ لا تثق باسم العمود وحده. وعندما تختلف أحجام المجموعات، ينبغي أن يوضح التقرير هل يعطي كل صف الوزن نفسه أم يعطي كل كيان وزنا متساويا، لأن هذين السؤالين قد ينتجان مقاييس مختلفة.
import numpy as np
groups = np.array(["a", "a", "b", "b", "c", "c"])
train = np.flatnonzero(groups != "c")
test = np.flatnonzero(groups == "c")
print(train.tolist(), test.tolist())
print(sorted(set(groups[train]) & set(groups[test])))
[0, 1, 2, 3] [4, 5]
[]
تختلف الفهارس ولا تظهر مجموعة بالطرفين، لكنه يفحص التعريف لا كل استقلال.
احترام توفر الخصائص والأهداف زمنيا
يشترط المثال توفر الهدف قبل الحد تماما ويقيم أوقاتا لاحقة، ويستبعد صفا وسيطا بالسياسة. قد يسرب التقسيم الزمني إذا نضج الهدف لاحقا أو تداخلت النوافذ. حدد الفجوة من الأفق والاعتماد لا رقم ثابت، ولا تخلط المستقبل لتحسين توازن الفئات. مثل وتيرة إعادة التدريب وتغير المجتمع أيضا. وقد تتداخل نوافذ الخصائص أو تتأخر الأهداف رغم ترتيب الصفوف زمنيا، لذلك يجب اشتقاق الفجوة من الأفق ووتيرة إعادة التدريب لا نسخ عدد ثابت من تجربة أخرى.
import numpy as np
prediction_time = np.array([1, 2, 3, 4, 5, 6])
label_available = prediction_time + 1
cutoff = 5
train = label_available < cutoff
test = prediction_time >= cutoff
print("training times", prediction_time[train].tolist())
print("test times", prediction_time[test].tolist())
training times [1, 2, 3]
test times [5, 6]
يستبعد الوقت أربعة لأن هدفه يتوفر بخمسة وفق الحد الصارم، لا فجوة عالمية.
حماية الاختبار النهائي من الاختيار
اختر النموذج والعتبة بالتحقق ثم قيم النهائي دون تحويله لإشارة ضبط. إذا غير الفريق بسببه لم يبق تقييما غير ممسوس. احفظ معرفات التقسيم؛ تعيد البذرة قسمة وفق البرنامج ولا تثبت التمثيل والاستقلال. افحص التسرب ووثق الاعتماد. يفيد مقياس متواضع صحيح أكثر من مبهر بتقسيم فاسد. وإذا استُخدمت أخطاء الاختبار لتعديل الخصائص أو العتبة، فقد صار جزءا من الاختيار؛ ولا تعيد تسميته أو إعادة البذرة صفة التقييم النهائي المستقل إليه.
الأخطاء الشائعة وإصلاحها
يقوى التحقق بالخلط فقط
- لماذا يحدث؟
- تعبر كيانات أو أزمنة الحد.
- كيف تصلحه؟
- استخدم فصل النشر المناسب.
- كيف تتجنب تكراره؟
- دقق الهوية والتوفر.
تُلائم المحجمة قبل التحقق
- لماذا يحدث؟
- تؤثر الطيات المحتجزة.
- كيف تصلحه؟
- لائم داخل تدريب كل طية.
- كيف تتجنب تكراره؟
- عد التحويل المتعلم جزء النموذج.
يوجه النهائي التعديلات
- لماذا يحدث؟
- استهلك الاختيار التقييم.
- كيف تصلحه؟
- افصل الاختيار واجمع دليلا صادقا.
- كيف تتجنب تكراره؟
- وثق بيانات كل قرار.
اختبر فهمك
1. لماذا تفسد صورتان للكائن نفسه تقييم كائن جديد؟
اعرض الحل المشروح
قد يستغل هويته لا التعميم. افصل بالكائن واجمع تابعه وحدد وزنه وافحص مصدرًا مشتركا كالموقع والزمن. ثم ينبغي التأكد من أن معرف الموقع أو مصدر الالتقاط لا ينشئ اعتمادا آخر ما زال يعبر حدود التقسيم.
2. يثبت الهدف بعد سبعة أيام؛ ماذا يراعي حد التدريب؟
اعرض الحل المشروح
استخدم المتوفر فقط؛ فقد يسبق وقت التنبؤ والهدف غير متاح. احسب النوافذ ووتيرة التدريب واشتق الفصل المناسب لا العشوائي. وقد تحتاج نوافذ الخصائص المتداخلة وتواتر إعادة التدريب إلى فصل إضافي، يشتق من العقد لا من وصفة ثابتة.
أهم ما تعلمته
- يرمز التقسيم افتراض النشر.
- يتعلم التحويل داخل التدريب.
- ليس النهائي غير الممسوس أداة ضبط.