التعلم العميق / المعماريات وديناميات التدريب / الدرس 10
السلاسل والتكرار والحشو
حدد الحالة الزمنية والأطوال الصالحة ومحاذاة الأهداف قبل تدريب نموذج تسلسلي.
في هذه الصفحة
أهداف الدرس
- تتبع إعادة استخدام الحالة عبر الزمن.
- إبعاد الحشو عن الحالة والخسارة.
- احترام المعلومات المتاحة وقت التنبؤ.
للسلسلة ترتيب وعقد حالة
يحدث النموذج المتكرر الحالة باستخدام الحالة السابقة والمدخل الحالي. تسمح مشاركة معاملات التحديث زمنياً بتمثيل يعتمد على بادئة السلسلة. وثق موضع محور الزمن وحدود السلسلة والحالة الابتدائية. ينشئ نقل الحالة بين مشاهدات غير مترابطة مسار معلومات غير مقصود. قد يصح الاحتفاظ بالحالة في التدفق المستمر، لكن يجب أن تتطابق ملكيتها وقاعدة تصفيرها ومعالجة المشاهدات المفقودة مع التقييم. الترتيب معنى للبيانات، وليس تفضيلاً للتخزين فقط.
الحشو تخزين وليس مشاهدة
تحشو الدفعات السلاسل القصيرة غالباً حتى طول موحد. يجب ألا تتحول قيمة الحشو إلى حدث فعلي بصمت. قد لا يكفي قناع الخسارة إذا غير الحشو الحالة المخفية المستخدمة لتصنيف السلسلة. يستخدم المثال تكراراً جمعياً وقيمة حشو واضحة هي 99. تمنع الأطوال الصالحة تحديث الحالة في الحشو فتبقى مجموع البادئة. تشمل الخلايا الحقيقية تحويلات متعلمة ولاخطية، لكن قناع مواضع الإدخال وسياسة تحديث الحالة وقناع الخسارة تظل مسؤوليات مستقلة.
sequences = [[2, 3, 99], [4, 99, 99]]
lengths = [2, 1]
for sequence, length in zip(sequences, lengths):
state = 0
for t, value in enumerate(sequence):
if t < length:
state = state + value
print(state)
5
4
يمنع قناع تحديث الحالة دخول الحشو غير الصفري إلى الحالة النهائية.
حدد الهدف في كل موضع زمني
في تنبؤ الخطوة التالية تقابل البادئة المنتهية عند t الهدف عند t+1، دون كشفه ضمن المدخلات المسموحة. وقد يستخدم تصنيف السلسلة الحالة الصالحة الأخيرة أو تجميعاً صريحاً. تستفيد النماذج ثنائية الاتجاه من الماضي والمستقبل إذا كانت السلسلة كاملة عند القرار؛ لكنها لا تلائم تنبؤاً سببياً يجب إصداره قبل ظهور المستقبل. صرح بتوفر السلسلة عند القرار؛ فالشكل العددي الصحيح لا يثبت احترام حد المعلومات.
القناع والمتوسط قراران مستقلان
يحجب المثال خسائر الحشو ويحسب متوسط الرموز الصالحة، ثم يحسب متوسطاً متساوي الوزن لمتوسطات السلاسل. تساويهما هنا عرضي؛ إذا استبدلت خسارة السلسلة الثانية بثمانية اختلفا. حدد وحدة الوزن واختبر أطوالاً وخسائر مختلفة. تحتاج السلسلة الفارغة أو الدفعة الخالية من أهداف صالحة سياسة معلنة للتجاوز أو الرفض أو التجميع. قد تكافئ إضافة حشو جديد إذا أبقيت أصفاره في المقام رغم عدم وجود مشاهدات جديدة.
losses = [[1.0, 3.0, 100.0], [2.0, 100.0, 100.0]]
lengths = [2, 1]
numerator = sum(sum(row[:n]) for row, n in zip(losses, lengths))
valid_count = sum(lengths)
print(f"valid-token mean={numerator/valid_count:.1f}")
print(f"example mean={sum(sum(row[:n])/n for row,n in zip(losses,lengths))/2:.1f}")
valid-token mean=2.0
example mean=2.0
يتساوى المتوسطان في هذه القيم فقط؛ ولا يجعل ذلك قاعدتي الوزن قابلتين للاستبدال.
شخّص مسارات الاعتماد الطويلة بالقياس
يضرب الانتشار العكسي عبر التحديث المتكرر عوامل مشتقة محلية عبر الزمن، وقد يضعف إسهامات بعيدة أو يضخمها. تضيف الخلايا ذات البوابات ومسارات الذاكرة بنية خاصة، لكنها لا تضمن تعلم كل اعتماد طويل. يحد الانتشار العكسي المقتطع تاريخ المشتقات عمداً وقد يحتفظ بالحالة الأمامية؛ وهذا إجراء تدريب مختلف يجب التصريح به. افحص الأطوال وتصفير الحالة ومعايير التدرج والمحاذاة قبل اختيار خلية أعقد. تثبت الأمثلة حساب الحجب فقط ولا تدعي أداء لغوياً أو صوتياً أو تنبؤياً مدرباً.
الأخطاء الشائعة وإصلاحها
تغير التنبؤ بإضافة حشو
- لماذا يحدث؟
- دخل الحشو إلى الحالة أو التجميع.
- كيف تصلحه؟
- احجب التحديثات واجمع المواضع الصالحة وفق العقد.
- كيف تتجنب تكراره؟
- اختبر بادئة واحدة بأطوال وقيم حشو مختلفة.
تحسن تقييم تدفق بعد إضافة المستقبل
- لماذا يحدث؟
- خالف المسار ثنائي الاتجاه المعلومات المتاحة عند القرار.
- كيف تصلحه؟
- استخدم نموذجاً سببياً أو أعد تعريف المهمة كاملة الرصد صراحة.
- كيف تتجنب تكراره؟
- دقق كل مصدر سياق عند وقت القرار.
أثرت سلاسل غير مترابطة في بعضها
- لماذا يحدث؟
- استمرت الحالة عبر حدود السلاسل.
- كيف تصلحه؟
- صفر الحالة أو وجهها حسب هوية السلسلة.
- كيف تتجنب تكراره؟
- قارن معالجة منفردة ومتداخلة.
اختبر فهمك
1. استبدل الخسارة الصالحة في السلسلة الثانية بثمانية واحسب المتوسطين.
اعرض الحل المشروح
الخسائر الصالحة واحد وثلاثة وثمانية، ومجموعها اثنا عشر؛ متوسط الرموز أربعة. متوسطا السلسلتين اثنان وثمانية، ومتوسطهما المتساوي خمسة. تحدد وحدة التقييم المقصودة القاعدة المناسبة، ولا توجد قاعدة صحيحة لكل المهام.
2. لماذا قد يغير حشو صفري الحالة المتكررة؟
اعرض الحل المشروح
قد يتضمن التحديث انحيازاً وتحويلاً لاخطياً وتحويل الحالة السابقة حتى عندما يكون المدخل صفراً؛ فلا يكون الصفر حدث هوية عموماً. استخدم سياسة أطوال أو قناع مدعومة وافحص الحالة نفسها بدلاً من الاتكال على قيمة الحشو.
أهم ما تعلمته
- حدود السلسلة وتصفير الحالة جزء من المهمة.
- احجب الحالة والتجميع والخسارة وفق حاجة كل منها.
- تحدد سببية القرار مشروعية السياق المستقبلي.