الذكاء التوليدي / المتوسط: الاسترجاع ومسارات العمل المضبوطة / الدرس 10
اقتراحات الأدوات وحدود الإذن
عامل فعل النموذج اقتراحا غير موثوق يحتاج مخططا ونطاقا وموافقة وملكية أثر حتمية.
في هذه الصفحة
أهداف الدرس
- اشرح افتراضات وحدود الثقة المتعلقة بموضوع «اقتراحات الأدوات وحدود الإذن».
- فسر المثالين وميز نتيجة العينة المحلية من دليل النموذج أوالإنتاج.
- شخص الإخفاقات وعلل القرارات المشروحة مع حفظ عقد المهمة والبيانات والإذن وعدم اليقين.
استدعاء الأداة ليس سلطة
يقترح النموذج الاسم والحجج ويقرر التطبيق وجوده وإذنه وملاءمته للفاعل والحالة. لا يمنح وصف الأداة سلطة. احفظ السجل والمخطط والهوية والنطاق والموافقة بالموثوق. يقبل المثال قراءة اصطناعية محددة فقط بلا خارج ويرفض المجهول لا ينفذ نصه ديناميكيا.
def lookup_proposal(proposal, allowed_sources):
if set(proposal) != {"tool", "source_id"} or proposal["tool"] != "lookup_policy":
return "rejected_shape_or_tool"
if proposal["source_id"] not in allowed_sources:
return "denied_scope"
return "synthetic_policy_result"
print(lookup_proposal({"tool": "lookup_policy", "source_id": "lab-a"}, {"lab-a"}))
print(lookup_proposal({"tool": "lookup_policy", "source_id": "lab-b"}, {"lab-a"}))
print(lookup_proposal({"tool": "send_message", "source_id": "lab-a"}, {"lab-a"}))
synthetic_policy_result
denied_scope
rejected_shape_or_tool
تعيد القراءة المسموحة فقط بيانات اصطناعية دون رسالة أوملف أواستعلام حقيقي.
التحقق من الحجج والنطاق الموثوق مستقلين
قد يطلب الصحيح شكلا سجل آخر أومبلغا أوجهة أوهدما. افحص الحقول والنوع والحد والوجهة والهدف، ولا تأخذ الإدارة والموافقة من الاقتراح. يقارن المثال بقائمة خادم ويفصل الشكل والمنع. لا تمرر النص لطرفية أو SQL أوجلب أوموزع عام.
تطبيق أقل سلطة وموافقة مستقلة
تختلف القراءة والكتابة والنشر والإرسال والحذف، ولا يجيز الطلب العام كل أثر مختلق. تشترط الدالة قدرة وموافقة مستقلتين لتحديث مسمى دون تغيير. اربط الموافقة بالهدف والحجج كي لا يعاد استخدامها، وحد الاعتماد والوجهة واجعل غير القابل للعكس بسياسة لا رجاء لغوي.
def may_update(actor, proposal, approved):
return actor["can_update"] and approved and proposal["tool"] == "update_record"
proposal = {"tool": "update_record"}
print(may_update({"can_update": False}, proposal, True))
print(may_update({"can_update": True}, proposal, False))
print(may_update({"can_update": True}, proposal, True))
False
False
True
القدرة والموافقة مدخلان مستقلان ولا يعدل الفحص شيئا؛ وتربط الحقيقية بالحجج والهدف.
ملاحظة الآثار المجهولة والمكررة
قد يحدث الأثر وتضيع النتيجة؛ فتحتاج الإعادة منع تكرار أواستعلاما أوتسوية. سجل هوية وحججا آمنة ومرجع موافقة ونتيجة ومالكا لا سرا. مخرج الأداة بيانات قد يخطئ أويحمل تعليما ولا يعيد السياسة. لا يثبت قول النموذج النجاح؛ فاحفظ الفعلي مستقلا.
اختبار الاقتراح دون قدرات فعلية
اختبر بأدوات نقية وهوية اصطناعية الاسم والشكل والمستبعد والموافقة والتكرار والفشل، ولا توصل التعليم لبريد أودفع أوسحابة أوقاعدة. الدالتان بلا أثر غير القيمة، ولا يضمن بحث الأدوات أمن كل وكيل. يظل الحد ضيقا مفروضا حتى طلب تجاوزه.
الأخطاء الشائعة وإصلاحها
ينفذ المولد كشيفرة موثوقة
- لماذا يحدث؟
- تجاوز النص السجل والسياسة.
- كيف تصلحه؟
- استخدم موزعا ضيقا وإذنا.
- كيف تتجنب تكراره؟
- اختبر المجهول والمستبعد.
يقدم النموذج علم موافقته
- لماذا يحدث؟
- رقّي غير الموثوق لقرار.
- كيف تصلحه؟
- احصل عليها من حالة مصرح بها مستقلة.
- كيف تتجنب تكراره؟
- اربطها بالفعل والحجج.
تكرر المهلة كتابة خارجية
- لماذا يحدث؟
- اعتبر الغياب غياب أثر.
- كيف تصلحه؟
- سو الفعلي أواستخدم منع تكرار.
- كيف تتجنب تكراره؟
- سجل الهوية قبل الأثر.
اختبر فهمك
1. اقتراح JSON صحيح لأداة مسموحة. هل أجيز التنفيذ؟
اعرض الحل المشروح
ليس بعد؛ افحص الحجج والفاعل والنطاق والحالة والموافقة. التوفر والشكل غير إذن الفعل، وارفض أوراجع الناقص.
2. يحوي مخرج الأداة جملة تغير هدف المستخدم. كيف تعاملها؟
اعرض الحل المشروح
كبيانات غير موثوقة لا تعليم مستخدم أومالك؛ احفظ المهمة والإذن وافحص البيانات وسجل العبور بأمان.
أهم ما تعلمته
- يقترح النموذج الاسم والحجج ويقرر التطبيق وجوده وإذنه وملاءمته للفاعل والحالة.
- تختلف القراءة والكتابة والنشر والإرسال والحذف، ولا يجيز الطلب العام كل أثر مختلق.
- اختبر بأدوات نقية وهوية اصطناعية الاسم والشكل والمستبعد والموافقة والتكرار والفشل، ولا توصل التعليم لبريد أودفع أوسحابة أوقاعدة.