نحو مراجعة فائدة التفسيرات لتصحيح التصحيح النموذجي

تعد أساليب تفسير ما بعد الهوك فئة مهمة من الأساليب التي تساعد في فهم الأساس المنطقي وراء قرار النموذج المدربين.ولكن ما مدى فائدة المستخدمين النهائي نحو تحقيق مهمة معينة؟في هذه الورقة الرؤية، نقول الحاجة إلى معيار لتسهيل تقييمات فائدة أساليب تفسير ما بعد المخصص.كخطوة أولى لهذه الغاية، فإننا نعدد العقارات المرغوبة التي يجب أن تمتلكها مثل هذا المعيار لمهمة تصحيح التصحيح النصوص النصية.بالإضافة إلى ذلك، نسلط الضوء على أن هذا المعيار يسهل ليس فقط تقييم فعالية التفسيرات ولكن أيضا كفاءتها.

Post-hoc explanation methods are an important class of approaches that help understand the rationale underlying a trained model's decision. But how useful are they for an end-user towards accomplishing a given task? In this vision paper, we argue the need for a benchmark to facilitate evaluations of the utility of post-hoc explanation methods. As a first step to this end, we enumerate desirable properties that such a benchmark should possess for the task of debugging text classifiers. Additionally, we highlight that such a benchmark facilitates not only assessing the effectiveness of explanations but also their efficiency.