إيلاء اهتمام متعدد الأطراف مجردة، وهي مجموعة من العديد من آليات الاهتمام التي تحضر بشكل مستقل إلى أجزاء مختلفة من المدخلات، هي العنصر الرئيسي في المحول.ومع ذلك، فقد أظهر العمل الحديث أن نسبة كبيرة من الرؤوس في آلية الاهتمام المتعددة الرأس المحولات يم
كن أن تكون بأمان بأمان دون إيذاء أداء النموذج بشكل كبير؛هذه التشذيب تؤدي إلى النماذج الأصغر بشكل ملحوظ وأسرع في الممارسة العملية.يقدم عملنا تقنية تشذيب رأس جديد نكون مصطلحنا تشذيب فرعي قابل للتطبيق.NTITIONIAL، تتعلم طريقة لدينا المتغيرات ذات الأهمية لكل رأس، ثم يفرض عقبة صلبة محددة من قبل المستخدم على عدد الرؤوس غير المشددة.يتم تعلم المتغيرات الأهمية من خلال نزول التدرج الاستوكاستكي.إجراء تجارب على الاستدلال اللغوي والترجمة الآلية؛نظهر أن تشذيب التقليم الفرعي المميز يؤدي بشكل أساسي أو أفضل من الأعمال السابقة مع توفير سيطرة دقيقة على مستوى Sparsity.1
التقييم البشري التجريدي لأنظمة الترجمة عالية الجودة الحديثة هي مشكلة صعبة، وهناك أدلة متزايدة على أن إجراءات التقييم غير الكافية يمكن أن تؤدي إلى استنتاجات خاطئة. بينما كان هناك بحث كبير في التقييم البشري، لا يزال الحقل يفتقر إلى إجراء قياسي شائع. كخ
طوة نحو هذا الهدف، نقترح منهجية تقييم في تحليل خطأ صريح، استنادا إلى إطار مقاييس الجودة متعددة الأبعاد (MQM). نحن نفذت أكبر دراسة بحثية MQM حتى الآن، وتسجيل مخرجات الأنظمة العليا من المهمة المشتركة WMT 2020 في أزواج لغتين باستخدام التعليقات التوضيحية المقدمة من المترجمين المحترفين مع الوصول إلى سياق المستند الكامل. نقوم بتحليل البيانات الناتجة على نطاق واسع، والعثور على نتائج أخرى بمثابة ترتيب مختلف تماما للأنظمة المقدرة من تلك المنشأة من قبل عمال الحشد WMT، تعرض تفضيل واضح لإخراج الإنسان على الجهاز. من المستغرب، نجد أيضا أن المقاييس التلقائية القائمة على المدينات المدربة مسبقا يمكن أن تفوق عمال الحشد البشري. نحن نجعل كوربوس متاحة علنا لمزيد من البحث.
