إن فهم كيفية ترميز الهيكل اللغوي في التضمين السياق يمكن أن يساعد في تفسير أدائه المثير للإعجاب عبر NLP.عادة ما تدعو النهج الحالية لتحقيقها عادة إلى تدريب الطبقات وتستخدم الدقة والمعلومات المتبادلة أو التعقيد كوكيل لخير التمثيل.في هذا العمل، نجادل بأن
القيام بذلك يمكن أن يكون غير موثوق به لأن تمثيلات مختلفة قد تحتاج إلى طبقات مختلفة.نقوم بتطوير إرشادي، DirectProbe، يدرس مباشرة هندسة التمثيل من خلال البناء عند فكرة مساحة الإصدار لمهمة.تبين التجارب التي لديها العديد من المهام اللغوية والموظفة السياقية أنه، حتى بدون منصوص قياسات التدريب، يمكن أن يضيء DirectProbe الأنوار حول كيفية تمثيل مساحة التضمين ملصقات وتوقع أيضا أداء المصنف للتمثيل أيضا.
تم تطبيق التعلم نقل أن تتكيف نموذجا مدربا على مصادر غنية بالبيانات إلى أهداف الموارد المنخفضة على نطاق واسع في معالجة اللغة الطبيعية (NLP).ومع ذلك، عند تدريب نموذج النقل على مصادر متعددة، ليس كل مصدر مفيد بنفس القدر بالنسبة للهدف.لتحويل أفضل نموذج، م
ن الضروري فهم قيم المصادر.في هذه الورقة، نطور، إطار تقييم مصدر فعال لتقدير فائدة المصادر (على سبيل المثال،) في مجال التعلم بناء على طريقة قيمة shemley.تثبت التجارب والتحليلات الشاملة على كل من التحويلات المتقاطعة والنقل عبر اللغات أن إطارنا ليس فعلا فقط في اختيار مصادر نقل مفيدة ولكن أيضا القيم المصدر تتطابق مع التشابه الهدف البديهي.
