Skoltechnlp في مهمة Semeval-2021: إنشاء بيانات تدريبية عبر اللغات لمهمة Word-in السياق


الملخص بالعربية

في هذه الورقة، نقدم نظاما لحل مهمة الغموض في السياق عبر اللغات واللغات متعددة اللغات. قدم منظمو المهام بيانات أحادية الأونلينغ بعدة لغات، ولكن لم تتوفر بيانات تدريبية عبر اللغات. لمعالجة عدم وجود بيانات تدريبية عبر اللغات المقدمة رسميا، قررنا توليد هذه البيانات بأنفسنا. نحن نصف نهج بسيط ولكنه فعال يعتمد على الترجمة الآلية والترجمة الخلفية للوحدات المعجمية إلى اللغة الأصلية المستخدمة في سياق هذه المهمة المشتركة. في تجاربنا، استخدمنا نظاما عصبا يعتمد على نموذج لغة XLM-R، وهو نموذج لغة ملثم مقره محول مسبقا، كناسما أساسيا. نظهر فعالية النهج المقترح لأنه يسمح بتحسين أداء هذا النموذج الأساسي القوي العصبي القوي. بالإضافة إلى ذلك، في هذه الدراسة، نقدم أنواعا متعددة من المصنف المستند إلى XLM-R، وتجربة طرق مختلفة لخلط المعلومات من الأحداث الأولى والثانية للكلمة المستهدفة في عينتين.

المراجع المستخدمة

https://aclanthology.org/

تحميل البحث