ترغب بنشر مسار تعليمي؟ اضغط هنا

AUOR في Semeval-2021 المهمة 4: استخدام Admenings Token Bert Token المدربة مسبقا للحصول على سؤال الرد على معنى مجردة

UoR at SemEval-2021 Task 4: Using Pre-trained BERT Token Embeddings for Question Answering of Abstract Meaning

268   0   0   0.0 ( 0 )
 تاريخ النشر 2021
  مجال البحث الذكاء الاصناعي
والبحث باللغة English
 تمت اﻹضافة من قبل Shamra Editor




اسأل ChatGPT حول البحث

تركز معظم مهام الإجابة على معظم الأسئلة على التنبؤ بإجابات ملموسة، مثل الكيانات المسماة.يمكن تحقيق هذه المهام عادة عن طريق فهم السياقات دون وجود معلومات إضافية مطلوبة.في قراءة الفهم من المهمة المعنى التجريدي (إعادة التقييم)، يتم تقديم الإجابات المجردة.لفهم معاني مجردة في السياق، المعرفة الإضافية ضرورية.في هذه الورقة، نقترح نهج يهدف إلى أن يشرف رصيد بيرت المدرب مسبقا كموارد معرفة مسبقة.وفقا للنتائج، فإن نهجنا باستخدام بيرت المدربة مسبقا تفوقت على الأساس.إنه يدل على أنه يمكن استخدام Abeddings Token Bertken المدربة مسبقا كمعرفة إضافية لفهم المعاني المجردة في الإجابة على الأسئلة.



المراجع المستخدمة
https://aclanthology.org/
قيم البحث

اقرأ أيضاً

تقدم هذه الورقة المهمة المشتركة Semeval-2021 4: قراءة الفهم من معنى مجردة (Recam). تم تصميم هذه المهمة المشتركة للمساعدة في تقييم قدرة الآلات في تمثيل وفهم مفهوم مجردة. يتعين على النظام المقابل، من المتوقع أن يختار نظام المشاركة، الإجابة الصحيحة من خ مسة مرشحين من المفاهيم المجردة في الفهم مهام. بناء على اثنين من التعريفات النموذجية للمخراج، أي غير محسنة وغير محددة، توفر مهمتنا ثلاثة مجموعات فرعية لتقييم قدرة النماذج في فهم النوعين من المعنى التجريدي وتعميم النماذج. على وجه التحديد، يهدف فرقة فرعية 1 إلى تقييم مفاهيم نماذج النظام المشاركة التي لا يمكن أن ينظر إليها مباشرة في العالم المادي. يركز SubTask 2 على قدرة النماذج في فهم مفاهيم غير محددة تقع عالية في التسلسل الهرمي Hypernym نظرا لسياق مرور. يهدف SubTask 3 إلى توفير بعض الأفكار حول تعميم النماذج على النوعين من الممرضين. خلال فترة التقييم الرسمية SEMEVAL-2021، تلقينا 23 تقريرا إلى الفرعية 1 و 28 إلى الفريق الفرعي 2. قدمت الفرق المشاركة بالإضافة إلى ذلك 29 تقريرا إلى الفرع الفرعي 3. يمكن العثور على موقع المتصدرين ومواقع المنافسة في HTTPS: //competitions.codalab. ORG / المسابقات / 26153. تتوفر بيانات البيانات وخطوط الأساس في https://github.com/boyuanzheng010/semeval2021-Reading-comprehension-of-Abstract-meaning.
تصف هذه الورقة النظام الفائز ل SubTask 2 والنظام الموضح الثاني لبرنامج التعرية الفرعية 1 في مهمة Semeval 2021 4: قراءة القراءة من معنى مجردة.نقترح استخدام جهاز تمييز Electra المصدر الذي يزعجني اختيار أفضل كلمة مجردة من خمسة مرشحين.يتم إدخال آلية الاه تمام العلوي والتنمية التلقائي لمعالجة التسلسلات الطويلة.توضح نتائج التجربة أن هذه المساهمة إلى حد كبير تسهيل النمذجة في اللغة السياقية في مهمة قراءة الفهم.تتم دراسة الاجتثاث أيضا لإظهار صلاحية أساليبنا المقترحة.
تصف هذه الورقة نظامنا للمهمة 4 من Semeval-2021: قراءة الفهم من معنى مجردة (Recam).شاركنا في جميع المهام الفرعية حيث كان الهدف الرئيسي هو التنبؤ بكلمة مجردة مفقودة من بيان.نحن نضرب نماذج اللغة الملثمين المدربة مسبقا وهي بيرت وألبرت واستخدمت فرقة لهؤلا ء كأنها نظامنا المقدمة على المراكز الفرعية 1 (إعادة التقييم - عقيدة) و Subtask 2 (إعادة التقييد - غير المعقدة).بالنسبة إلى Subtask 3 (تقاطع إعادة التقييد)، أرسلنا نموذج ألبرت لأنه يعطي أفضل النتائج.حاولنا نهج متعددة وجدنا أن النهج القائم على نمذجة اللغة الملثم (MLM) يعمل الأفضل.
تصف هذه الورقة نظامنا للحصول على مهمة Semeval-2021 4: قراءة الفهم من معنى مجردة.لإنجاز هذه المهمة، نستخدم الهندسة المعمارية لشبكة إيلاءات الرسوم البيانية المعززة للمعرفة مع استراتيجية تحويل الفضاء الدلالي الردد.إنه يرفع المعرفة غير المتجانسة لتعلم ال أدلة الكافية، ويسعى للحصول على مساحة دلالية فعالة من المفاهيم المجردة لتحسين قدرة الجهاز بشكل أفضل على فهم المعنى التجريدي للغة الطبيعية.تظهر النتائج التجريبية أن نظامنا يحقق أداء قويا في هذه المهمة من حيث كلا من غير المحتملة وغير المعقدة.
إن التنبؤ بمستوى تعقيد كلمة أو عبارة تعتبر مهمة صعبة.يتم التعرف عليه حتى كخطوة حاسمة في العديد من تطبيقات NLP، مثل إعادة ترتيب النصوص ومبسط النص.تعامل البحث المبكر المهمة بمثابة مهمة تصنيف ثنائية، حيث توقعت النظم وجود تعقيد كلمة (معقد مقابل غير معقدة ).تم تصميم دراسات أخرى لتقييم مستوى تعقيد الكلمات باستخدام نماذج الانحدار أو نماذج تصنيف الوسائط المتعددة.تظهر نماذج التعلم العميق تحسنا كبيرا على نماذج تعلم الآلات مع صعود تعلم التحويل ونماذج اللغة المدربة مسبقا.تقدم هذه الورقة نهجنا الذي فاز في المرتبة الأولى في المهمة السامية 1 (Sub STASK1).لقد حسبنا درجة تعقيد كلمة من 0-1 داخل النص.لقد تم تصنيفنا في المرتبة الأولى في المسابقة باستخدام نماذج اللغة المدربة مسبقا بيرت روبرتا، مع درجة ارتباط بيرسون من 0.788.

الأسئلة المقترحة

التعليقات
جاري جلب التعليقات جاري جلب التعليقات
سجل دخول لتتمكن من متابعة معايير البحث التي قمت باختيارها
mircosoft-partner

هل ترغب بارسال اشعارات عن اخر التحديثات في شمرا-اكاديميا