ترغب بنشر مسار تعليمي؟ اضغط هنا

وحدة فك الترميز القائم على GNN لتوليد السؤال

Iterative GNN-based Decoder for Question Generation

303   0   0   0.0 ( 0 )
 تاريخ النشر 2021
  مجال البحث الذكاء الاصناعي
والبحث باللغة English
 تمت اﻹضافة من قبل Shamra Editor




اسأل ChatGPT حول البحث

تهدف توليد السؤال الطبيعي (QG) إلى توليد أسئلة من مقطع، ويتم الرد على الأسئلة التي تم إنشاؤها من المقطع.معظم النماذج مع نموذج الأداء الحديث النص الذي تم إنشاؤه سابقا في كل خطوة فك التشفير.ومع ذلك، (1) يتجاهلون معلومات الهيكل الغني المخفية في النص الذي تم إنشاؤه سابقا.(2) يتجاهلون تأثير الكلمات المنسوخة على مرور.ندرك أن المعلومات في الكلمات التي تم إنشاؤها مسبقا بمثابة معلومات مساعدة في الجيل اللاحق.لمعالجة هذه المشكلات، نقوم بتصميم وحدة فك الترميز المستندة إلى شبكة الرسم البياني للتكرار (IGND) لنموذج الجيل السابق باستخدام شبكة عصبية رسم بيانية في كل خطوة فك التشفير.علاوة على ذلك، يلتقط نموذج الرسم البياني لدينا علاقات التبعية في المقطع الذي يعزز الجيل.توضح النتائج التجريبية أن نموذجنا يتفوق على النماذج الحديثة مع مهام QG على مستوى الجملة على مجموعات بيانات الفريق وماركو.



المراجع المستخدمة
https://aclanthology.org/
قيم البحث

اقرأ أيضاً

تعرض مشكلة الإجابة على الأسئلة التي تستخدم المعرفة من طرازات اللغة المدربة مسبقا (LMS) ورسم الرسوم البيانية المعرفة (KGS) تحديين: بالنظر إلى سياق ضمان الجودة (اختيار الأسئلة والأجوبة)، فإن الأساليب تحتاج إلى (I) تحديد المعرفة ذات الصلة من KGS الكبيرة ،و (2) أداء التفكير المشترك في سياق ضمان الجودة و KG.هنا نقترح نموذجا جديدا، QA-GNN، الذي يتناول التحديات المذكورة أعلاه من خلال ابتكارات رئيسيتين: (ط) تسجيل الملاءمة، حيث نستخدم LMS لتقدير أهمية عقد KG بالنسبة إلى سياق ضمان الجودة المحدد، و (2) مشتركالتفكير، حيث نتواصل مع سياق ضمان الجودة و KG لتشكيل رسم بياني مشترك، وتحديث خصائصها المتبادلة من خلال رسالة الرسوم البيانية القائمة على الرسم البياني.نقوم بتقييم QA-GNN على مجموعات بيانات Commonsenseenseqa و OpenBookqa، وإظهار تحسنها على نماذج LM و LM + KG الحالية، وكذلك قدرتها على أداء التفكير القابل للتفسير والمنظم، على سبيل المثال، المناولة الصحيحة في الأسئلة.
إن فهم مشاعر المتكلم وإنتاج الاستجابات المناسبة مع اتصال العاطفة هو مهارة متتالية رئيسية لأنظمة الحوار التعاطفية.في هذه الورقة، نقترح تقنية بسيطة تسمى فك الترميز العاطفي لتوليد الاستجابة المتعاطفة.يمكن أن تتضمن طريقةنا بفعالية إشارات العاطفة أثناء كل خطوة فك التشفير، ويمكن تقديمها بالإضافة إلى ذلك بتشمس العاطفة المزدوجة الإضافية، والتي تتعلم تضمين منفصل للمتكلم والمستمع بالنظر إلى قاعدة العاطفة للحوار.تشير الدراسات التجريبية الواسعة إلى أن نماذجنا تعتبر أكثر تعاطفا عن طريق التقييمات البشرية، بالمقارنة مع العديد من الأساليب الرئيسية القوية للاستجابة التعاطفية.
نظرا للتدريب الفعال من خلال التدريب والطلاقة في النصوص المتولدة، يتم اقتراح العديد من النماذج القائمة على إطار ترميز وحدة فك الترميز في مؤخرا للأجيال إلى نص البيانات. الترميز المناسب لبيانات الإدخال هو جزء أساسي من نماذج وحدة فك التشفير هذه. ومع ذلك، ركزت فقط عدد قليل من الأعمال البحثية على أساليب الترميز السليم. تعرض هذه الورقة نموذجا جديدا لتنسيق البيانات إلى ترميز ترميز الترميز، حيث يرميز التشفير المقترح بعناية بيانات الإدخال وفقا للهيكل الأساسي للبيانات. يتم تقييم فعالية التشفير المقترح على حد سواء على حد سواء على حد سواء من خلال بيانات الإدخال خارج نطاق البيانات دون تغيير معنى تلك البيانات. لاختيار معلومات المحتوى المناسبة في البيانات المشفرة من التشفير، يشتمل النموذج المقترح على بوابات الاهتمام في وحدة فك الترميز. مع تجارب واسعة على DataSet Wikibio و E2E، نوضح أن النموذج لدينا يفوق على أحدث النماذج والعديد من أنظمة خط الأساس القياسية. تحليل النموذج من خلال اختبارات الأزمة المكونة والتقييم البشري يؤيد النموذج المقترح كنظام مؤلف جيدا.
على الرغم من الأداء الممتاز في مهام مثل الإجابة على الأسئلة، تظل الهيغات القائمة على المحولات حساسة للمغوصات النحوية والسياقية. توفر إعادة صياغة الأسئلة (QP) حلا واعدا كوسيلة لزيادة مجموعات البيانات الحالية. تتضمن التحديات الرئيسية لنماذج QP الحالية عدم وجود بيانات تدريبية وصعوبة في توليد أسئلة متنوعة وطبيعية. في هذه الورقة، نقدم الفتح، إطارا لتوليد مجموعات البيانات الاصطناعية للحصول على إعادة صياغة الأسئلة السياقية. تحقيقا لهذه الغاية، توظف الفتح أولا نموذج جيل سؤال للإجابة (QG) لإنشاء مجموعة بيانات سؤال-زوج ثم يستخدم هذه البيانات لتدريب نموذج إعادة صياغة الأسئلة السياقية. نقوم بتقييم الفتح على نطاق واسع وإظهار قدرتها على إنتاج أزواج أسئلة متنوعة وطلاقة أكثر من الأساليب الحالية. ينشئ نموذج إعادة الصياغة السياقية لدينا أيضا خط أساس قوي للحصول على إعادة صياغة سياقية نهاية إلى نهاية. علاوة على ذلك، نجد أن السياق يمكن أن يحسن النتيجة BLEU-1 على الضغط السياقي والتوسع بنسبة 4.3 و 11.2 على التوالي، مقارنة بنموذج غير سياقي.
وسط ارتفاع احتياجات الصحة العقلية في المجتمع، يتم نشر العوامل الافتراضية بشكل متزايد في المشورة. من أجل تقديم المشورة ذات الصلة، يجب على المستشارين أولا الحصول على فهم للقضايا المطروحة من خلال إظهار التقاسم من المستشار. من المهم وبالتالي بالنسبة للمس تشار Chatbot لتشجيع المستخدم على الانفتاح والتحدث. إحدى الطرق للحفاظ على تدفق المحادثة هي الاعتراف بالنقاط الرئيسية لاستشار المستشار عن طريق إعادة استخدامها، أو تحقيقها أكثر مع الأسئلة. تطبق هذه الورقة نماذج من مهام PLLP ذات الصلة ارتباطا وثيقا --- تلخيص وتوليد الأسئلة --- لإعادة التعميد وتوليد السؤال في سياق المشورة. أجرينا تجارب على مجموعة بيانات مشروحة يدويا من أزواج الكانتونية بعد الرد على الموضوعات المتعلقة بالوحدة والقلق الأكاديمي والقلق الاختبار. لقد حصلنا على أفضل أداء في كلا من إعادة تناوله وتوليد الأسئلة من خلال Bertsum Berting، وهو نموذج تلخيص حديثة، مع مجموعة البيانات اليدوية داخل المجال المعزز بمجموعة بيانات مفتوحة واسعة النطاق تلقائيا.

الأسئلة المقترحة

التعليقات
جاري جلب التعليقات جاري جلب التعليقات
سجل دخول لتتمكن من متابعة معايير البحث التي قمت باختيارها
mircosoft-partner

هل ترغب بارسال اشعارات عن اخر التحديثات في شمرا-اكاديميا