ترغب بنشر مسار تعليمي؟ اضغط هنا

SGG: تعلم تحديد، توجيه، وإنشاء جيل تسمم

SGG: Learning to Select, Guide, and Generate for Keyphrase Generation

287   0   0   0.0 ( 0 )
 تاريخ النشر 2021
  مجال البحث الذكاء الاصناعي
والبحث باللغة English
 تمت اﻹضافة من قبل Shamra Editor




اسأل ChatGPT حول البحث

يمكن تصنيف الأجهزة المحمولة، التي تلخص تماما المواضيع الرفيعة المستوى التي تمت مناقشتها في وثيقة، في عبارة البصرة الحالية التي تظهر صراحة في النص المصدر والفتحية الغائبة التي لا تتطابق مع أي لاحق متجاور ولكنه مرتبط للغاية بالمصدر. معظم نهج توليد مفاتيح المفاتيح الموجودة تولد بمتزامنة خط أساتيجية موجودة وتغيب دون تمييز هذه الفئتين بشكل صريح. في هذه الورقة، يقترح اقتراح نهج محدد (SGG) في التعامل مع توليد الجماهير الموجود والمجابطة الحاضر بشكل منفصل مع آليات مختلفة. على وجه التحديد، SGG هي شبكة عصبية هرمية تتألف من محدد مقرا لها في طبقة منخفضة تتركز على جيل المفتاح الحالي، ومولد موجه في الاختيار في طبقة عالية مخصصة للتغيب عن جيل تسخير الغيام، ووحشية في المنتصف معلومات من محدد للمولد. النتائج التجريبية على أربعة معايير توليد مفاتيح المفاتيح توضح فعالية طرازنا، والتي تتفوق بشكل كبير على خطوط الأساس القوية لكلا الجداول الرائعة الحالية والمغادرة. علاوة على ذلك، فإننا نقدم SGG إلى مهمة توليد العنوان تشير إلى إمكانية قدرتها على مهام توليد اللغة الطبيعية.



المراجع المستخدمة
https://aclanthology.org/
قيم البحث

اقرأ أيضاً

تستخدم أنظمة الرد على السؤال المرئي الحالي (VQA) بشكل شائع الشبكات العصبية الرسم البيانية (GNNS) لاستخراج العلاقات البصرية مثل العلاقات الدلالية أو العلاقات المكانية. ومع ذلك، فإن الدراسات التي تستخدم GNNS تتجاهل عادة أهمية كل علاقة وتسلسل ببساطة الن واتج من ترميز العلاقات المتعددة. في هذه الورقة، نقترح هندسة طبقة جديدة تضرب علاقات مرئية متعددة من خلال آلية الاهتمام لمعالجة هذه المسألة. على وجه التحديد، نقوم بتطوير نموذج يستخدم تضمين السؤال ومضمون مشترك للمشفرين للحصول على أوزان الاهتمام الديناميكي فيما يتعلق بنوع الأسئلة. باستخدام الأوزان الاهتمام بالترفيه، يمكن للنموذج المقترح استخدام ميزات العلاقة المرئية اللازمة لسؤال معين. النتائج التجريبية على DataSet VQA 2.0 توضح أن النموذج المقترح تفوق الفنيات القائمة على الرسم البياني القائمة على شبكة الإنترنت. بالإضافة إلى ذلك، نقوم بتصور وزن الاهتمام وإظهار أن النموذج المقترح يعين وزن أعلى للعلاقات الأكثر صلة بالمسألة.
يقدم البشر ردود مناسبة لا يستند فقط إلى كلام الحوار السابق ولكن أيضا على المعرفة الخلفية الضمنية مثل الحس السليم. على الرغم من أن نماذج توليد الاستجابة العصبية تنتج ردود تشبه الإنسان، إلا أنها في الغالب من طرفا ولا تولد أسباب وسيطة بين تاريخ الحوار و الردود. يهدف هذا العمل إلى الدراسة إذا وكيف يمكننا تدريب نموذج RG الذي يتحدث عن نفسه لتوليد معرفة ضمنية قبل تقديم ردود. نحن نحقق مزيد من التحقيق في هذه النماذج عندما تولد معرفة خلفية ضمنية وعندما لا يكون ذلك ضروريا. تظهر النتائج التجريبية مقارنة بالنماذج التي تولد الردود مباشرة بالنظر إلى تاريخ الحوار، وتنتج نماذج الحديث الذاتي استجابات أفضل بجودة وفقا للتقييم البشري على الحكم النحوي والتماسك والعمل. والنماذج التي يتم تدريبها على تحديد متى يتحدث التحدث الذاتي إلى تحسين جودة الاستجابة. تبين تحليل المعرفة الضمنية الناتجة أن الطرز تستخدم معظمها المعرفة بشكل مناسب في الردود.
شهدت السنوات الأخيرة ازدهارا من أعمال جيل المفاتيح العصبي (KPG)، بما في ذلك إصدار العديد من البيانات واسعة النطاق ومجموعة من النماذج الجديدة لمعالجةها.زاد أداء النموذج على مهام KPG بشكل كبير مع أبحاث التعلم العميق المتطور.ومع ذلك، يفتقر إلى مقارنة شا ملة بين مختلف التصاميم النموذجية، والتحقيق الشامل على العوامل ذات الصلة التي قد تؤثر على أداء تعميم نظام KPG.في هذه الدراسة التجريبية، نهدف إلى ملء هذه الفجوة من خلال توفير نتائج تجريبية واسعة وتحليل العوامل الأكثر أهمية التي تؤثر على تعميم نماذج KPG.نأمل أن تساعد هذه الدراسة في توضيح بعض الشكوك المحيطة بمهمة KPG وتسهيل البحث في المستقبل حول هذا الموضوع.
أدت التطورات الأخيرة في الشبكات العصبية إلى التقدم في توليد البيانات إلى النص.ومع ذلك، فإن الافتقار إلى قدرة النماذج العصبية للسيطرة على هيكل الإخراج الذي تم إنشاؤه يمكن أن يحد في بعض تطبيقات العالم الحقيقي.في هذه الدراسة، نقترح إطارا جديدا لخطة الرو اية (Plangen) لتحسين قابلية تحكم نماذج البيانات النصية العصبية.يتم إجراء تجارب واسعة من التجارب والتحليلات على مجموعة من مجموعات البيانات القياسية، Totto و Webnlg.تظهر النتائج أن نموذجنا قادر على التحكم في كل من الجملة داخل الجملة وبنية الجملة بين الإخراج الناتج.علاوة على ذلك، تظهر المقارنات التجريبية ضد الأساليب السابقة من الأساليب السابقة أن نموذجنا يحسن جودة التوليد وكذلك تنوع الإخراج عند الحكم على التقييمات البشرية والآلية.
يعد إعادة صياغة نص إعادة صياغة مهمة NLP طويلة الأمد لديها تطبيقات متنوعة على مهام NLP المصب. ومع ذلك، تعتمد فعالية الجهود الحالية في الغالب على كميات كبيرة من البيانات الذهبية المسمى. على الرغم من أن المساعي غير الخاضعة للإشعال قد اقترحت تخفيف هذه ال مسألة، إلا أنها قد تفشل في توليد صياغة هادفة بسبب عدم وجود إشارات الإشراف. في هذا العمل، نذهب إلى أبعد من النماذج الحالية واقتراح نهج رواية لتوليد صياغة عالية الجودة مع بيانات الإشراف الضعيف. على وجه التحديد، نتعامل مع مشكلة توليد إعادة صياغة الإشراف ضعيفا من خلال: (1) الحصول على جمل متوازية ضعيفة وفرة عن طريق توسيع إعادة صياغة الزائفة القائمة على استرجاع؛ و (2) تطوير إطار تعليمي التعلم إلى تحديد عينات قيمة تدريجيا لضبط النموذج اللغوي المدرب مسبقا في مهمة إعادة توجيهها مسبقا في مهمة إعادة الصياغة الخطية. نوضح أن نهجنا يحقق تحسينات كبيرة على النهج القائمة غير المدمرة، وهو ما يمكن قابلة للمقارنة في الأداء مع أحدث من الفنون المغلفة.

الأسئلة المقترحة

التعليقات
جاري جلب التعليقات جاري جلب التعليقات
سجل دخول لتتمكن من متابعة معايير البحث التي قمت باختيارها
mircosoft-partner

هل ترغب بارسال اشعارات عن اخر التحديثات في شمرا-اكاديميا