ترغب بنشر مسار تعليمي؟ اضغط هنا

طرق فك تشفير الجيل السرد العصبي

Decoding Methods for Neural Narrative Generation

342   0   0   0.0 ( 0 )
 تاريخ النشر 2021
  مجال البحث الذكاء الاصناعي
والبحث باللغة English
 تمت اﻹضافة من قبل Shamra Editor




اسأل ChatGPT حول البحث

الجيل السردي هو مهمة NLP مفتوحة العضوية التي يولد فيها نموذج قصة إعطاء موجه.المهمة تشبه توليد الاستجابة العصبية لل Chatbots؛ومع ذلك، غالبا ما لا يتم تطبيق الابتكارات في توليد الاستجابة على جيل سرد، على الرغم من التشابه بين هذه المهام.نحن نهدف إلى سد هذه الفجوة من خلال تطبيق وتقييم التقدم في طرق فك تشفير جيل الاستجابة العصبية إلى توليد السرد العصبي.على وجه الخصوص، نحن نوظف GPT-2 وأداء الأزمة عبر عتبات أخذ العينات النواة ومثبتة تنوعا فرطيا مثبطا --- على وجه التحديد، والحد الأقصى للمعلومات المتبادلة - - تحليل النتائج على معايير متعددة مع التقييم التلقائي والإنساني.نجد أن (1) أخذ عينات نواة أفضل عموما مع عتبات بين 0.7 و 0.9؛(2) الحد الأقصى لهدف المعلومات المتبادلة يمكن أن يحسن نوعية القصص التي تم إنشاؤها؛و (3) لا ترتبط مقاييس التلقائية المنشأة بشكل جيد مع الأحكام الإنسانية لجودة السرد على أي متري نوعي.



المراجع المستخدمة
https://aclanthology.org/
قيم البحث

اقرأ أيضاً

غالبا ما يتطلب جيل النص الشرطي القيود المعجمية، أي الكلمات التي يجب أو لا ينبغي إدراجها في نص الإخراج. في حين أن الوصفة المهيمنة لجيل النظام الشرطي كانت نماذج لغوية متماثلة على نطاق واسع يتم تصويرها على بيانات التدريب الخاصة بمهام المهام، فإن مثل هذه النماذج لا تتعلم اتباع القيود الأساسية بشكل موثوق، حتى عند الإشراف على كميات كبيرة من الأمثلة الخاصة بمهام المهام وبعد نقترح فك التشفير العصبي، خوارزمية بسيطة ولكنها فعالة تمكن نماذج اللغة العصبية - تحت إشراف أو لا - لتوليد نص بطلاقة مع مرضية القيود المعقدة المعقدة. نهجنا قوي بعد كفاءة. يتعامل مع أي مجموعة من القيود المعجمية المعبرة تحت المنطق المسند، في حين أن وقت التشغيل مقاربها يعادل البحث عن شعاع التقليدية. تظهر النتائج التجريبية على أربعة معايير أن فك التشفير العصبي تتفوق على النهج السابقة، بما في ذلك الخوارزميات التي تتعامل مع مجموعة فرعية من قيودنا. علاوة على ذلك، نجد أن النماذج غير الخاضعة للكشف عن فك التشفير العصبي في كثير من الأحيان تفوق النماذج الخاضعة للإشراف مع فك التشفير التقليدي، حتى عندما تستند الأخير إلى شبكات أكبر بكثير. تشير نتائجنا إلى حد الشبكات العصبية واسعة النطاق لتوليد القابل للتحكم بالقلق ووعد خوارزميات وقت الاستقدمية.
إن فهم مشاعر المتكلم وإنتاج الاستجابات المناسبة مع اتصال العاطفة هو مهارة متتالية رئيسية لأنظمة الحوار التعاطفية.في هذه الورقة، نقترح تقنية بسيطة تسمى فك الترميز العاطفي لتوليد الاستجابة المتعاطفة.يمكن أن تتضمن طريقةنا بفعالية إشارات العاطفة أثناء كل خطوة فك التشفير، ويمكن تقديمها بالإضافة إلى ذلك بتشمس العاطفة المزدوجة الإضافية، والتي تتعلم تضمين منفصل للمتكلم والمستمع بالنظر إلى قاعدة العاطفة للحوار.تشير الدراسات التجريبية الواسعة إلى أن نماذجنا تعتبر أكثر تعاطفا عن طريق التقييمات البشرية، بالمقارنة مع العديد من الأساليب الرئيسية القوية للاستجابة التعاطفية.
تعتمد معظم نماذج الترجمة الآلية العصبية الحالية ترتيب فك التشفير الرخيصي إما من اليسار إلى اليمين أو اليمين إلى اليسار.في هذا العمل، نقترح طريقة رواية تنفصل قيود أوامر فك التشفير هذه، تسمى فك تشفير الذكية.وبشكل أكثر تحديدا، تتوقع طريقةنا أولا كلمة مت وسط.يبدأ فك شفرة الكلمات الموجودة على الجانب الأيمن من الكلمة المتوسطة ثم يولد كلمات على اليسار.نحن نقيم طريقة فك التشفير الذكية المقترحة على ثلاث مجموعات البيانات.تظهر النتائج التجريبية أن الطريقة المقترحة يمكن أن تتفوق بشكل كبير على النماذج الأساسية القوية.
على مدار العقد الماضي، طورت مجال معالجة اللغة الطبيعية مجموعة واسعة من الأساليب الحسابية لمعرفة الرواية، بما في ذلك تلخيص، استنتاج المنطقي، والكشف عن الحدث.في حين أن هذا العمل قد جلب عدسة تجريبية مهمة لفحص السرد، فهو مطلقات كبيرة من الجسم الكبير من ا لعمل النظري على السرد داخل العلوم الإنسانية والاجتماعية والعلوم المعرفية.في هذه الورقة الموضعية، نقدم الأطر النظرية المهيمنة إلى مجتمع NLP، وتوليد البحوث الحالية في NLP داخل التقاليد السريعة المميزة، وتجادل أن ربط العمل الحسابي في NLP بالنظرية يفتح مجموعة من الأسئلة التجريبية الجديدة التي من شأنها أن تساعد كلاهما في التقدم لدينافهم السرد وفتح تطبيقات عملية جديدة.
وقد مكن التحول إلى النماذج العصبية في إحالة الجيل التعبير (REG) المزيد من النماذج الطبيعية، ولكن بتكلفة الترجمة الترجمة الشفوية.نجاد بأن دمج المنطق العملي في استنتاج نماذج التوليد غير المرجعية للسياق يمكن أن يتجاوز سمات REG التقليدية والعملية، لأن هذ ا يوفر فصل بين المعلومات المستقلة والمعلومات الحرفية والتكيف العملي إلى السياق.مع وضع ذلك في الاعتبار، نطبق استراتيجيات فك تشفيرها الحالية من التسمية التوضيحية للصورة التمييزية إلى REG وتقييمها من حيث المعلوماتية العملية، والاحتمالية في التعليقات التوضيحية حول الحقيقة والتنوع اللغوي.تظهر نتائجنا فعالية عامة، ولكن مكاسب صغيرة نسبيا في المعلوماتية، مما أثار أسئلة مهمة ل Reg بشكل عام.

الأسئلة المقترحة

التعليقات
جاري جلب التعليقات جاري جلب التعليقات
سجل دخول لتتمكن من متابعة معايير البحث التي قمت باختيارها
mircosoft-partner

هل ترغب بارسال اشعارات عن اخر التحديثات في شمرا-اكاديميا