هل يمكن استخدام المحولات كحل قطرة لاستخراج RNNS في Ganes التي توليد النص؟


الملخص بالعربية

في هذه الورقة، نتعلم مشكلة توليد النصوص الدقيقة بميزانية حسابية محدودة.لذلك، نستخدم هندسة شبكة مصممة ذات أداء أداء جيدا (GAN) - Gan التي ترويج التنوع (DPGAN)، وحاول استبدال قطرة LSTM بطبقة محول ذاتية انتباهي من أجل الرافعة الماليةكفاءتهم.تم تقييم DPGan الناتج عن النفس (SADPGAN) للأداء والجودة والتنوع للنص والاستقرار الناتج.تشير التجارب الحاسوبية إلى أن بنية محول غير قادرة على الاسترجاع في استبدال طبقة LSTM، ضمان الأداء أثناء مرحلة التدريب المسبق وتخضع لانهيار الوضع الكامل أثناء مرحلة ضبط GAN.تشير نتائجنا إلى أن الهندسة المعمارية المحول تحتاج إلى تكييفها قبل أن يتم استخدامها كإعداد لاستبدال RNNS في قانع إنشاء النصوص.

المراجع المستخدمة

https://aclanthology.org/

تحميل البحث