اجتذبت تحليل المعنويات الفئة في الآراء اهتمام الأبحاث المتزايد.تستخدم الأساليب المهيمنة نماذج لغة مدربة مسبقا عن طريق تعلم تمثيلات فعالة من الفئة من الفئة، وإضافة طبقات إخراج محددة إلى تمثيلها المدرب مسبقا.نحن نعتبر طريقة أكثر مباشرة لاستخدام نماذج اللغة المدربة مسبقا، من خلال إلقاء مهام ACSA في مهام توليد اللغة الطبيعية، باستخدام جمل اللغة الطبيعية لتمثيل الإخراج.تتيح لطريقتنا استخدام المزيد من الاستخدام المباشر للمعرفة المدربة مسبقا في طرازات اللغة SEQ2SEQ من خلال إعداد المهام مباشرة أثناء التدريب المسبق.تشير التجارب في العديد من المعايير إلى أن طريقتنا تمنح أفضل النتائج المبلغ عنها، حيث توجد مزايا كبيرة في إعدادات قليلة وإعدادات طلقة صفرية.