Soochowds في المهمة المشتركة Rocling-2021: تحليل معنويات النص باستخدام Bert و LSTM

في هذه المهمة المشتركة، تقترح هذه الورقة طريقة للجمع بين نموذج ناقلات Word القائم على BERT ومقدمة تنبؤ LSTM للتنبؤ بقيم التكافؤ والإثارة في النص.من بينها، ناقل الكلمات المستند إلى بيرت هو 768 ثيم، ويتم تغذية كل ناقلات كلمة في الجملة بالتتابع لطراز LSTM للتنبؤ.تظهر النتائج التجريبية أن أداء طريقة لدينا المقترحة أفضل من نتائج نموذج الانحدار لاسو.

In this shared task, this paper proposes a method to combine the BERT-based word vector model and the LSTM prediction model to predict the Valence and Arousal values in the text. Among them, the BERT-based word vector is 768-dimensional, and each word vector in the sentence is sequentially fed to the LSTM model for prediction. The experimental results show that the performance of our proposed method is better than the results of the Lasso Regression model.