Longsumm 2021: نموذج تلخيص تلقائي في الجلسة المستند العلمي

تركز معظم مهمة التلخيص على توليد ملخصات قصيرة نسبيا.قد لا يكون هذا القيد الطول مناسبا عند تلخيص العمل العلمي.يحتاج المهمة LongsUMS إلى المشاركين الذين يولدون ملخصا طويلا للمستند العلمي.هذه المهمة المعتادة يمكن حلها حسب نموذج اللغة.ولكن هناك مشكلة مهمة هي أن النموذج مثل بيرت هو الحد من الذاكرة، ولا يمكن التعامل مع إدخال طويل مثل المستند.أيضا توليد إخراج طويل أمر صعب.في هذه الورقة، نقترح نموذجا موجزا في الدورة (SBAs) باستخدام جلسة وآلية فرقة لتوليد ملخص طويل.ونموذجنا يحصل على أفضل أداء في مهمة Longsumm.

Most summarization task focuses on generating relatively short summaries. Such a length constraint might not be appropriate when summarizing scientific work. The LongSumm task needs participants generate long summary for scientific document. This task usual can be solved by language model. But an important problem is that model like BERT is limit to memory, and can not deal with a long input like a document. Also generate a long output is hard. In this paper, we propose a session based automatic summarization model(SBAS) which using a session and ensemble mechanism to generate long summary. And our model achieves the best performance in the LongSumm task.