LEVI Graph AMR Parser باستخدام اهتمام غير متجانس

إلى جانب رزق BiAffine، تم تكييف المحولات بفعالية مع تحويل الرسائل النصية وحققت أداء حالة من الفن على تحليل عمرو.ومع ذلك، فإن العديد من الأعمال السابقة تعتمد على فك تشفير BiAffine لأي منهما أو كلا من القوس والملصقات على الرغم من أن معظم الميزات المستخدمة من قبل وحدة فك الترميز قد تتعلم من قبل المحول بالفعل.تقدم هذه الورقة نهجا جديدا لتحليل عمرو من خلال الجمع بين البيانات غير المتجانسة (الرموز والمفاهيم والملصقات) كإدخال واحد إلى محول لتعلم الانتباه، واستخدام مصفوفات الاهتمام فقط من المحول للتنبؤ بجميع العناصر في الرسوم البيانية AMR (المفاهيم، الأقواس،تسميات).على الرغم من أن نماذجنا تستخدم معلمات أقل بكثير من محلل الرسم البياني للحالة السابقة، فإنها تظهر دقة مماثلة أو أفضل على عمرو 2.0 و 3.0.

Coupled with biaffine decoders, transformers have been effectively adapted to text-to-graph transduction and achieved state-of-the-art performance on AMR parsing. Many prior works, however, rely on the biaffine decoder for either or both arc and label predictions although most features used by the decoder may be learned by the transformer already. This paper presents a novel approach to AMR parsing by combining heterogeneous data (tokens, concepts, labels) as one input to a transformer to learn attention, and use only attention matrices from the transformer to predict all elements in AMR graphs (concepts, arcs, labels). Although our models use significantly fewer parameters than the previous state-of-the-art graph parser, they show similar or better accuracy on AMR 2.0 and 3.0.