لقد أثبتت العديد من الأعمال الحديثة أن تمثيل الجملة غير المدعومة بالشبكات العصبية تشفص من المعلومات النحوية من خلال مراقبة أن نماذج اللغة العصبية قادرة على التنبؤ بالاتفاقية بين الفعل وموضوعها.نأخذ نظرة حاسمة في خط البحث هذا من خلال إظهار أنه من الممكن تحقيق دقة عالية في مهمة هذه الاتفاقية ذات الاستدلال السطحي البسيط، مما يشير إلى وجود عيب محتمل في تقييمنا القدرة الأساسية للشبكات العصبية.تظهر تحليلاتنا الدقيقة للنتائج على اتفاقية الفعل الفرنسية الطويلة المدى أنه يتعارض مع LSTMS، والمحولات قادرة على التقاط كمية غير تافهة من الهيكل النحوي.