السيطرة على نمط الوقت الاستدلال للتخصيص

كيفية إنشاء ملخصات من أنماط مختلفة دون مطالبة كوربورا في الأساليب المستهدفة، أو تدريب نماذج منفصلة؟نقدم أساليب رواية يمكن نشرها أثناء فك التشفير الموجز على أي نموذج تلخيص مقرها المحولات المدرب مسبقا.(1) تعديل حالة وحدة فك التشفير يعدل على الفور حالات فك الترميز النهائية مع هدنات النمط المدربين خارجيا، لإثارة تحسين الإخراج مقابل نمط مستهدف.(2) تنبؤ وحدة الكلمة تقييد استخدام كلمة لفرض عنصر تحكم جذاب قوي أثناء التوليد.في تجارب تلخص مع التحكم في البساطة، يجد التقييم التلقائي والقضاة البشري نماذجنا المنتجة للنواتج بلغات أبسط بينما لا تزال مفيدة.ونحن نولد أيضا عناوين الأخبار مع العديد من الميول الإيديولوجية، والتي يمكن تمييزها من قبل البشر مع احتمال معقول.

How to generate summaries of different styles without requiring corpora in the target styles, or training separate models? We present two novel methods that can be deployed during summary decoding on any pre-trained Transformer-based summarization model. (1) Decoder state adjustment instantly modifies decoder final states with externally trained style scorers, to iteratively refine the output against a target style. (2) Word unit prediction constrains the word usage to impose strong lexical control during generation. In experiments of summarizing with simplicity control, automatic evaluation and human judges both find our models producing outputs in simpler languages while still informative. We also generate news headlines with various ideological leanings, which can be distinguished by humans with a reasonable probability.