عوارض ستوكاستيك مشروطة


الملخص بالعربية

Beam Search هي استراتيجية فك التشفير الافتراضية للعديد من مهام توليد التسلسل في NLP. مجموعة من العناصر K-Best التقريبية التي تم إرجاعها بواسطة الخوارزمية هي ملخص مفيد للتوزيع للعديد من التطبيقات؛ ومع ذلك، عادة ما تظهر المرشحين تداخلا كبيرا وقد يعطي تقديرا متحيزين للغاية للتوقعات تحت نموذجنا. يمكن معالجة هذه المشكلات من خلال استخدام استراتيجيات فك تشفير الاستوكاستك. في هذا العمل، نقترح طريقة جديدة لتحويل البحث الشعاع في عملية عموقة: البحث الشرطي Poisson Stochastic Search. بدلا من اتخاذ تعظيم المجموعة في كل تكرار، ونحن نعمل عينة من المرشحين k دون استبدال وفقا لتصميم أخذ العينات poisson الشرطية. نعتبر ذلك بديلا أكثر طبيعية ل Kool et al. (2019) بحث شعاع ستوكاستيك (SBS). علاوة على ذلك، نوضح كيف يمكن استخدام العينات التي تم إنشاؤها تحت تصميم CPSBS لبناء مقدرات متسقة وعينة مجموعات متنوعة من نماذج التسلسل. في تجاربنا، نلاحظ CPSBS تنتج التباين المنخفض ومقدرات أكثر كفاءة من SBS، حتى إظهار التحسينات في إعدادات Enterpy عالية.

المراجع المستخدمة

https://aclanthology.org/

تحميل البحث