نماذج لغة التدريب تحت قيود الموارد للكشف عن المعددي

الإعلان عن التجارة الإلكترونية ومواقع وسائل التواصل الاجتماعي تقدم انطباعات إعلانية على نطاق الويب بقيمة قيادة يومية لكل من المتسوقين والمعلنين.يتطلب هذا المقياس طرقا برنامجية للكشف عن محتوى غير مناسب في الإعلانات لحماية تجربة العملاء والثقة.يركز هذه الورق على تقنيات تدريب نماذج تصنيف النص بموجب قيود الموارد، بنيت كجزء من الحلول الآلية للاعتدال محتوى الإعلان.نظير على مدى ضعف الإشراف، يمكن تطبيق تعلم المناهج الدراسية والتدريب متعدد اللغات بفعالية على Tune-Tune Bert ومتغيراته لمهام تصنيف النص بالاقتران مع مختلف استراتيجيات تكبير البيانات.تبين تجاربنا الواسعة لغات متعددة أن هذه التقنيات تكتشف فئات الإعلانات العدائية مع مكاسب كبيرة في الدقة في عتبة استدعاء عالية فوق الأساس.

Advertising on e-commerce and social media sites deliver ad impressions at web scale on a daily basis driving value to both shoppers and advertisers. This scale necessitates programmatic ways of detecting unsuitable content in ads to safeguard customer experience and trust. This paper focusses on techniques for training text classification models under resource constraints, built as part of automated solutions for advertising content moderation. We show how weak supervision, curriculum learning and multi-lingual training can be applied effectively to fine-tune BERT and its variants for text classification tasks in conjunction with different data augmentation strategies. Our extensive experiments on multiple languages show that these techniques detect adversarial ad categories with a substantial gain in precision at high recall threshold over the baseline.