BBAEG: Towards BERT-based Biomedical Adversarial Example Generation for Text Classification

التحليلات التنبؤية للرعاية الصحية الإيدز صنع القرار الطبي، تنبؤ التشخيص وتحليل مراجعة المخدرات. لذلك، دقة التنبؤ هي معايير مهمة تستلزم أيضا نماذج لغة تنبؤية قوية. ومع ذلك، فقد أثبتت النماذج باستخدام التعلم العميق عرضة للخطر تجاه حالات الإدخال المضطربة بشكل غير ضئيل والتي من المحتمل أن تكون مؤلفة من قبل البشر. شهدت الجهود الأخيرة لتوليد الخصوم باستخدام المرادفات القائمة على القواعد ومصدرها في مجال عام، ولكن الأدب الطبي الطبيعي المتزايد يشكل تحديات فريدة من نوعها. نقترح BBAEG (جيلات مثالية مقراوعة من المخدرات الطبية Biomedical)، خوارزمية هجومية من الصندوق الأسود لتصنيف النص الطبي الطبيعي، حيث تستفيد من نقاط القوة من استبدال مرادف خاص بالمجال للكيانات المسماة الطبية الحيوية وتوقعات Bert-MLM، والتباين الإملائي واستبدال الأرقام. من خلال التقييم التلقائي والإنساني على مجموعة بيانات، نوضح أن BBAEG تؤدي هجوما أقوى بطلاقة بلغة أفضل، والتماسك الدلالي مقارنة بالعمل السابق.

Healthcare predictive analytics aids medical decision-making, diagnosis prediction and drug review analysis. Therefore, prediction accuracy is an important criteria which also necessitates robust predictive language models. However, the models using deep learning have been proven vulnerable towards insignificantly perturbed input instances which are less likely to be misclassified by humans. Recent efforts of generating adversaries using rule-based synonyms and BERT-MLMs have been witnessed in general domain, but the ever-increasing biomedical literature poses unique challenges. We propose BBAEG (Biomedical BERT-based Adversarial Example Generation), a black-box attack algorithm for biomedical text classification, leveraging the strengths of both domain-specific synonym replacement for biomedical named entities and BERT-MLM predictions, spelling variation and number replacement. Through automatic and human evaluation on two datasets, we demonstrate that BBAEG performs stronger attack with better language fluency, semantic coherence as compared to prior work.