تصف هذه الورقة تقديم فريقنا من أجل تعدين وسائل التواصل الاجتماعي للصحة (SMM4H) 2021 المهمة المشتركة.شاركنا في ثلاث مجموعات فرعية: تصنيف تأثير المخدرات السلبي، والتقرير الذاتي Covid-19، وأعراض Covid-19.يعتمد نظامنا على نموذج Bert المدرب مسبقا على النص الخاص بالمجال.بالإضافة إلى ذلك، نقوم بإجراء تنظيف البيانات والتكبير، بالإضافة إلى تحسين فرط التنفس وفرقة نموذجية لتعزيز أداء بيرت.حققنا الرتبة الأولى في كل من تأثيرات المخدرات الضارة ومهام التقرير الذاتي CovID-19.