المحامون غير شريفة؟تحديد الأضرار التمثيلية في موارد المعرفة المنطقية

تحذير: تحتوي هذه الورقة على محتوى قد يكون مسيء أو مزعجا.تستخدم قواعد المعرفة المنطقية (CSKB) بشكل متزايد لمختلف مهام معالجة اللغة الطبيعية.نظرا لأن CSCBS هي في الغالب التي تم إنشاؤها في الغالب وقد تعكس التحيزات المجتمعية، من المهم التأكد من عدم الخلط بين هذه التحيزات بمفهوم المنطقية.نحن هنا نركز على اثنين من CSCBS واستخدامه على نطاق واسع، والفصح والنهاهي والنهاهي، وتأسيس وجود التحيز في شكل نوعين من الأضرار التمثيلية، والانتعاش في التصورات الاستقطابية وتفاوت التمثيل في مختلف المجموعات الديموغرافية في كلا CSCBS.بعد ذلك، نجد أضرارا تمثيلية مماثلة للنماذج المصب التي تستخدم المفاهيم.أخيرا، نقترح نهجا قائم على الترشيح لتخفيف هذه الأضرار، ويلاحظ أن نهجنا المستندات المرتبطا يمكن أن يقلل من المشكلات في كل من الموارد والنماذج ولكن يؤدي إلى انخفاض الأداء، مغادرة المجال للعمل في المستقبل لبناء نماذج المنطقية أكثر عدالة وأقوىوبعد

Warning: this paper contains content that may be offensive or upsetting. Commonsense knowledge bases (CSKB) are increasingly used for various natural language processing tasks. Since CSKBs are mostly human-generated and may reflect societal biases, it is important to ensure that such biases are not conflated with the notion of commonsense. Here we focus on two widely used CSKBs, ConceptNet and GenericsKB, and establish the presence of bias in the form of two types of representational harms, overgeneralization of polarized perceptions and representation disparity across different demographic groups in both CSKBs. Next, we find similar representational harms for downstream models that use ConceptNet. Finally, we propose a filtering-based approach for mitigating such harms, and observe that our filtered-based approach can reduce the issues in both resources and models but leads to a performance drop, leaving room for future work to build fairer and stronger commonsense models.