الكشف والاضطرب: إعادة كتابة محايدة للنص المتحيز والحساسة عبر فك التشفير المستندة إلى التدرج

اللغة المكتوبة تحمل تحيزات صريحة وتضيعة يمكن أن تصرفت عن إشارات ذات مغزى. على سبيل المثال، قد تصف خطابات المرجعية المرشحين الذكور والإناث بشكل مختلف، أو قد تكشف أسلوب الكتابة الخاصة بهم بشكل غير مباشر عن الخصائص الديموغرافية. في أحسن الأحوال، يصرف مثل هذه التحيزات عن المحتوى المجدي للنص؛ في أسوأ الأحوال يمكن أن تؤدي إلى نتائج غير عادلة. نحن نبحث في تحدي إعادة توليد جمل مدخلات لتحييد "السمات الحساسة" مع الحفاظ على المعنى الدلالي للنص الأصلي (E.G. هو المرشح المؤهل؟). نقترح إطار إعادة كتابة واستنادا في التدرج، والكشف عن وإقلاده لتحييد (DEPEN)، الذي يكتشف أولا مكونات حساسة ويخفيهن من أجل التجديد، ثم يزعج نموذج الجيل عند فك تشفير الوقت تحت قيد تحييد يدفع التوزيع (المتوقع) سمات نحو توزيع موحد. تظهر تجاربنا في سيناريوهات مختلفة أن DEPEN يمكن أن تجدد البدائل الطوفية محايدة في السمة الحساسة مع الحفاظ على دلالات السمات الأخرى.

Written language carries explicit and implicit biases that can distract from meaningful signals. For example, letters of reference may describe male and female candidates differently, or their writing style may indirectly reveal demographic characteristics. At best, such biases distract from the meaningful content of the text; at worst they can lead to unfair outcomes. We investigate the challenge of re-generating input sentences to neutralize' sensitive attributes while maintaining the semantic meaning of the original text (e.g. is the candidate qualified?). We propose a gradient-based rewriting framework, Detect and Perturb to Neutralize (DEPEN), that first detects sensitive components and masks them for regeneration, then perturbs the generation model at decoding time under a neutralizing constraint that pushes the (predicted) distribution of sensitive attributes towards a uniform distribution. Our experiments in two different scenarios show that DEPEN can regenerate fluent alternatives that are neutral in the sensitive attribute while maintaining the semantics of other attributes.