التحيّز Bias في التعلم الآلي يحدث عندما يقوم النظام او النموذج بافتراض علاقات بين كيانات معينة بناءا على تواجدها في البيانات التدريبية ولكنها غير صحيحة في الحالة العامة.
على سبيل المثال، في الترجمة الآلية، التحيّز الجنسي يحدث عندما تتم الترجمة من لغات لا تميز بين الجنس في الأسماء مثلا كلمة (Doctor) في اللغة الأنكليزية إلى لغات أخرى تميز الجنس في الأسماء مثل (دكتور او دكتورة) في اللغة العربية.
التحيّز يحصل عندما يقوم المترجم الآلي بترجمة كلمة Doctor إلى دكتور في العربية. على الرغم من أن أنظمة الترجمة الحالية قد تقدمت نوعا ما وتستفيد من السياق إلى ان مترجم غوغل اليوم سيقوم بترجمة الجملة التالية
: The doctor asked the nurse to help her in the operation
طلب الطبيب من الممرضة مساعدتها في العملية.
نلاحظ ان وجود الضمير Her لم يكن كافيا ليستنتج غوغل ان من طلب المساعدة هو أنثى وليس ذكر وبالتالي يجب ان يكون الفعل "طلبت" والفاعل "الطبيبة" او "الدكتورة".
لنجرّب مثال أخر لنعرض كيف افترض غوغل ان المقصود هو أنثى, على سبيل المثال سنقوم بترجمة الجملة التالية المأخوذة من وصفة طبخ:
In a large bowl, sift together the flour, baking powder, salt and sugar. Make a well in the center and pour in the milk, egg and melted butter; mix until smooth. Heat a lightly oiled griddle or frying pan over medium high heat
كما نلاحظ، لا يوجد أي دليل على ان التعليمات السابقة موجهة إلى ذكر أو أنثى, ولكن بما أن غوغل يقوم بشكل مستمر بالتعلم من الأنترنت (العربي في هذه الحالة) فقد لاحظ أن اغلب وصفات الطبخ العربية موجهة للإناث (بسبب ثقافي اجتماعي)، بالتالي كانت الترجمة عند كتابة هذا الجواب هي:
في وعاء كبير ، يُنخل الطحين والبيكنج بودر والملح والسكر معًا. اصنع حفرة في الوسط واسكب الحليب والبيض والزبدة المذابة ؛ امزج حتى تصبح ناعمة. سخني مقلاة أو مقلاة مدهونة قليلاً بالزيت على نار متوسطة عالية.
نلاحظ أن في البداية تم ترجمة النص بشكل حيادي، ثم قام غوغل بترجمة heat إلى سخني في النهاية.
المثال القاسي أيضا هو عند ترجمة كلمة divorced في غوغل إلى العربية، نحصل على مطلقة. وهذا تحيز جنسي واضح افترض فيه غوغل ان من يُطلّق هو دائما أنثى وليس ذكر.
هذه الحالة تصف بشكل دقيق التحيز الجنسي في الترجمة الآلية والتي يعاني منها غوغل في تاريخ نشر هذا الجواب.