answers
Shadi Saleh asked
يُعد مبدأ الشفافية وقابلية التفسير الركيزة الأخلاقية الأساسية المرتبطة بفهم وشرح أنظمة الذكاء الاصطناعي ومخرجاتها، إذ تسمح لأصحاب المصلحة بفهم المراحل الرئيسية للتطوير وعمليات اتخاذ القرار.
ويتكون هذا المبدأ من محورين رئيسيين:
قابلية التفسير: شرح كيفية وصول أنظمة الذكاء الاصطناعي إلى قراراتها ومخرجاتها بطريقة بسيطة ومفهومة.
الشفافية: فهم كيفية تنفيذ كل مرحلة من مراحل دورة حياة نظام الذكاء الاصطناعي لتقديم معلومات تتعلق بما يلي:
- حقيقة استخدام نظام الذكاء الاصطناعي في عمليات صنع القرار.
- مجموعات البيانات التي يستخدمها النظام.
- الغرض من النظام وكيفية استخدامه.
- أي معلومات تتعلق بالاحتمالات أو المنطق المعتمد في النظام.
تعود أهمية مبدأ الشفافية وقابلية التفسير إلى كونها طريقة لتقليل الضرر وتحسين الذكاء الاصطناعي وتعزيز ثقة المستخدمين، إذ يُنظر إلى معظم أنظمة الذكاء الاصطناعي وخاصة نماذج تعلم الآلة على أنها صناديق سوداء لا يمكن فهمها أو شرح ما يحدث بداخلها أو تفسير كيفية وصول هذه الأنظمة إلى قراراتها ومخرجاتها، مما يؤدي إلى مجموعة من التحديات، من ضمنها:
التحيز
قد يؤدي التعتيم في أنظمة الذكاء الاصطناعي وعدم توضيح نوع البيانات المستخدمة في التدريب أو كيفية اتخاذها للقرارات والعوامل التي أدت إلى توصياتها النهائية إلى اتخاذ قرارات خاطئة و متحيزة نحو عرق أو جنس أو عمر ما.
قلة ثقة المستخدمين
تعد ثقة المستخدمين عاماً مهماً ويؤدي انخفاضها إلى قلة تبني أنظمة الذكاء الاصطناعي، إذ أن المستخدم لا يمكن أن يثق في أنظمة الذكاء الاصطناعي ما دام أنه لم يفهم كيفية عملها.
المخاطر القانونية والأمنية
قد ينتج عن الغموض في أنظمة الذكاء الاصطناعي صعوبة فهم العمليات الداخلية مما يؤدي إلى تحدياتٍ في تحديد المسؤولية أو توزيعها عند حدوث خطأ ما في النظام.
تطبيق الشفافية في بناء تطييقات الذكاء الاصطناعي
عند تطوير تطبيقات الذكاء الاصطناعي، يجب أخذ بعين الاعتبار النقاط التالي:
1- مراعاة تعزيز الشفافية والقابلية للتفسير عند تطوير نظام الذكاء الاصطناعي ووضع معايير التقييم.
2- قابلية توضيح قرارات نظام الذكاء الاصطناعي ومنهجياته بطريقة يسهل فهمها.
3- إمكانية تتبع العوامل الرئيسية التي أثرت على قرارات نظام الذكاء الاصطناعي.
4- إدراك المستخدم مشاركة نظام ذكاء اصطناعي في عملية صنع القرار أو عند التفاعل معه.
توثيق المعلومات والعمليات في تطوير تطبيقات الذكاء الاصطناعي
الاحتفاظ بالمعلومات خال دورة حياة نظام الذكاء الاصطناعي لفترة زمنية معينة تتناسب مع نوع القرار أو مجال النظام، على أن تشمل المعلومات ما يلي:
- مصادر بيانات التدريب وطرق جمعها ومعالجتها، وكيفية نقلها وحفظها، مع توضيح التدابير المتخذة للحفاظ على دقتها وخصوصيتها مع مرور الوقت.
- تصميم نموذج الذكاء الاصطناعي والخوارزميات المستخدمة.
- التغيرات التي أجريت على النظام مع تحديد المسؤول عن كل تغيير.
- سجل مخرجات عملية اتخاذ القرار للتحقق منها عند الحاجة.