نميل إلى الثقة بالآلة لأنها "محايدة": لا تحب ولا تكره، ولا تتأثر بلون أو جنس أو دين. لكن الواقع أن أنظمة الذكاء الاصطناعي تتعلم من بيانات صنعها البشر، وهذه البيانات تحمل تاريخنا كله بما فيه من تمييز وصور نمطية واختلال في التمثيل. والنتيجة ما يسمى التحيز الخوارزمي: أنظمة تتخذ قرارات أو تنتج مخرجات تظلم فئات معينة بشكل منهجي، دون أن يقصد أحد ذلك، وغالبًا دون أن يلاحظه أحد. في هذا الموضوع ضمن سلسلة مستقبل الذكاء الاصطناعي نشرح لماذا يحدث، وكيف يؤثر على دقة النتائج، وما الذي يمكن فعله.


وعلى مستوى المستخدم، وهو جوهر النقاش حول مستقبل الذكاء الاصطناعي: كن واعيًا أن إجابة الذكاء الاصطناعي ليست حقيقة محايدة، خاصة في القضايا الاجتماعية والثقافية والسياسية، واسأل: من منظور من كُتبت هذه الإجابة؟ ومن الغائب عنها؟
التحيز الخوارزمي لن يختفي تمامًا، لأنه انعكاس لعالم غير متوازن، لكن الوعي به وقياسه ومعالجته هو ما يفرق بين أنظمة تعمق الظلم وأنظمة تقلله. هل لاحظت إجابات متحيزة من أدوات الذكاء الاصطناعي في قضايا تخص منطقتنا؟ شاركنا أمثلتك.

أمثلة واقعية
من أشهر أمثلة التحيز الخوارزمي أداة توظيف تجريبية طورتها أمازون ثم تخلت عنها بعد أن تبين أنها تخفض تقييم السير الذاتية التي تحتوي على كلمات مرتبطة بالنساء، لأنها تعلمت من سجلات توظيف سابقة كان معظم المقبولين فيها رجالًا. وكشفت دراسة "Gender Shades" الشهيرة أن أنظمة تجارية للتعرف على الوجوه كانت دقيقة جدًا مع الرجال ذوي البشرة الفاتحة، بينما ارتفعت أخطاؤها بشكل كبير مع النساء ذوات البشرة الداكنة. وفي النماذج اللغوية، أظهرت أبحاث أن بعض النماذج المبكرة كانت تربط كلمة "مسلم" بالعنف بنسبة أعلى بكثير من غيرها من الديانات حين يُطلب منها إكمال جمل. وهذه أمثلة تعنينا مباشرة كمستخدمين عرب.لماذا يحدث التحيز الخوارزمي؟
المصدر الأول هو البيانات غير المتوازنة: إذا كانت بيانات التدريب تمثل فئة أكثر من غيرها، فسيتقن النموذج التعامل معها ويضعف مع الفئات الأقل تمثيلًا. والإنترنت الذي تتعلم منه النماذج اللغوية يهيمن عليه المحتوى الإنجليزي والغربي، فتصبح منظوراته هي "الافتراضية". المصدر الثاني هو البيانات التاريخية المتحيزة: حتى لو كانت البيانات كاملة، فإنها تعكس قرارات بشرية سابقة قد تكون ظالمة، فيتعلم النموذج تكرار الظلم. المصدر الثالث هو المتغيرات البديلة: قد تحذف من البيانات عمود الجنس أو العرق، لكن النموذج يستنتجه من متغيرات أخرى مرتبطة به كالحي السكني أو الاسم. والمصدر الرابع هو قرارات التصميم نفسها: ما الذي نختار قياسه، وكيف نعرّف "النجاح".كيف يؤثر على دقة النتائج؟
التحيز الخوارزمي ليس مشكلة أخلاقية فقط، بل مشكلة دقة أيضًا. النظام الذي يحقق دقة 95% في المتوسط قد يحقق 99% مع فئة و75% مع أخرى، والرقم المتوسط يخفي هذا الفشل. نموذج لتشخيص أمراض الجلد تدرب أساسًا على صور بشرة فاتحة قد يخطئ في تشخيص المرضى ذوي البشرة الداكنة. ونموذج لغوي يفهم الفصحى جيدًا قد يسيء فهم اللهجات أو يصنف عبارات عامية بريئة كإساءة. ولذلك فإن تقييم الأنظمة يجب أن يتم لكل فئة على حدة، لا بالمتوسط فقط.
ما الذي يمكن فعله؟
لمعالجة التحيز الخوارزمي على مستوى المطورين: قيّم النموذج على شرائح مختلفة من المستخدمين قبل النشر، واجمع بيانات أكثر تنوعًا وتمثيلًا، وراجع المتغيرات التي قد تعمل كبدائل لصفات محمية، وأبقِ إنسانًا في حلقة القرار حين تمس النتائج حياة الناس كالتوظيف والإقراض والرعاية الصحية. وعلى مستوى المؤسسات: اعتمد مراجعات دورية للأنظمة بعد نشرها، لأن التحيز قد يظهر مع تغير البيانات. وعلى مستوى التنظيم: بدأت تشريعات مثل قانون الذكاء الاصطناعي الأوروبي بفرض متطلبات على الأنظمة عالية المخاطر تشمل جودة البيانات والشفافية والرقابة البشرية.وعلى مستوى المستخدم، وهو جوهر النقاش حول مستقبل الذكاء الاصطناعي: كن واعيًا أن إجابة الذكاء الاصطناعي ليست حقيقة محايدة، خاصة في القضايا الاجتماعية والثقافية والسياسية، واسأل: من منظور من كُتبت هذه الإجابة؟ ومن الغائب عنها؟
التحيز الخوارزمي لن يختفي تمامًا، لأنه انعكاس لعالم غير متوازن، لكن الوعي به وقياسه ومعالجته هو ما يفرق بين أنظمة تعمق الظلم وأنظمة تقلله. هل لاحظت إجابات متحيزة من أدوات الذكاء الاصطناعي في قضايا تخص منطقتنا؟ شاركنا أمثلتك.