في الواقع ، ما وصفناه هنا هو في الواقع أفضل سيناريو يمكن فيه فرض العدالة من خلال إجراء تغييرات بسيطة تؤثر على أداء كل مجموعة. في الممارسة العملية ، قد تتصرف خوارزميات الإنصاف بشكل جذري وغير متوقع. وجد هذا الاستطلاع ، في المتوسط ، أن معظم الخوارزميات في رؤية الكمبيوتر تعمل على تحسين الإنصاف من خلال إلحاق الضرر بجميع المجموعات – على سبيل المثال ، عن طريق تقليل الاسترجاع والدقة. على عكس افتراضنا ، حيث قللنا الضرر الذي تتعرض له مجموعة واحدة ، فمن الممكن أن يؤدي التسوية إلى جعل الجميع أسوأ حالًا بشكل مباشر.
التسوية أسفل يدير يتعارض مع أهداف العدالة الخوارزمية وأهداف المساواة الأوسع في المجتمع: تحسين النتائج للفئات المحرومة أو المهمشة تاريخياً. من الواضح أن خفض الأداء للمجموعات عالية الأداء لا يفيد المجموعات ذات الأداء الأسوأ. علاوة على ذلك ، فإن التسوية يمكن أن تضر بالفئات المحرومة تاريخياً بشكل مباشر. يُظهر اختيار إزالة ميزة بدلاً من مشاركتها مع الآخرين عدم وجود اهتمام وتضامن واستعداد لاغتنام الفرصة لإصلاح المشكلة فعليًا. فهو يوصم المجموعات المحرومة تاريخياً ويقوي الانقسام وعدم المساواة الاجتماعية التي أدت إلى مشكلة في المقام الأول.
عندما نبني أنظمة ذكاء اصطناعي لاتخاذ قرارات بشأن حياة الناس ، فإن قرارات التصميم لدينا ترمز إلى أحكام قيمة ضمنية حول ما يجب أن يكون ذا أولوية. إن خفض المستوى هو نتيجة لاختيار قياس الإنصاف ومعالجته فقط من حيث التفاوت بين المجموعات ، مع تجاهل المنفعة والرفاهية والأولوية وغيرها من السلع التي تعتبر مركزية لمسائل المساواة في العالم الحقيقي. إنه ليس المصير الحتمي للعدالة الخوارزمية. بل هو نتيجة اتخاذ الطريق الأقل مقاومة رياضية ، وليس لأي أسباب مجتمعية أو قانونية أو أخلاقية شاملة.
للمضي قدمًا ، لدينا ثلاثة خيارات:
• يمكننا الاستمرار في نشر الأنظمة المتحيزة التي تفيد ظاهريًا شريحة واحدة فقط من السكان ذات امتياز بينما تلحق أضرارًا جسيمة بالآخرين.
• يمكننا الاستمرار في تعريف الإنصاف بمصطلحات رياضية شكلية ، ونشر الذكاء الاصطناعي الأقل دقة لجميع المجموعات وضررًا فعليًا لبعض المجموعات.
• يمكننا اتخاذ الإجراءات وتحقيق العدالة من خلال “رفع المستوى”.
نعتقد أن رفع المستوى هو المسار الوحيد المقبول أخلاقياً وقانونيًا للمضي قدمًا. يتمثل التحدي الذي يواجه مستقبل العدالة في الذكاء الاصطناعي في إنشاء أنظمة عادلة من الناحية الموضوعية ، وليست عادلة من الناحية الإجرائية فقط من خلال التسوية. يعد رفع المستوى تحديًا أكثر تعقيدًا: يجب إقرانه بخطوات نشطة لاستئصال أسباب الحياة الحقيقية للتحيزات في أنظمة الذكاء الاصطناعي. غالبًا ما تكون الحلول التقنية مجرد أداة إسعافات أولية للتعامل مع نظام معطل. إن تحسين الوصول إلى الرعاية الصحية ، وتنظيم مجموعات بيانات أكثر تنوعًا ، وتطوير أدوات تستهدف على وجه التحديد المشكلات التي تواجهها المجتمعات المحرومة تاريخياً ، يمكن أن يساعد في جعل الإنصاف الموضوعي حقيقة واقعة.
هذا تحدٍ أكثر تعقيدًا من مجرد تعديل نظام لجعل رقمين متساويين بين المجموعات. قد لا يتطلب الأمر ابتكارًا تقنيًا ومنهجيًا كبيرًا فحسب ، بما في ذلك إعادة تصميم أنظمة الذكاء الاصطناعي من الألف إلى الياء ، بل يتطلب أيضًا تغييرات اجتماعية كبيرة في مجالات مثل الوصول إلى الرعاية الصحية والنفقات.
على الرغم من صعوبة ذلك ، فإن إعادة التركيز على “الذكاء الاصطناعي العادل” أمر ضروري. تتخذ أنظمة الذكاء الاصطناعي قرارات غيرت مجرى الحياة. تعتبر الاختيارات المتعلقة بالكيفية التي يجب أن تكون عادلة ، ولمن ، مهمة للغاية للتعامل مع العدالة كمسألة رياضية بسيطة يجب حلها. هذا هو الوضع الراهن الذي أدى إلى أساليب الإنصاف التي تحقق المساواة من خلال التسوية. حتى الآن ، أنشأنا أساليب عادلة رياضيًا ، لكنها لا تستطيع ولا يمكن إثبات أنها تفيد المجموعات المحرومة.
هذا لا يكفي. يتم التعامل مع الأدوات الحالية كحل للعدالة الحسابية ، لكنها حتى الآن لا تفي بوعدها. آثارها الغامضة أخلاقيا تجعلها أقل احتمالا لاستخدامها وربما تبطئ الحلول الحقيقية لهذه المشاكل. ما نحتاجه هو أنظمة عادلة من خلال رفع المستوى ، تساعد المجموعات ذات الأداء السيئ دون الإضرار بالآخرين بشكل تعسفي. هذا هو التحدي الذي يجب علينا حله الآن. نحن بحاجة إلى ذكاء اصطناعي عادل من الناحية الجوهرية ، وليس فقط من الناحية الحسابية.
اكتشاف المزيد من مباشر التقنية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
