في الصيف في عام 2017 ، قُتل ثلاثة مراهقين من ولاية ويسكونسن في حادث سيارة عالي السرعة. في وقت التصادم ، كان الأولاد يسجلون سرعتهم باستخدام Snapchat’s Speed Filter — 123 ميلاً في الساعة. لم تكن هذه هي الحادثة الأولى من نوعها: فقد تم ربط الفلتر نفسه بعدة حوادث أخرى بين عامي 2015 و 2017.
رفع آباء المراهقين من ولاية ويسكونسن دعوى قضائية ضد Snapchat ، زاعمين أن منتجها ، الذي منح “الجوائز ، والشرائط ، والاعتراف الاجتماعي” للمستخدمين الذين تجاوزوا 100 ميل في الساعة ، تم تصميمه بإهمال لتشجيع القيادة الخطرة عالية السرعة. وجدت محكمة أدنى في البداية أن المادة 230 من قانون آداب الاتصالات تحصين Snapchat من المسؤولية ، مدعيةً أن التطبيق لم يكن مسؤولاً عن محتوى الطرف الثالث الذي أنشأه أشخاص يستخدمون عامل تصفية السرعة. لكن في عام 2021 ، نقضت الدائرة التاسعة حكم المحكمة الأدنى.
المنصات محصنة إلى حد كبير من تحمل المسؤولية عن هذا النوع من المحتوى بسبب القسم 230. ولكن في هذه الحالة المهمة-ليمون ضدقامت الدائرة التاسعة بتمييز حاسم بين تصميم المنتج الضار للمنصة واستضافتها لمحتوى ضار تابع لجهة خارجية. لم تكن الحجة أن Snapchat قد أنشأت أو استضافت محتوى ضارًا ، بل إنها صممت بإهمال ميزة ، Speed Filter ، التي حفزت السلوك الخطير. وجدت الدائرة التاسعة بشكل صحيح أن المحكمة الابتدائية أخطأت في الاحتجاج بالقسم 230 كدفاع. لقد كان الصك القانوني الخاطئ. وبدلاً من ذلك ، حولت المحكمة تركيزها إلى تصميم Snapchat المهمل لمرشح السرعة – وهو ضرر شائع لمسؤولية المنتج.
بشكل محبط ، في السنوات الفاصلة ، ومؤخرا في المرافعات الشفوية للمحكمة العليا الأمريكية الشهر الماضي Gonzalez v. Google، فشلت المحاكم في فهم أو التمييز بين المحتوى الضار وخيارات التصميم الضارة. يجب على القضاة الذين يستمعون إلى هذه القضايا ، والمشرعون الذين يعملون على كبح جماح الانتهاكات والأنشطة الضارة عبر الإنترنت ، أن يضعوا هذا التمييز في الاعتبار وأن يركزوا على تصميم المنتج المهمل للمنصات بدلاً من تشتيت انتباههم بسبب الادعاءات الواسعة المتعلقة بحصانة القسم 230 من المحتوى الضار.
في قلب .. أو في الوسط جونزاليس هي مسألة ما إذا كان القسم 230 يحمي YouTube ليس فقط عندما يستضيف محتوى طرفًا ثالثًا ، ولكن أيضًا عندما يقدم توصيات مستهدفة لما يجب على المستخدمين مشاهدته. جادل محامي غونزاليس بأن YouTube يجب ألا يحصل على حصانة المادة 230 للتوصية بمقاطع الفيديو ، مدعيا أن عملية التنسيق والتوصية بما يعرضه من مواد تابعة لجهة خارجية هو إنشاء محتوى في حد ذاته. رد محامي Google بأن خوارزمية توصياتها محايدة وتعامل كل المحتوى الذي توصي به المستخدمين بنفس الطريقة. لكن هذه الحجج تخطئ الهدف. ليست هناك حاجة لاستدعاء القسم 230 على الإطلاق لمنع الأضرار التي يتم النظر فيها في هذه الحالة. ليس الأمر أن ميزة التوصية في YouTube قد خلقت محتوى جديدًا ، ولكن خوارزميات التوصية “المحايدة” مصممة بإهمال لعدم التمييز بين مقاطع فيديو داعش ومقاطع فيديو القطط ، على سبيل المثال. في الواقع ، تفضل التوصيات المحتوى الضار والخطير.
ميزات التوصية مثل Watch Next على YouTube وموصى بها لك – والتي تكمن في صميم جونزاليس– تساهم ماديًا في إحداث ضرر لأنها تعطي الأولوية للمواد الفاحشة والإثارة ، وتشجع المستخدمين وتكافئهم ماليًا على إنشاء مثل هذا المحتوى. صمم YouTube ميزات توصياته لزيادة تفاعل المستخدمين وعائدات الإعلانات. يجب أن يعرف مبتكرو هذا النظام أنه من شأنه أن يشجع ويعزز السلوك الضار.
على الرغم من أن معظم المحاكم قد قبلت تفسيرًا شاملًا للقسم 230 يتجاوز مجرد تحصين المنصات من كونها مسؤولة عن محتوى طرف ثالث خطير ، إلا أن بعض القضاة ذهبوا إلى أبعد من ذلك وبدأوا في فرض تدقيق أكثر صرامة على التصميم المهمل من خلال التذرع بمسؤولية المنتج. في عام 2014 ، على سبيل المثال ، قامت خدمة الدردشة المرئية Omegle ، وهي خدمة دردشة بالفيديو تجمع بين مستخدمين عشوائيين ، بمطابقة فتاة تبلغ من العمر 11 عامًا مع رجل يبلغ من العمر 30 عامًا كان يذهب إلى العريس والاعتداء عليها جنسياً لسنوات. في عام 2022 ، القاضي الذي ينظر في هذه القضية ، AM ضد Omegle، وجدت أن القسم 230 يحمي إلى حد كبير المواد الفعلية التي أرسلها كلا الطرفين. لكن المنصة كانت لا تزال مسؤولة عن اختيار تصميمها الإهمال لربط المتحرشين الجنسيين بضحايا دون السن القانونية. في الأسبوع الماضي فقط تم رفع قضية مماثلة ضد Grindr. قام شاب من كندا يبلغ من العمر 19 عامًا بمقاضاة التطبيق لأنه ربطه برجال بالغين اغتصبوه على مدار أربعة أيام عندما كان قاصرًا. مرة أخرى ، تدعي الدعوى أن Grindr كانت مهملة في عملية التحقق من العمر وأنها سعت بنشاط إلى انضمام مستخدمين دون السن القانونية إلى التطبيق من خلال استهداف إعلاناتها على TikTok للقصر. هذه الحالات ، مثل ليمون ضدأكد على أهمية التركيز على ميزات تصميم المنتج الضارة بدلاً من المحتوى الضار.
شكلت هذه الحالات سابقة واعدة لكيفية جعل المنصات أكثر أمانًا. عندما تركز محاولات كبح الإساءات عبر الإنترنت على محتوى الطرف الثالث والقسم 230 ، فإنهم يغوصون في قضايا شائكة تتعلق بحرية التعبير تجعل من الصعب إحداث تغيير ذي مغزى. ولكن إذا قام المتقاضون والقضاة والمنظمون بالتخلي عن قضايا المحتوى هذه جانبًا وركزوا بدلاً من ذلك على مسؤولية المنتج ، فسيكونون هم من يصلون إلى جذور المشكلة. إن تحميل المنصات المسؤولية عن اختيارات التصميم المهملة التي تشجع على إنشاء المحتوى الضار وانتشاره وتكسب المال منه هو المفتاح لمعالجة العديد من المخاطر التي لا تزال قائمة على الإنترنت.
رأي سلكي تنشر مقالات من قبل مساهمين خارجيين يمثلون مجموعة واسعة من وجهات النظر. اقرأ المزيد من الآراء هناواطلع على إرشادات الإرسال الخاصة بنا هنا. إرسال افتتاحية في رأيwired.com.
اكتشاف المزيد من مباشر التقنية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
