تويتر تدرس أضرار خوارزميات التعلم الآلي

تويتر تدرس أضرار خوارزميات التعلم الآلي

أوضح موقع Twitter ما إذا كانت خوارزميات التعلم الآلي الخاصة به تسبب أضرارًا غير مقصودة ، وهي خطوة تأتي في وقت تواجه فيه شركات وسائل التواصل الاجتماعي تدقيقًا متزايدًا لدورها في نشر نظريات المؤامرة والمضايقات.

في الأشهر المقبلة ، ستنشر مبادرة التعلم الآلي المسؤولة تقارير تحلل التحيز العرقي والجنساني المحتمل في خوارزمية اقتصاص الصور الخاصة بها.

كما تنشر تقارير حول تقييم عدالة توصيات الجدول الزمني للمنزل عبر المجموعات الفرعية العرقية وحول تحليل توصيات المحتوى للأيديولوجيات السياسية المختلفة في سبعة بلدان.

بعد انتقاد خوارزمية صور تويتر العام الماضي لتركيزها على الوجوه البيضاء بدلاً من الوجوه المظلمة ، زعمت الشركة أن اختباراتها لم تظهر أي تحيز عنصري أو جنساني.

على الرغم من ذلك ، ونتيجة للاختبار ، أعلن أنه سيمنح المستخدمين مزيدًا من التحكم في الصور لأنه يدرك أن طريقته التلقائية في اقتصاص الصور تعني أن هناك احتمالًا للضرر.

قال تويتر: يمكن أن تكون نتائج التقارير مفيدة في إجراء تغييرات على مستوى النظام الأساسي ، وإرشادات جديدة حول كيفية تصميم منتجات محددة ، والوعي بالتعلم الآلي الأخلاقي.

وأضافت: استخدام التعلم الآلي يؤثر على مئات الملايين من التغريدات كل يوم ، وفي بعض الأحيان يمكن للنظام أن يتصرف بشكل مختلف عن المتوقع ، وهذه التغييرات الطفيفة تؤثر على المستخدمين ، ونريد التأكد من دراسة هذه التغييرات واستخدامها. لبناء منتج أفضل.

تأتي مبادرة Twitter في الوقت الذي تتهم فيه شركات التواصل الاجتماعي بأن خوارزمياتها مسؤولة عن زيادة الاستقطاب والمعلومات المضللة والتطرف عبر الإنترنت.

تعرض موقع Twitter على وجه الخصوص لانتقادات شديدة لعدم قيامه بما يكفي للتصدي للتحرش.

قال الرئيس التنفيذي جاك دورسي سابقًا: إنه يريد أن يرى مستقبلًا حيث يمكن للمستخدمين اختيار الخوارزمية التي يريدون استخدامها من خلال واجهة تشبه متجر التطبيقات ، بدلاً من الاعتماد على خوارزمية واحدة وضعتها تويتر.

اعتراف Twitter الضمني بأن خوارزمياته قد تكون ضارة للمستخدمين على عكس دفاع Facebook عن خوارزمياته.

قال Facebook الشهر الماضي: ليس لدينا مصلحة تجارية في تضخيم المحتوى المتطرف ، والمنصة ليست مسؤولة وحدها عن زيادة الاستقطاب السياسي ، حيث تؤثر الخيارات الفردية أيضًا على ما يفعله المستخدمون.

اترك تعليقاً