جوجل تريد الحد من التحيز في المنتجات

قالت شركة جوجل لوكالة رويترز هذا الأسبوع إنها تطور بديلا لطريقة الصناعة المعيارية لتصنيف درجات لون البشرة.
وتقول مجموعة متزايدة من باحثي التكنولوجيا وأطباء الأمراض الجلدية إن هذه الطريقة غير كافية لتقييم ما إذا كانت المنتجات متحيزة ضد الأشخاص ذوي البشرة الملونة.
ويوجد مقياس من ستة ألوان يعرف باسم FST، الذي يستخدمه أطباء الجلد منذ السبعينيات.

وتعتمد شركات التكنولوجيا عليه لتصنيف الأشخاص وقياس ما إذا كانت منتجات مثل أنظمة التعرف على الوجه أو مستشعرات معدل ضربات القلب للساعة الذكية تعمل بشكل جيد على قدم المساواة عبر درجات لون البشرة.
ويقول النقاد إن مقياس FST يتجاهل التنوع بين الأشخاص من ذوي البشرة السمراء. ويضم المقياس أربع فئات للبشرة البيضاء وفئة واحدة لكل من اللون الأسود والبني.

وأوصى الباحثون في وزارة الأمن الداخلي الأمريكية في شهر أكتوبر الماضي بالتخلي عن FST لتقييم التعرف على الوجه. وذلك لأن المعيار يمثل بشكل سيئ نطاق الألوان في مجموعات سكانية متنوعة.
وقالت جوجل: نسعى إلى اتخاذ تدابير أفضل. ونعمل على إجراءات بديلة وأكثر شمولاً يمكن أن تكون مفيدة في تطوير منتجاتنا. ونتعاون مع الخبراء العلميين والطبيين، فضلاً عن المجموعات التي تعمل مع المجتمعات الملونة على هذا الجهد.

ويعد الجدل جزء من مشكلة أكبر حول العنصرية والتنوع في صناعة التكنولوجيا، حيث تكون القوى العاملة بيضاء أكثر من القطاعات الأخرى.

جوجل تطور معيار جديد للون البشرة:

ويكتسب ضمان أن التكنولوجيا تعمل بشكل جيد مع جميع ألوان البشرة، وكذلك الأعمار والأجناس المختلفة، أهمية أكبر. وذلك لأن المنتجات الجديدة، التي غالبًا ما تكون مدعومة بالذكاء الاصطناعي، تمتد إلى المجالات الحساسة مثل الرعاية الصحية وتطبيق القانون.
وتعرف الشركات أن منتجاتها يمكن أن تكون معيبة بالنسبة للمجموعات غير الممثلة في بيانات البحث والاختبار.
وعندما أعلنت جوجل في شهر فبراير أن الكاميرات عبر بعض هواتف أندرويد يمكنها قياس معدلات النبض عن طريق طرف الإصبع، قالت إن القراءات في المتوسط تخطئ بنسبة 1.8 في المئة بغض النظر عما إذا كان المستخدمون لديهم بشرة فاتحة أو داكنة.


وقدمت الشركة ضمانات بأن نوع البشرة لن يؤثر في نتائج ميزة مرشح الخلفيات في Google Meet. ولا أداة الويب القادمة لتحديد حالات الجلد، التي يطلق عليها اسم Derm Assist بشكل غير رسمي.
وكانت شركات التكنولوجيا حتى وقت قريب غير مهتمة بهذا الأمر.
وأشار اتحاد Unicode، الذي يشرف على الأيقونات التعبيرية، إلى FST في عام 2014 كأساس لاعتماد 5 درجات من لون البشرة بعد الأصفر.
ووجدت دراسة أجريت في عام 2018 بعنوان Gender Shades أن أنظمة تحليل الوجه غالبًا ما تضلل الأشخاص ذوي البشرة الداكنة.
وفي دراسة أجريت في شهر أبريل لاختبار الذكاء الاصطناعي في اكتشاف التزييف العميق، كتب باحثو شركة فيسبوك أنه من الواضح أن معيار FST لا يشمل التنوع داخل درجات لون البشرة البنية والسوداء.