هل ينحاز الذكاء الإصطناعي ضد المرأة؟

يتبقى التدخل البشري ضرورية للتغلب على تحيز خوارزميات الذكاء الإصطناعي

التدخل البشري ضرورة للتغلب على تحيز خوارزميات الذكاء الإصطناعي

الذكاء الاصطناعي يعكس الانحيازات البشرية ولا بديل عن تدخل الإنسان، كلما زاد حجم قواعد البيانات كلما زادت قدرة خوارزميات الذكاء الإصطناعي علي إيجاد العلاقات بطريقة أكثر دقة، ولكن ذلك لا يضمن حيادها.

عندما يتعلق الأمر بالتحيز والذكاء الاصطناعي، فهناك اعتقاد سائد بأن الخوارزميات جيدة فقط بقدر جودة المدخلات الرقمية التي تصل إليها. لكن عندما نمعن النظرفي تحيز خوارزميات الذكاء الإصطناعي التي تعتمد بالكامل على البيانات التي تصل إليها فإن ذلك يعني أننا قد تجاهلنا جانبين من هذه المشكلة: النظرة التاريخية للبيانات التي تصل الي هذه الخوارزميات (مثل تفوق عدد وظائف الذكور علي الإناث منذ فترة طويلة)، والأهم من ذلك، دور العامل البشري لعلاج هذه المشكلات.

من غير المنطقي افتراض أن هذه الخوارزميات ستحل المشكلات التي لا نفهمها.

عالمة الأعصاب فيفيان مينج

عالمة الأعصاب فيفيان مينج

، بدون تدخل الإنسان في إطار عملية مراجعة متواصلة فستستمر برامج الذكاء الإصطناعي في الوقوع بفخ الانحيازات البشرية، وفق ما ذكرته عالمة الأعصاب فيفيان مينج بمقالها في فايننشال تايمز.

وتذكر مينج محاول ة شركة أمازون خلق نظام إلكتروني لتقييم المتقدمين للعمل بشكل أكثر إنصافا بهدف ميكنة البحث عن أفضل المواهب.

كان تحول معظم أعمال الشركة الي برامج علي الكمبيوتر هو مفتاح هيمنة أمازون علي عالم التجارة الإلكترونية، تم استخدام الكمبيوتر للقيام بالوظائف سواء كان ذلك داخل مخازن الشركة أو في اتخاذ قرارات التسعير.

أداة التوظيف التجريبية لشركة أمازون استخدمت الذكاء الاصطناعي لإعطاء درجات للمرشحين للوظائف تتراوح من نجمة واحدة إلى خمس نجوم ، مثل الكثير من المتسوقين الذين يصنفون منتجاتهم على أمازون.

قامت الشركة بإلغاء النظام في 2015 بعد اكتشافها أنه تضمن انحيازا ضد النساء في تقييمه للمتقدمين للوظائف التقنية، إذ كانت أغلب طلبات التوظيف التي تعامل معها النظام وقام بتقييمها من الرجال.

وعلى الرغم من محاولة الشركة تعديل النظام ليصبح غير منحاز، كان الذكاء الاصطناعي قادرا على إيجاد الفروق في الطلبات المقدمة من الرجال والنساء وقام باستبعادهن.

لا تكمن المشكلة في الانحيازات بناء على البيانات ولكن في الاعتقاد بأن كثرة البيانات ستنهي وجود الانحيازات

ولا يمكن إحداث تقدم حقيقي من دون القدرة على طرح الأسئلة بشكل صحيح وتطبيق المهارات البشرية مثل الملاحظة والتعلم من الأخطاء لحل مشكلات مثل الانحياز للنوع في التوظيف.

الاتجاه السائد في مجال الذكاء الاصطناعي هو تدريب الآلات على التساؤل عن السببية (السؤال بكيف) والتعليم المعزز هو تحرك مهم في هذا الاتجاه. وتقول مينج إن أفضل استخدام لهذه الأنظمة بشكل مفيد هو بمعرفة حدود إمكانياتها وتدريب البشر على طرح الأسئلة الصحيحة في المقام الأول.


خاص: إيجيبت14

المصدر: وكالات

اترك رد

إملأ الحقول أدناه بالمعلومات المناسبة أو إضغط على إحدى الأيقونات لتسجيل الدخول:

شعار ووردبريس.كوم

أنت تعلق بإستخدام حساب WordPress.com. تسجيل خروج   /  تغيير )

Google photo

أنت تعلق بإستخدام حساب Google. تسجيل خروج   /  تغيير )

صورة تويتر

أنت تعلق بإستخدام حساب Twitter. تسجيل خروج   /  تغيير )

Facebook photo

أنت تعلق بإستخدام حساب Facebook. تسجيل خروج   /  تغيير )

Connecting to %s

هذا الموقع يستخدم خدمة Akismet للتقليل من البريد المزعجة. اعرف المزيد عن كيفية التعامل مع بيانات التعليقات الخاصة بك processed.