هل تستطيع شبكات التواصل ان تمنع محتوي الكراهية؟

محتوي الكراهية علي شبكات التواصل الإجتماعي يشعل النار في حياتنا

مراقبة المحتوي أم حرية التعبير المعيارين الذين يتصارعان في معركة الحد من خطاب الكراهية التي ستؤدي حتما الي العنف.

خطاب الكراهية يستهدف الأفراد أو الجماعات علي أساس لون البشرة أو العرق أو الجنس أو الدين أو الطبقة الاجتماعية أو السن أو أي تصنيفات أخري تزيد الأستقطاب داخل المجتمعات.

انتشار الكراهية عبر شبكات التواصل الاجتماعي يظهر الجانب المظلم من التيار الجارف لتكنولوجيا المعلومات التي تجتاح حياتنا.

عادة ما ينتشر خطاب الكراهية بعد الحوادث الإرهابية وخاصة التي تقع في أوروبا أو الولايات المتحدة فتشتد حملات الكراهية ضد العرب والمسلمين بعد دقائق من الحادث وقبل اجراء أي تحقيقات، أو بعد الحوادث الإجرامية مثل القتل أو الاغتصاب في المجتمعات التي تتعدد فيها الأعراق والديانات والثقافات.

كما ينتشر خطاب الكراهية اثناء الصراعات والحروب بين الدول وعند تعرض الشعوب لضغوط اقتصادية وبطالة.

خطاب الكراهية علي شبكات التواصل الاجتماعي يمكن ان تؤدي الي جرائم وحوادث خطيرة وشغب وقد تصل الي عمليات التطهير العرقي كما حدث مع مسلمي ميانمار حيث اتهمت الأمم المتحدة شبكة الفيسبوك انها ساهمت بدور كبير في هذه المأساة بسبب عدم بذل جهد كافي للحد من حملات الكراهية والتحريض ضد الطرف الآخر.

خطاب الكراهية في حد ذاته غير مجرم في معظم الدول الغربية ويندرج تحت بند “حرية التعبير” وذلك ما لم يقترن بالتحريض علي العنف أو ارتكاب جرائم.

في بعض الحالات يمكن تحديد محتوي الكراهية بسهولة مثل احتوائها علي صور أو فيديو يدعو لقتل أو مهاجمة شخص أو طائفة أو مجموعة من الناس، ولكن في احيان كثيرة يقع محتوي الكراهية في المنطقة الرمادية التي يصعب فيها تحديد هل يجب حذف هذا المحتوي واتخاذ اجراء ضد من ارسله أو انه يمارس حرية التعبير والنقد.

دعوة باريس للثقة والأمن في الفضاء الإلكتروني

دعت فرنسا وشركات تكنولوجية أمريكية عملاقة بما في ذلك مايكروسوفت الحكومات والشركات يوم الاثنين 12 نوفمبر 2018 إلى التوقيع على مبادرة جديدة لتنظيم الإنترنت ومحاربة تهديدات مثل الهجمات الإلكترونية والرقابة على الإنترنت وخطاب الكراهية.

قال الرئيس الفرنسي إيمانويل ماكرون إن شركة فيسبوك ستوافق على ”إلحاق“ عدد صغير من المراقبين الفرنسيين بها للنظر في الطريقة التي يحارب بها موقع التواصل الاجتماعي خطاب الكراهية على الإنترنت، وذلك في خطوة هي الأولى من نوعها.

دعا الرئيس الفرنسي إيمانويل ماكرون المزيد من الدول إلى التوقيع على التعهد خلال الجلسة الافتتاحية لمنتدى حوكمة الإنترنت في مقر اليونسكو في باريس يوم الأحد 11 نوفمبر

وهذه أول مرة تفتح فيها الشركة التكنولوجية العملاقة أبوابها على هذا النحو بعد أشهر من الانتقادات لحكمها على ما هو عنصري أو منحاز على أساس الجنس أو صادر بدافع الكراهية وكذلك الأساليب المستخدمة لحذف المواد غير المشروعة التي يتم تداولها عبر موقعها.

توجد بالفعل قواعد داخل شركة فيسبوك تمنع الكلام الذي يحض على الكراهية على منصتها، وقد عينت شركة فيسبوك عشرات الآلاف من الموظفين الجدد في العام الماضي لدعم قواعد الإشراف بشكل أكثر كفاءة علي المحتوي.

كثيراً ما كان مارك زوكربيرج يروج أن شركته تستثمر في مجال الذكاء الاصطناعي وتكنولوجيا التعلم الآلي التي يمكنها إزالة المحتوى المسيء

مسؤولين فرنسيين أعادوا صياغتها لتشمل العمل الذي قام به خبراء بالأمم المتحدة في السنوات الأخيرة.

وقال مسؤول بمكتب ماكرون ”الإنترنت فضاء يديره حاليا مجتمع تقني من اللاعبين لكنه ليس محكوما. والآن وبما أن نصف البشرية أصبح متصلا بالإنترنت فإننا بحاجة للتوصل إلى سبل جديدة لتنظيم الشبكة العنكبوتية.

الولايات المتحدة و روسيا و الصين ترفضان المبادرة الفرنسية لأمن الإنترنت

شركات تكنولوجية أمريكية كبرى بما في ذلك فيسبوك وألفابت (جوجل) ومايكروسوفت ستوقع علي المبادرة.

ساهمت شبكة فيسبوك في تأجيج الصراعات في دولة ميانمار وأدت الي تطهير عرقي لمسلمي الروهينجيا

العنف الطائفي

شبكات التواصل الاجتماعي ساهمت بدرجة كبيرة في تأجج العنف الطائفي في اسيا علي وجه الخصوص مثل سيريلانكا و ميانمار و الهند بسبب انتشار الأخبار الكاذبة عن تعرض احد اتباع طائفة مثل الهندوس أو البوذيين لحادث فتثور موجات من حملات الكراهية التي تؤدي الي موجات من العنف والقتل.

قسّم فيسبوك المحتوى المحظور إلى عدة فئات:

• العنف المصور (فيديو أو صور)

• تعري البالغين والمحتوى الجنسي

• الرسائل غير المرغوب فيها

• خطاب الكراهية

• حسابات مزيفة

أزالت إدارة فيسبوك 1.9 مليون قطعة من المحتوى المتطرف بين يناير ومارس ٢٠١٨، بزيادة بلغت 73% عن الربع السابق.

ازالت الشركة 2.5 مليون محتوي للكراهية يناير-مارس ٢٠١٨، بزيادة 56%عن الأشهر من أكتوبر إلى ديسمبر 2017.

ووفقا لعينة بحث عن شبكة الفيسبوك فإن ما يصل إلى 27 مشاركة من بين كل 10 آلاف مشاركة احتوت على شكل من أشكال العنف المصور. ونظرا لأن هناك 1.5 مليار مستخدم يومي لخدمة فيسبوك فإن هذا الرقم يعني أن عشرات الملايين من المشاركات العنيفة لا يمكن مراجعتها كل يوم.

وبنفس التقنية تم اكتشاف ما بين 7 إلى 9 مشاركات تحتوي على مشاهد تعر أو محتوى جنسي من بين كل 10 آلاف مشاركة.

تخشي المفوضية الأوربية من أن إصدار قوانين للحد من محتوي الكراهية ممكن أن يحد أيضا من حرية التعبير

حق التعبير ومحتويات الكراهية

وسبق لمفوضة العدل الأوروبية فيرا جيروفا أن قالت إنها لا تريد أن يصل معدل حذف محتوي الكراهية إلى 100% إذ أن ذلك قد يؤثر على حرية التعبير.

وقالت ”لا أخفي أنني لا أحبذ سن تشريعات صارمة لأن حرية التعبير بالنسبة لي تكاد تكون لا جدال فيها“.

وأضافت ”في حالات الشك يجب أن يبقى (المحتوى) على الإنترنت لأن حرية التعبير لها مكانة خاصة“.

وأظهرت الإحصائيات أن أكثر من نصف خطابات الكراهية التي تم إبلاغ الشركات عنها كان منشورا على فيسبوك، بينما كان 24% منها على يوتيوب و26% على تويتر.

علاج المشكلة

1. تعيين مراقبين للمحتوي (فيسبوك قامت بتعيين 15 الف مراقب)

2. فحص المعلومات التي تتضمنها الصفحة الشخصية (البروفايل) لوقف حسابات من ينتمون لجماعات تدعو للكراهية والعنف

3. شراكات مع مجموعات المجتمع المدني المحلية لتحديد المعلومات الخاطئة، والاستجابة السريعة لشكاوي المستخدمين

4. استخدام الذكاء الاصطناعي (فيسبوك: ٣٨٪؜ فقط هي نسبة النجاح خلال عام ٢٠١٨ لاكتشاف محتوي الكراهية بعكس الإرهاب الذي تم اكتشاف ٩٩.٥٪؜ من المحتوي)

5. استخدام تقنيات التعلم الذاتي للكمبيوتر

6. ازالة الحسابات المزيفة (منتصف ٢٠١٨ قامت فيسبوك بإلغاء اكثر من ٥٨٣ مليون حساب بعد مراجعة خلال اول ٣ اشهر من عام ٢٠١٨ فقط)

7. يجب ان تتشارك الشبكات الاجتماعية الخبرات للتعرف علي المستخدمين الذين ينشرون خطابات الكراهية

8. يجب ان توجه شركات الشبكات الاجتماعية مزيدا من الاستثمارات لقضية المحتوي الضار

9. الشفافية في عرض القواعد التي تحكم التعرف علي محتوي الكراهية وحذفها، وإفادة المستخدمين الذين يبلغون عن محتوي للكراهية عما حدث لشكواهم


عمر سامي

الإعلانات

اترك رد

إملأ الحقول أدناه بالمعلومات المناسبة أو إضغط على إحدى الأيقونات لتسجيل الدخول:

شعار وردبرس.كوم

أنت تعلق بإستخدام حساب WordPress.com. تسجيل خروج   /  تغيير )

Google photo

أنت تعلق بإستخدام حساب Google. تسجيل خروج   /  تغيير )

صورة تويتر

أنت تعلق بإستخدام حساب Twitter. تسجيل خروج   /  تغيير )

Facebook photo

أنت تعلق بإستخدام حساب Facebook. تسجيل خروج   /  تغيير )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.