أنتج برنامج جروك ما يقدر بثلاثة ملايين صورة ذات إيحاءات جنسية لنساء وأطفال في غضون أيام، بحسب تقرير دولي نشر قبل أيام

يتحرك الاتحاد الأوروبي في مواجهة روبوت “جروك” بعد أن تسبب في تعديل صور مشاهير وأطفال بشكل مزيف تظهرهم في أوضاع جنسية، ويرى خبراء أن التحقيق الأوروبي يمثل أكبر اختبار لقانون الخدمات الرقمية في التكتل.

بنبرة يعتصرها الأسى والصدمة، قالت نائبة رئيس الوزراء السويدي، إيبا بوش، في مقطع فيديو نُشر مؤخرا على منصة “إكس”: “لقد جُردتُ من ملابسي قسرا بواسطة برنامج “جروك”. وتعد المسؤولة السويدية واحدة من بين عدد لا يُحصى من ضحايا أداة “جروك” المساعدة بالذكاء الاصطناعي والمدمجة في منصة “إكس”.

وخلال الآونة الأخيرة، شهدت منصة “إكس” موجة مثيرة للجدل، حيث بات مستخدمون يطلبون من روبوت “جروك” تعديل صور لأشخاص من مشاهير وغيرهم أو حتى أطفال، ليظهروا وكأنهم يرتدون ملابس عارية أو في أوضاع جنسية.

ووفقا لبحث نشره قبل أيام مركز مكافحة الكراهية الرقمية، وهي منظمة رقابية غير ربحية، أنتج برنامج جروك ما يقدر بثلاثة ملايين صورة ذات إيحاءات جنسية لنساء وأطفال في غضون أيام. وأثار ذلك انتقادات واسعة النطاق ضد إيلون ماسك، مالك “إكس” وشركة “إكس إيه آي” للذكاء الاصطناعي التي طورت “جروك”.

أضرار الذكاء الاصطناعي

إيلون ماسك دشّن روبوت الدردشة الذكي جروك في 2023

وفي خضم هذا الغضب، أعلنت المفوضية الأوروبية فتح تحقيق رسمي بشأن أداة “جروك” بموجب قانون الخدمات الرقمية. وقالت المفوضية إنها ستعمل على “تقييم ما إذا كانت شركة إكس قد قيمت وقللت بشكل صحيح المخاطر الناجمة عن تفعيل خصائص جروك داخل الاتحاد الأوروبي”.

ويرى خبراء أن هذا التحقيق قد يشكل سابقة مهمة في مواجهة الشركات التقنية الأمريكية وحماية المواطنين من انتهاكات الخصوصية.

وفي مقابلة مع DW، قالت جوانا برايسون، أستاذة الأخلاقيات والتكنولوجيا في جامعة هيرتي في برلين، إنه “إذا تمكن (التكتل الأوروبي) من مواجهة ماسك، فسيكون ذلك أمرا كبيرا، لأنه سوف يبعث برسالة للجميع بأن الاتحاد الأوروبي جاد”.

بيد أن هذا الأمر يثير تساؤلات حول مدى قدرة الاتحاد الأوروبي على اتخاذ خطوات ضد مثل هذه الأشكال من أضرار الذكاء الاصطناعي.

ويشير الخبراء إلى أنه بموجب قوانينه الحالية، يمكن للتكتل الأوروبي تنظيم الخدمات الرقمية على غرار الخدمات الأخرى.

فعلى منوال قدرة الاتحاد الأوروبي على حظر الألعاب غير الآمنة من السوق الأوروبية، يمكنه أيضا إلزام المنصات الرقمية المخالفة لقواعده بالتغيير أو حتى منعها تماما من العمل داخل أوروبا.
وفي ذلك، قال فيليب هاكر، أستاذ القانون والأخلاقيات في جامعة فيادرينا في فرانكفورت، إن “قانون الخدمات الرقمية ربما يعد أقوى تشريع تنظيمي للمنصات في العالم”.

من التغريم وحتى الحظر

قالت أورسولا فون دير لايين: لن نتسامح في أوروبا مع سلوكيات لا يمكن تصورها، مثل التعري الرقمي للنساء والأطفال

ويقول الخبراء إن القانون يتعامل مع فئات واسعة مثل “المخاطر النظامية” مما يمنح المفوضية الأوروبية مرونة للاستجابة للأضرار الجديدة مع تطور الذكاء الاصطناعي.

ويأتي ذلك رغم أن خاصية “نزع الملابس” المدمجة في أداة “جروك” لم تكن موجودة عندما دخل القانون حيّز التنفيذ عام 2022.

ويمتلك الاتحاد الأوروبي أداتين رئيستين للتنفيذ؛ الأولى تتعلق بفرض غرامات تصل إلى 6% من الإيرادات السنوية العالمية لمنصة إكس على غرار ما حدث مطلع ديسمبر الماضي.

يشار إلى أن الاتحاد الأوروبي قد فرض غرامة قدرها 120 مليون يورو على منصة إكس لخرقها قواعده الرقمية في أول غرامة تفرضها المفوضية الأوروبية بموجب قانون الخدمات الرقمية.

وتتضمن الإجراءات أيضا احتمالية حظر المنصة بالكامل داخل الاتحاد الأوروبي في حال تكرار الانتهاكات، بيد أن خبراء يرون أن فرض غرامة جديدة باعتباره الخطوة الأقرب.

التوتر مع ترامب

غادر ماسك منصبه يوم الجمعة 30 مايو 2025 وسط تزايد الخلاف مع كل من الرئيس الأمريكي ترامب والمساهمين في شركات ماسك، وقد رفض سؤالاً حول تقرير نشرته صحيفة نيويورك تايمز يتحدث بالتفصيل عن تعاطيه للمخدرات

ومع ذلك، يشكك الخبراء فيما إذا كانت المفوضية ستستخدم سلطاتها بشكل قوي. وفي ذلك، قال ماركو باسيني، أستاذ مساعد في حقوق الإنسان والذكاء الاصطناعي بجامعة تيلبورج، إن الاتحاد الأوروبي يمتلك “العديد من الأحكام التي تحمي الحقوق الأساسية، لكن المشكلة تكمن في تطبيقها وضمان عدم تجاهلها”.

وفي ظل توتر العلاقات بين الاتحاد الأوروبي والولايات المتحدة، كانت المفوضية الأوروبية حذرة في استخدام كامل قوتها التنظيمية ضد شركات التكنولوجيا الأمريكية.

وقالت صحيفة “هاندلسبلات” الألمانية إنه جرى تأجيل فتح التحقيق بشأن “جروك” من قبل مكتب رئيسة المفوضية أورسولا فون دير لاين، بسبب نزاع الرسوم الجمركية بين الاتحاد الأوروبي والولايات المتحدة حيال جرينلاند.

بعض التشكيك

وقد ربط مسؤولون أمريكيون في السابق بين خفض الرسوم الجمركية وتخفيف القواعد التنظيمية الأوروبية على التكنولوجيا.

وفي مقابلة مع DW، قالت ألكسندرا جيزي، عضو البرلمان الأوروبي، “أعتقد أنه تم ارتكاب خطأ كبير… كان هناك الكثير من الخوف من رد فعل الإدارة الأمريكية”.

ورغم أن كثيرين يرون أن إطلاق التحقيق يمثل إشارة إيجابية، إلا أن الشكوك ما تزال قائمة بشأن مدى استعداد المفوضية لاتخاذ خطوات حاسمة.

وفي حديثها إلى DW، قالت جوانا برايسون، أستاذة الأخلاقيات والتكنولوجيا في جامعة هيرتا في برلين، إنه “يجب التمييز بين الموقف القانوني والموقف الجيوسياسي… فالمفوضية تنظر إلى الاثنين معأ”.

يشار إلى أنه لا يوجد جدول زمني محدد للتحقيق، فيما يقول الخبراء إن المفوضية قد تستغرق عدة أشهر قبل التوصل إلى نتيجة.

المصدر: DW