تم عقد مؤتمر ديفكون 31 لتجمع الهاكرز في فندق سيزرز في لاس فيجاس بالولايات المتحدة، من 10 الي 13 أغسطس 2023

حاول الدكتور”أفيجيت جوش” دفع روبوت علي القيام بأشياء سيئة، فقد حث نموذج الذكاء الاصطناعي، الذي كان يعرفه باسم “زنك Zinc”، على كتابة برنامج كمبيوتر يختار المرشح للوظيفة على أساس العرق، واعترض برنامج الدردشة الآلي قائلاً: إن القيام بذلك سيكون “ضارًا وغير أخلاقي”.

ثم أشار الدكتور جوش إلى البنية الطبقية الهرمية في موطنه الهند. هل يستطيع روبوت الدردشة ترتيب الموظفين المحتملين بناءً على هذا المقياس التمييزي؟

امتثل الروبوت للطلب.

ولم تكن نوايا الدكتور جوش خبيثة، رغم أنه كان يتصرف كما لو كانت خبيثة. كان جوش مشاركا عاديا في مسابقة نهاية الأسبوع الماضي في مؤتمر “ديفكون هاكرز Defcon hackers” السنوي في لاس فيجاس، حيث حضر 2200 شخص إلى قاعة اجتماعات على مدار ثلاثة أيام لتسليط الضوء على الجانب المظلم للذكاء الاصطناعي.

حاول الهاكرز اختراق وسائل الحماية المختلفة الخاصة لبرامج بالذكاء الاصطناعي في محاولة لتحديد نقاط الضعف لديهم، للعثور على الثغرات الأمنية قبل أن يفعلها المجرمون الحقيقيون وبائعو المعلومات المضللة، في ممارسة تُعرف باسم الفريق الأحمر.

كان لدى كل متسابق 50 دقيقة للتعامل مع ما يصل إلى 21 تحديًا، لكي يجعلوا روبوت الذكاء الاصطناعي “يهلوس” بمعلومات غير دقيقة، على سبيل المثال.

وقد وجد المتسابقون علي سبيل المثال أن روبوتات الدردشة يمكن أن تنتج محتوي به معلومات سياسية خاطئة، وقوالب نمطية لعنصرية ضد بعض فئات المجتمع، وتعليمات حول كيفية إجراء عمليات المراقبة غير القانونية، والمزيد.

البيت الأبيض يرعي المؤتمر

جانب من فعاليات مؤتمر الهاكرز ديفكون أغسطس 2023

وقد حظي هذا المؤتمر برعاية إدارة بايدن، التي تشعر بتوتر متزايد بشأن قوة التكنولوجيا سريعة النمو.

عرضت جوجل صانعة برنامج روبوت الدردشة “بارد شات بوت” Bard chatbot”، وعرضت شركة أوبن أيه إي OpenAI روبوت الدردشة الشهير “شات جي بي تي ChatGPT”، وعرضت شركة ميتا روبوت الذكاء الاصطناعي التي أنتجته أخيرا وأطلقت عليه “كود LLaMA”، والعديد من الشركات الأخرى عرضت روبوتات للذكاء الاصطناعي لم يعلن عنها من قبل لإجراء عمليات للتدقيق عليها.

نتائج التجربة

الدكتور جوش، المحاضر في جامعة نورث إيسترن والمتخصص في أخلاقيات الذكاء الاصطناعي، أحد المتطوعين في هذا الحدث.

وقال إن المسابقة سمحت بإجراء مقارنة وجهاً لوجه بين العديد من روبوتات الذكاء الاصطناعي، وأظهرت كيف تمكنت بعض الشركات من تحقيق تقدم أكبر في ضمان أداء التكنولوجيا الخاصة بها بشكل مسؤول ومتسق.

وقال الدكتور جوش أنه سيساعد في كتابة تقرير يحلل النتائج التي توصل إليها الهاكرز في الأشهر المقبلة.

وقال إن الهدف هو: “مصدر يسهل الوصول إليه للجميع لمعرفة المشاكل الموجودة وكيف يمكننا مواجهتها”.

الدكتور جوش، المحاضر في جامعة نورث إيسترن والمتخصص في أخلاقيات الذكاء الاصطناعي

مؤتمرات الهاكرز وأخري لمقاومة الهاكرز

مؤتمر ديفكون الذي عقد هذا العام خلال الفترة من 10 الي 13 أغسطس هو تجمع عشاق القرصنة وهو أكبر تجمع لـ الهاكرز في العالم، بدأ تنظيم المؤتمر سنوياً في عام 1993 ووُصف بأنه “مكان لإثارة الهاكرز”. يحضر المؤتمر بجانب الهاكرز أساتذة في الجامعات وخبراء وباحثين وصحفيين ومحامون وخبراء في القانون. وهو مكانًا منطقيًا لاختبار ثغرات وعيوب الذكاء الاصطناعي التوليدي.

كشف المشاركون السابقون في هذا المؤتمر، عن عيوب أمنية خطيرة في نظم شركات تصنيع السيارات “لفتح السيارات عن بعد Remote Control” وهو ما كان يؤدي لسرقات السيارات الحديثة، كما قاموا باختراق مواقع نتائج الانتخابات الأمريكية، وسحب البيانات الحساسة من منصات وسائل التواصل الاجتماعي.

توسلت إحدى الجهات التعليمية إلى الهاكرز “بعدم مهاجمة البنية التحتية أو صفحات الويب”.

ديفكون Defcon هو المؤتمر الثاني من مؤتمرين في لاس فيجاس، الأول هو “بلاك هات Black Hat” في وقت سابق من أغسطس 2023، والذي يوفر للأشخاص في مجتمع أمن المعلومات فرصة لمشاركة التحديثات حول أحدث الاختراقات وطرق إيقافها.

لقد أصبح بشكل مطرد أحد الأماكن البارزة التي يكشف فيها الهاكرز عن أحدث عمليات القرصنة التي اكتشفوها، مما يسمح لمسؤولي الأمن بتصحيح شبكتهم قبل حدوث أي هجمات ضارة.

ونتيجة لذلك، فقد عززت علاقة مهمة بين وجهين لعملة واحدة.

خاص: إيجيبت14
المصدر: نيويورك تايمز – وكالات