الرئيس التنفيذي والمؤسس المشارك لشركة “أوبن أيه آي” سام ألتمان
أعلن سام ألتمان، الرئيس التنفيذي لشركة“أوبن أوبن إيه آي OpenAI، أن الشركة ستخفف قريبًا بعض قيود الأمان الخاصة بـ “شات جي بي تي ChatGPT“، مما يسمح للمستخدمين بجعل ردود روبوت الدردشة أكثر ودية أو “أكثر شبهاً بالبشر”، ويسمح “للبالغين المعتمدين” بالمشاركة في محادثات جنسية.
هذه الخطوة قد تُساعد “أوبن إيه آي” على جذب المزيد من المشتركين الذين يدفعون أموالاً مقابل الخدمة.
ومن المرجح أيضاً أن تُكثف الضغوط على المُشرّعين لفرض قيود أكثر صرامة على برامج الدردشة المُرافقة.
وفي منشور على منصة إكس يوم الثلاثاء 14 أكتوبر، قال ألتمان إن الإصدارات القادمة من الدردشة الآلية ستُمكّنه من التصرف بطريقة أقرب إلى البشر، “لكن فقط إذا رغبتم في ذلك، وليس لأننا نحقق أقصى استفادة من الاستخدام”.
وأضاف ” لقد جعلنا “شات جي بي تي ChatGPT” مقيّدًا للغاية للتأكد من أننا نتعامل بحذر مع قضايا الصحة العقلية. ندرك أن هذا جعله أقل فائدة/متعة للعديد من المستخدمين الذين لا يعانون من مشاكل الصحة العقلية، ولكن نظرًا لخطورة المشكلة، أردنا أن نتعامل معها بالشكل الصحيح”، قال ألتمان. “في ديسمبر، مع طرحنا لنظام التحقق من العمر بشكل أكثر شمولاً وكجزء من مبدأ “معاملة المستخدمين البالغين كبالغين”، سنسمح بالمزيد، مثل المواد الإباحية للبالغين المعتمدين.”
يعد هذا الإعلان تحولًا ملحوظًا عن الجهود التي بذلتها شركة OpenAI على مدار أشهر لمعالجة العلاقات المقلقة التي طورها بعض المستخدمين غير المستقرين عقليًا مع “شات جي بي تي”.
يبدو أن ألتمان يعلن انتصارًا مبكرًا على هذه المشكلات، مدعيًا أن OpenAI “تمكنت من التخفيف من المشكلات الصحية العقلية الخطيرة” المحيطة بـ “شات جي بي تي”. ومع ذلك، لم تقدم الشركة سوى القليل من الأدلة على ذلك، بل إنها تمضي قدمًا الآن في خططها لكي يشارك “شات جي بي تي” في محادثات جنسية مع المستخدمين.
ظهرت هذا الصيف عدة قصص مقلقة حول “شات جي بي تي”، وتحديداً نموذج GPT-4o الخاص به، مما يشير إلى أن روبوت الدردشة الذكي يمكن أن يقود المستخدمين الضعفاء إلى متاهات وهمية.
في إحدى الحالات، بدا أن “شات جي بي تي” أقنع رجلاً بأنه عبقري في الرياضيات ويجب عليه إنقاذ العالم. وفي حالة أخرى، رفع والدا مراهق دعوى قضائية ضد OpenAI، زاعمين أن “شات جي بي تي” شجع أفكار انتحارية لدى ابنهما في الأسابيع التي سبقت وفاته.
كانت الدعوى القضائية التي رفعها مات وماريا راين، والدا آدم راين البالغ من العمر 16 عاماً، أول دعوى قضائية تتهم شركة “أوبن إيه آي” بالقتل الخطأ.
انتقد الزوجان المنحدران من كاليفورنيا أدوات الرقابة الأبوية التي وضعتها الشركة التي قالت إنها مصممة لتعزيز الاستخدام الصحي لبرنامج الدردشة الآلي، وقالا إنها لم تكن كافية.
وتضمنت سجلات العائلة محادثات بين آدم، الذي توفي في أبريل الماضي، وتطبيق “شات جي بي تي” تُظهره وهو يشرح أفكاره الانتحارية.
خطوات OpenAI لمعالجة المشكلة
رداً على ذلك، أصدرت OpenAI سلسلة من ميزات الأمان لمعالجة التملق في الذكاء الاصطناعي: وهو ميل روبوت الدردشة الذكي إلى جذب المستخدمين من خلال الموافقة على كل ما يقولونه، حتى السلوكيات السلبية.
أطلقت OpenAI في أغسطس GPT-5، وهو نموذج جديد للذكاء الاصطناعي يتميز بمعدلات أقل من التملق ويحتوي على جهاز توجيه يمكنه تحديد السلوك المثير للقلق لدى المستخدمين.
وبعد شهر، أطلقت OpenAI ميزات أمان للقاصرين، بما في ذلك نظام لتوقع العمر وطريقة تتيح للآباء التحكم في حساب “شات جي بي تي” الخاص بأبنائهم المراهقين.
وأعلنت OpenAI يوم الثلاثاء 14 أكتوبر عن تشكيل مجلس خبراء من المتخصصين في الصحة العقلية لتقديم المشورة للشركة بشأن الرفاهية والذكاء الاصطناعي.
آدم راين، انتحر بعد أن تحدّث لبرنامج تشات جي بي تي عن أفكاره لإيذاء نفسه
صرّح ألتمان “ندرك أن هذا جعله أقل فائدة ومتعة للعديد من المستخدمين الذين لم يُعانوا من مشاكل في الصحة العقلية، لكن نظراً لخطورة المشكلة، أردنا تصحيحها”.
وأضاف أن الشركة تمكنت الآن من التخفيف من مخاطر الصحة العقلية الخطيرة، ولديها أدوات جديدة تُمكّنها من “تخفيف القيود بأمان في معظم الحالات”.
يقول ألتمان إن OpenAI ستسمح قريبًا بالمواد الإباحية لـ “البالغين المعتمدين”. وقال متحدث باسم OpenAI لموقع TechCrunch إن الشركة ستعتمد على نظام توقع العمر الذي تعمل على تطويره لضمان أن تكون الميزات الإباحية في “شات جي بي تي” متاحة فقط للمستخدمين البالغين.
كما كتب ألتمان في 16 سبتمبر الماضي علي منشور على مدونته، إذا أخطأ نظام توقع العمر في OpenAI في تصنيف شخص بالغ على أنه قاصر، فقد يضطر مستخدمو “شات جي بي تي” إلى تحميل صورة من بطاقة هويتهم الصادرة عن الحكومة إلى “شات جي بي تي” لتصحيح ذلك. يكتب ألتمان أنه على الرغم من أن هذا يمثل انتهاكًا للخصوصية، إلا أن الشركة تعتقد أنه “مقايضة جديرة بالاهتمام”.
من غير الواضح ما إذا كانت OpenAI ستوسع نطاق المواد الإباحية لتشمل أدواتها لتوليد الصوت والصور والفيديو باستخدام الذكاء الاصطناعي.
يدعي ألتمان أن OpenAI تعمل أيضًا على جعل “شات جي بي تي” أكثر ودية وإثارة بسبب مبدأ الشركة المتمثل في “معاملة المستخدمين البالغين كبالغين”.
على مدار العام الماضي، تحولت OpenAI إلى استراتيجية أكثر تساهلاً في مراقبة محتوى “شات جي بي تي”، مما سمح للروبوت التخاطبي بأن يكون أكثر تساهلاً وأقل رفضًا.
في فبراير الماضي، تعهدت OpenAI بتمثيل المزيد من وجهات النظر السياسية في “شات جي بي تي”، وفي مارس، قامت الشركة بتحديث “شات جي بي تي” للسماح بالصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لرموز الكراهية.
الدفاع عن إتاحة المواد الإباحية
قال ألتمان “في ديسمبر الماضي، مع تطبيقنا لسياسة تحديد العمر بشكل أكثر شمولاً، وكجزء من مبدأ (معاملة المستخدمين البالغين كبالغين)، سنسمح بالمزيد، مثل المواد الإباحية للبالغين المُتحقَّق منهم”.
إن إدخال المحتوى الإباحي في “شات جي بي تي” هو مجال غير مسبوق بالنسبة لـ OpenAI ويثير مخاوف أوسع نطاقًا حول كيفية تفاعل المستخدمين الضعفاء مع الميزات الجديدة. في حين يصر ألتمان على أن OpenAI لا “تستغل الاستخدام” أو تحسن التفاعل، فإن جعل “شات جي بي تي” أكثر إثارة يمكن أن يجذب المستخدمين بالتأكيد.
لقد كان السماح لروبوتات الدردشة بالمشاركة في ألعاب الأدوار الرومانسية أو المثيرة استراتيجية فعالة لجذب المستخدمين بالنسبة لمزودي روبوتات الدردشة الأخرى التي تعمل بالذكاء الاصطناعي، مثل Character.AI.
وقد اكتسبت الشركة عشرات الملايين من المستخدمين، يستخدم الكثير منهم روبوتات الدردشة الخاصة بها بمعدل مرتفع. قالت Character.AI في عام 2023 إن المستخدمين يقضون في المتوسط ساعتين يوميًا في التحدث إلى روبوتات الدردشة الخاصة بها. وتواجه الشركة أيضًا دعوى قضائية حول طريقة تعاملها مع المستخدمين الضعفاء.
في حين أن البالغين يقيمون بالتأكيد علاقات رومانسية مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، فإن هذه الظاهرة تحظى بشعبية كبيرة بين القاصرين أيضًا. كشف تقرير جديد صادر عن مركز الديمقراطية والتكنولوجيا أن 19% من طلاب المدارس الثانوية إما أقاموا علاقة رومانسية مع روبوت دردشة يعمل بالذكاء الاصطناعي، أو يعرفون صديقًا أقام مثل هذه العلاقة.
أدى إطلاق “شات جي بي تي” في أواخر عام 2022 إلى دخول عصر جديد من روبوتات الدردشة التي أثبتت أنها ذكية وسريعة البديهة ومجادلة ومفيدة وأحيانًا رومانسية بشكل صارخ
رد النقاد علي هذه الخطوة
يقول النقاد إن قرار “أوبن إيه آي” بالسماح بنشر المواد الإباحية عبر المنصة يُظهر الحاجة إلى مزيد من التنظيم على المستوى الفيدرالي ومستوى الولايات.
وقالت جيني كيم، الشريكة في شركة المحاماة (Boies Schiller Flexner): “كيف سيضمنون عدم قدرة الأطفال على الوصول إلى أجزاء شات جي بي تي المخصصة للبالغين فقط والتي توفر مواد إباحية؟”.
وأضافت كيم: “شركة أوبن إيه آي، مثل معظم شركات التكنولوجيا الكبرى في هذا المجال، تستخدم الناس كفئران تجارب”.
كيم منخرطة في دعوى قضائية ضد شركة ميتا تزعم أن خوارزمية إنستجرام التابعة للشركة تضر بالصحة النفسية للمستخدمين المراهقين.
وقالت كيم: “لا نعرف حتى ما إذا كان نظامهم لتحديد الأعمار سينجح”.
في شهر أبريل الماضي، أفاد موقع Tech Crunch أن “أوبن إيه آي” تسمح للحسابات التي سجل فيها المستخدم كقاصر بتوليد صور إباحية، وقالت الشركة آنذاك إنها بصدد طرح حل للحد من هذا المحتوى.
ووجدت دراسة مسحية نشرها هذا الشهر مركز الديمقراطية والتكنولوجيا، وهو مركز غير ربحي، أن واحداً من كل خمسة طلاب أفادوا بأنهم أو أي شخص يعرفونه كان لديه علاقة رومانسية مع الذكاء الاصطناعي.
خطوات متضاربة في الولايات المتحدة
يوم الاثنين 13 أكتوبر، استخدم حاكم ولاية كاليفورنيا، جافين نيوسوم، حق النقض لمشروع قانون أقرّه المجلس التشريعي للولاية، وكان من شأنه منع المطورين من توفير برامج الدردشة الآلية الذكية للأطفال، ما لم تضمن الشركات عدم تسبب البرنامج في سلوكيات ضارة.
وقال نيوسوم في رسالة مرفقة بحق النقض: “من الضروري أن يتعلم المراهقون كيفية التفاعل الآمن مع أنظمة الذكاء الاصطناعي”.
وعلى الصعيد الوطني، أطلقت لجنة التجارة الفيدرالية الأمريكية تحقيقاً في كيفية تفاعل الدردشات الآلية الذكية مع الأطفال.
في مجلس الشيوخ الأمريكي طُرح الشهر الماضي، تشريعٌ مشترك بين الحزبين يصنف الدردشات الآلية الذكية كمنتجات. ويسمح هذا القانون للمستخدمين برفع دعاوى المسؤولية ضد مطوري الدردشات الآلية الذكية.
صراع شرس لشركات الذكاء الاصطناعي
مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا. تستثمر ميتا مئات المليارات من الدولارات في الذكاء الاصطناعي، وترى أن الروبوتات هي مفتاح تفاعل المستخدمين
ويأتي إعلان ألتمان يوم الثلاثاء 14 أكتوبر في الوقت الذي يشكك فيه البعض في الارتفاع السريع لقيمة شركات تكنولوجيا الذكاء الاصطناعي.
تتعرض OpenAI لضغوط من أجل زيادة قاعدة مستخدميها. في حين أن “شات جي بي تي” يستخدمه بالفعل 800 مليون مستخدم نشط أسبوعيًا، فإن OpenAI تتسابق مع جوجل و ميتا لتطوير منتجات استهلاكية مدعومة بالذكاء الاصطناعي يتم اعتمادها على نطاق واسع.
كما جمعت الشركة مليارات الدولارات من أجل بناء بنية تحتية تاريخية، وهو استثمار يتعين على OpenAI سداده في نهاية المطاف.
وتشهد إيرادات “أوبن إيه آي” نمواً، لكنها لم تكن مربحة قط.
وصرّح روب لالكا، أستاذ إدارة الأعمال في جامعة تولين ومؤلف كتاب “الكيميائيون المغامرون The Venture Alchemists” الصادر مؤخراً، بأن شركات الذكاء الاصطناعي الكبرى تجد نفسها في منافسة شرسة على حصة السوق.
وقال لالكا: “لم تشهد أيُّ شركةٍ من قبلُ هذا النوعَ من التبنّي الذي شهدته أوبن إيه آن مع شات جي بي تي”.
وأضاف: “كان عليهم مواصلة دفع منحنى النمو المتسارع، وتحقيق الهيمنة على السوق قدر الإمكان”.
خاص: إيجيبت14
المصدر: TechCrunch
Egypt14 