كوالالمبور، ماليزيا (AP) - أصبحت ماليزيا وإندونيسيا أول دولتين تمنعان Grok، روبوت الدردشة بالذكاء الاصطناعي الذي طورته شركة xAI التابعة لإيلون موسك، مع تزايد المخاوف بين السلطات العالمية من إساءة استخدامه لإنشاء صور جنسية صريحة وغير توافقية.

هناك تدقيق متزايد لأدوات الذكاء الاصطناعي التوليدية التي يمكن أن تنتج صورًا وصوتًا ونصًا واقعيًا، ومخاوف من فشل الضمانات الحالية في منعها. سوء المعاملة. تم انتقاد برنامج Grok chatbot، الذي يمكن الوصول إليه من خلال منصة التواصل الاجتماعي X التابعة لـ Musk، لأنه أنشأ صورًا تم التلاعب بها، بما في ذلك صور نساء بالبكيني أو أوضاع جنسية صريحة، بالإضافة إلى صور تتضمن أطفالًا.

وقال وزير الاتصالات والشؤون الرقمية الإندونيسي ميوتيا حفيظ في بيان: "ترى الحكومة أن التزييف العميق الجنسي غير التوافقي يمثل انتهاكًا خطيرًا لحقوق الإنسان والكرامة وسلامة المواطنين في الفضاء الرقمي".

يتزايد التدقيق في تطبيق Grok، بما في ذلك في الاتحاد الأوروبي والهند وفرنسا والمملكة المتحدة، التي قالت يوم الاثنين إنها تتحرك لتجريم "تطبيقات العري". كما أطلقت هيئة تنظيم وسائل الإعلام في بريطانيا تحقيقًا فيما إذا كانت شركة Grok قد انتهكت القانون من خلال السماح للمستخدمين بمشاركة الصور الجنسية للأطفال.

في الأسبوع الماضي، قصرت شركة Grok إنتاج الصور وتحريرها على المستخدمين الذين يدفعون رسومًا في أعقاب رد فعل عنيف عالمي على التزييف العميق الجنسي للأشخاص، لكن النقاد يقولون إنها لم تعالج المشكلة بشكل كامل.

أدى طلب عبر البريد الإلكتروني للتعليق من وكالة Associated Press إلى xAI إلى رد تلقائي من عنوان دعم الوسائط جاء فيه "Legacy Media Lies". وكانت هذه هي نفس الرسالة التي تم تلقيها من عنوان مختلف عندما طُلب منك التعليق على رد الفعل العنيف العالمي.

إجراء آسيوي يستهدف جروك

قال المنظمون في دولتي جنوب شرق آسيا إن الضوابط الحالية لا تمنع إنشاء ونشر المحتوى الإباحي المزيف، لا سيما الذي يشمل النساء والقاصرين. منعت الحكومة الإندونيسية مؤقتًا الوصول إلى Grok يوم السبت، تلتها ماليزيا يوم الأحد.

أظهرت النتائج الأولية أن Grok يفتقر إلى ضمانات فعالة لمنع المستخدمين من إنشاء وتوزيع محتوى إباحي بناءً على صور حقيقية لسكان إندونيسيين، حسبما قال ألكسندر صبار، المدير العام للإشراف على الفضاء الرقمي، في بيان. وقال إن مثل هذه الممارسات تخاطر بانتهاك الخصوصية وحقوق الصور عندما يتم التلاعب بالصور أو مشاركتها دون موافقة.

لاحظت لجنة الاتصالات والوسائط المتعددة الماليزية "سوء الاستخدام المتكرر" للأداة لإنشاء صور فاحشة وصريحة جنسيًا وغير توافقية، بما في ذلك المحتوى الذي يتضمن النساء والقاصرين.

وقالت الهيئة التنظيمية إن الإخطارات صدرت هذا الشهر إلى شركة X Corp. وxAI يطالبان بضمانات أقوى.

"تم فرض التقييد كإجراء وقائي ومتناسب أثناء استمرار العمليات القانونية والتنظيمية"، مضيفًا أن الوصول سيظل محظورًا حتى يتم وضع ضمانات فعالة.

تم إطلاق التحقيق في المملكة المتحدة

تم إطلاق Grok في عام 2023، وهو مجاني للاستخدام على X. تمت إضافة ميزة مولد الصور، Grok Imagine، في العام الماضي وتضمنت ما يسمى بالوضع الحار الذي يمكنه إنشاء محتوى للبالغين.

وقالت هيئة تنظيم وسائل الإعلام في المملكة المتحدة إنها أطلقت تحقيقًا فيما إذا كان Grok قد انتهك واجبه في حماية الأشخاص من المحتوى غير القانوني. قالت الهيئة التنظيمية، Ofcom، إن الصور التي أنشأها Grok لأطفال يتم استغلالهم جنسيًا أو لأشخاص يتم تجريدهم من ملابسهم قد ترقى إلى مستوى المواد الإباحية أو مواد الاعتداء الجنسي على الأطفال.

وصفت وزيرة التكنولوجيا ليز كيندال الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي بأنها "أسلحة إساءة الاستخدام"، وقالت إن حكومة حزب العمال من يسار الوسط ستستهدف مصدر المشكلة من خلال تجريم الشركات التي توفر أدوات لإنشاء صور عارية دون موافقة.

وقال كيندال إن X قد يواجه غرامة محتملة من Ofcom تصل إلى 10% من إيراداتها العالمية المؤهلة تعتمد على نتيجة التحقيق وأمر محكمة محتمل يمنع الوصول إلى الموقع.

قال كيندال في البرلمان: "يمكنهم اختيار التصرف عاجلاً لضمان عدم إمكانية مشاركة هذه المواد البغيضة وغير القانونية على منصتهم".

وصف ماسك خلال عطلة نهاية الأسبوع الحكومة البريطانية بأنها "فاشية" وقال إنها تحاول خنق حرية التعبير.

___

ذكرت صحيفة تاريجان من جاكرتا، إندونيسيا. ساهم الكاتبان في وكالة أسوشيتد برس سيلفيا هوي وبريان ميلي في لندن.