أطلقت هيئة تنظيم الإعلام في المملكة المتحدة Ofcom تحقيقًا رسميًا في Elon Musk's X بشأن استخدام برنامج الدردشة الآلي Grok المزود بالذكاء الاصطناعي لإنشاء صور جنسية مزيفة بعمق.

ووصفت Ofcom التقارير بأنها "مثيرة للقلق العميق"، محذرة في بيان صدر يوم الاثنين من أن إنشاء برنامج الدردشة الآلي لصور مزيفة عميقة يمكن أن يصل إلى مستوى "إساءة استخدام الصور الحميمة أو المواد الإباحية"، وأن "الصور الجنسية للأطفال" يمكن اعتبارها "اعتداء جنسي على الأطفال". المواد".

تتعرض الهيئة التنظيمية، التي تتمتع بسلطة حظر Grok، لضغوط للتصرف بعد أن قال رئيس وزراء المملكة المتحدة كير ستارمر يوم الخميس إن الصور التي أنتجها Grok كانت "مثيرة للاشمئزاز" و"غير قانونية"، وأن منصة التواصل الاجتماعي الخاصة بـ Musk X كان عليها "السيطرة" على التطبيق.

قالت Ofcom إن تحقيقها سيحدد ما إذا كان X "فشل في الامتثال لالتزاماته القانونية"، وتم إطلاقه بعد امتثال الشركة لطلب سابق من الجهة التنظيمية لشرح الخطوات التي اتخذتها لحماية المستخدمين في المملكة المتحدة.

عند طلب التعليق، أحال X وكالة الأنباء الفرنسية إلى بيان سابق، الذي قال إنه اتخذ إجراءات ضد المحتوى غير القانوني على X "عن طريق إزالته، وتعليق الحسابات بشكل دائم، والعمل مع الحكومات المحلية وجهات إنفاذ القانون حسب الضرورة".

التكنولوجيا قالت الوزيرة ليز كيندال إنه من الضروري أن تكمل Ofcom تحقيقاتها بسرعة، لأن الجمهور، والأهم من ذلك، الضحايا، لن يقبلوا أي تأخير.

وقال نائب رئيس الوزراء ديفيد لامي إنه أثار الوضع مع نائب رئيس الولايات المتحدة جيه دي فانس، الذي، على حد زعمه، وافق على أن الأمر غير مقبول على الإطلاق.

أشار داونينج ستريت في الوقت نفسه إلى أنه على استعداد للنظر في ترك X، المعروفة سابقًا باسم Twitter، إذا لم تقم شركة السيد ماسك بذلك. قانون.

سلطة الحظر

بموجب قانون السلامة على الإنترنت البريطاني، الذي دخل حيز التنفيذ في يوليو/تموز، يُطلب من المنصات عبر الإنترنت التي تستضيف محتوى يحتمل أن يكون ضارًا تنفيذ التحقق الصارم من العمر من خلال أدوات مثل صور الوجه أو التحقق من بطاقات الائتمان.

من غير القانوني لمواقع الوسائط إنشاء أو مشاركة صور حميمة غير توافقية أو مواد الاعتداء الجنسي على الأطفال، بما في ذلك التزييف العميق الجنسي الذي تم إنشاؤه باستخدام الذكاء الاصطناعي (AI).

تتمتع Ofcom بسلطة فرض غرامات بنسبة 10 بالمائة. من الإيرادات العالمية لانتهاك القواعد.

وعندما سُئل يوم الاثنين عما إذا كان من الممكن حظر X، قال وزير الأعمال بيتر كايل: "نعم، بالطبع". لكنه أشار إلى أن سلطة القيام بذلك تقع على عاتق Ofcom.

بدا أن Grok يحاول صرف الانتقادات الدولية بسياسة جديدة لتحقيق الدخل في نهاية الأسبوع الماضي، حيث نشر على X أن الأداة أصبحت الآن "تقتصر على المشتركين الذين يدفعون".

أدان ستارمر هذه الخطوة باعتبارها إهانة للضحايا و"ليست حلاً".

اتهم Musk حكومة المملكة المتحدة بالفاشية ومحاولة كبح حرية التعبير.

تم تطوير Grok أطلقت شركة أخرى أسسها ماسك تدعى xAI، ميزة جديدة متقدمة لتوليد الصور في يوليو من العام الماضي.

لكن استخدامها لإنشاء صور عارية عميقة أصبح منتشرًا على نطاق واسع خلال الأسابيع القليلة الماضية، مما أثار إدانة في جميع أنحاء العالم.