وقالت المفوضية الأوروبية إن ذلك يتضمن محتوى "قد يرقى إلى مستوى مواد الاعتداء الجنسي على الأطفال". وقالت اللجنة إن هذه المخاطر "تحققت" الآن، مما يعرض مواطني الكتلة "لضرر جسيم".

سيقوم المنظمون بفحص ما إذا كانت شركة Grok تفي بالتزاماتها بموجب قانون الخدمات الرقمية، وهو كتاب القواعد واسع النطاق للكتلة للحفاظ على مستخدمي الإنترنت في مأمن من المحتوى والمنتجات الضارة.

ردًا على طلب للتعليق، وجهت المتحدثة باسم X وكالة Associated Press إلى بيان سابق مفاده أن الشركة لا تزال "ملتزمة بجعل X منصة آمنة للجميع" وأنها "لا تتسامح مطلقًا" مع الاستغلال الجنسي للأطفال، والعري غير التوافقي، والمحتوى الجنسي غير المرغوب فيه.

وقال بيان X الصادر في 14 كانون الثاني (يناير) أيضًا إنه سيتوقف عن السماح للمستخدمين بتصوير الأشخاص وهم يرتدون "البكيني أو الملابس الداخلية أو غيرها من الملابس الكاشفة"، ولكن فقط في الأماكن التي يعتبر فيها ذلك غير قانوني. وقالت هينا فيركونن، نائبة الرئيس التنفيذي في اللجنة، في بيان: "إن التزييف العميق الجنسي للنساء والأطفال دون رضاهم هو شكل عنيف وغير مقبول من أشكال الإهانة". قال فيركونن، الذي يشرف على سيادة التكنولوجيا والأمن والديمقراطية: "من خلال هذا التحقيق، سنحدد ما إذا كانت X قد أوفت بالتزاماتها القانونية بموجب قانون الخدمات الرقمية، أو ما إذا كانت تعامل مع حقوق المواطنين الأوروبيين - بما في ذلك حقوق النساء والأطفال - كأضرار جانبية لخدمتها".

أطلقت شركة الذكاء الاصطناعي التابعة لـ Musk xAI أداة صورة Grok في الصيف الماضي. لكن المشكلة بدأت تتفاقم فقط في أواخر الشهر الماضي عندما وافق جروك على ما يبدو على عدد كبير من طلبات المستخدمين لتعديل الصور التي نشرها الآخرون. تم تضخيم المشكلة لأن ماسك يعرض برنامج الدردشة الآلي الخاص به كبديل أكثر حداثة مع ضمانات أقل من المنافسين، ولأن ردود جروك على X مرئية للعامة، وبالتالي يمكن نشرها بسهولة.

يغطي تحقيق الاتحاد الأوروبي خدمة Grok فقط على X، وليس موقع Grok الإلكتروني والتطبيق المستقل. وذلك لأن DSA لا ينطبق إلا على أكبر المنصات عبر الإنترنت.

ليس هناك موعد نهائي للكتلة لحل القضية، والتي يمكن أن تنتهي إما بتعهد X بتغيير سلوكه أو دفع غرامة كبيرة.

في ديسمبر/كانون الأول، أصدرت بروكسل غرامة بقيمة 120 مليون يورو (140 مليون دولار آنذاك) كجزء من تحقيق DSA المستمر سابقًا، بسبب أوجه القصور بما في ذلك علامات الاختيار الزرقاء التي انتهكت القواعد بشأن "ممارسات التصميم الخادعة" التي تخاطر بتعريض المستخدمين لعمليات الاحتيال والتلاعب.

كما قامت الكتلة بفحص X بسبب مزاعم بأن Grok أنشأ مواد معادية للسامية وطلب من الموقع المزيد معلومات.

منعت ماليزيا وإندونيسيا الوصول إلى Grok في وقت سابق من هذا الشهر ردًا على الجدل، لتصبحا أول دولتين تفعلان ذلك.

يوم الجمعة، قالت السلطات الماليزية إنها رفعت القيود المؤقتة بعد أن نفذت الشركة إجراءات أمنية ووقائية إضافية، دون إعطاء مزيد من التفاصيل. وقال المنظمون الماليزيون إنهم التقوا الأسبوع الماضي مع ممثلي X وسيواصلون مراقبة الوضع.

يواجه X ضغوطًا مماثلة في الولايات المتحدة

في الأسبوع الماضي، كتب المدعون العامون في 35 ولاية خطابًا إلى الشركة يدعوها إلى الكشف عن خططها لمنع Grok من إنشاء صور جنسية عميقة مزيفة بدون موافقة، وشرح كيف ستزيل مثل هذا المحتوى الموجود من المنصة.

كتب المدعون العامون: "نحثك بشدة على أن تكون رائدًا في هذا المجال من خلال معالجة الأضرار الناجمة عن هذه التكنولوجيا بشكل أكبر".

__

كاتبة AP إيلين نج ساهم في كوالالمبور في هذا التقرير