<ديف><ديف>

لندن (AP) – يواجه برنامج الدردشة الآلي Grok التابع لشركة Elon Musk رد فعل عنيفًا من الحكومات في جميع أنحاء العالم بعد الارتفاع الأخير في الصور الجنسية للنساء والأطفال التي تم إنشاؤها دون موافقة بواسطة الأداة التي تعمل بالذكاء الاصطناعي.

في يوم الثلاثاء، طالب كبير مسؤولي التكنولوجيا في بريطانيا منصة التواصل الاجتماعي التابعة لـ Musk X باتخاذ إجراءات عاجلة بينما أشار مشرع بولندي إلى ذلك كسبب لسن قوانين السلامة الرقمية.

أدانت الذراع التنفيذية للاتحاد الأوروبي "غروك"، بينما أدان المسؤولون والمنظمون في فرنسا والهند وماليزيا والبرازيل المنصة ودعوا إلى إجراء تحقيقات.

يشير تزايد الإنذارات من دول متباينة إلى الكابوس المحتمل لتطبيقات التعري التي تستخدم الذكاء الاصطناعي لإنشاء صور جنسية صريحة ومزيفة بعمق.

إليك نظرة فاحصة:

إنشاء الصور

ظهرت المشكلة بعد إطلاق Grok Imagine العام الماضي، وهو منشئ صور يعمل بالذكاء الاصطناعي يسمح للمستخدمين بإنشاء مقاطع فيديو وصور عن طريق كتابة المطالبات النصية. يتضمن ما يسمى بـ "الوضع الحار" الذي يمكنه إنشاء محتوى للبالغين.

لقد تزايد الأمر في أواخر الشهر الماضي عندما بدأ برنامج Grok، الذي يتم استضافته على X، في الموافقة على عدد كبير من طلبات المستخدمين لتعديل الصور التي نشرها الآخرون. اعتبارًا من يوم الثلاثاء، لا يزال بإمكان مستخدمي Grok إنشاء صور لنساء باستخدام طلبات مثل "ضعها في بيكيني شفاف".

تتفاقم المشكلة لأن " ماسك " يعرض برنامج الدردشة الآلي الخاص به كبديل أكثر حداثة للمنافسين مع المزيد من الضمانات، ولأن صور "غروك" مرئية للعامة، وبالتالي يمكن نشرها بسهولة. وقالت مجموعة AI Forensics غير الربحية في تقرير إنها قامت بتحليل 20 ألف صورة تم إنشاؤها بواسطة Grok في الفترة بين 25 ديسمبر/كانون الأول و1 يناير/كانون الثاني، ووجدت أن 2% منها تصور شخصًا يبدو أنه يبلغ من العمر 18 عامًا أو أقل، بما في ذلك 30 شابًا أو شابة جدًا أو شابة أو فتاة ترتدي بيكيني أو ملابس شفافة.

استجابة Musk

استجابت شركة الذكاء الاصطناعي التابعة لـ Musk، xAI، لطلب التعليق بالرد الآلي، "Legacy Media Lies".

ومع ذلك، لم ينكر X وجود المحتوى المزعج الناتج عن Grok. ومع ذلك، فهي لا تزال تزعم في منشور على حساب الأمان الخاص بها، أنها تتخذ إجراءات ضد المحتوى غير القانوني، بما في ذلك مواد الاعتداء الجنسي على الأطفال، "عن طريق إزالتها، وتعليق الحسابات بشكل دائم، والعمل مع الحكومات المحلية وجهات إنفاذ القانون حسب الضرورة".

كررت المنصة أيضًا تعليقًا من Musk، الذي قال: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني".

تطالب قائمة متزايدة من البلدان بأن يبذل Musk المزيد لكبح جماح المحتوى الصريح أو المسيء. قالت وزيرة التكنولوجيا ليز كيندال يوم الثلاثاء إنه يتعين على بريطانيا أن تتعامل "X" "بشكل عاجل" مع المشكلة، مضيفة أنها تؤيد إجراء تدقيق إضافي من جانب هيئة تنظيم الاتصالات في المملكة المتحدة، Ofcom.

وقال كيندال إن المحتوى "مروع للغاية وغير مقبول في مجتمع لائق".

"لا يمكننا ولن نسمح بانتشار هذه الصور المهينة والمهينة، والتي تستهدف النساء والفتيات بشكل غير متناسب."

قالت منظمة Ofcom يوم الاثنين إنها أجرت "اتصالًا عاجلًا" مع X.

"نحن على دراية بالمخاوف الجادة التي أثيرت بشأن ميزة على Grok on X التي تنتج صورًا عارية لأشخاص وصورًا جنسية للأطفال"، قالت الهيئة الرقابية.

قالت هيئة الرقابة إنها اتصلت بكل من X وxAI لفهم الخطوات التي اتخذتها للامتثال للوائح البريطانية.

بموجب قانون السلامة عبر الإنترنت في المملكة المتحدة، يجب على منصات وسائل التواصل الاجتماعي منع وإزالة مواد الاعتداء الجنسي على الأطفال عندما تصبح على علم بها.

بولندا

استخدم مشرع بولندي Grok يوم الثلاثاء كسبب لتشريع السلامة الرقمية الوطني الذي من شأنه تعزيز الحماية للقاصرين ويسهل على السلطات إزالتها المحتوى.

في مقطع فيديو عبر الإنترنت، قال Wlodzimierz Czarzasty، رئيس البرلمان، إنه يريد أن يجعل من نفسه هدفًا لغروك لتسليط الضوء على المشكلة، وكذلك مناشدة الرئيس البولندي لدعم التشريع.

"يقوم جروك مؤخرًا بتجريد الناس. إنه تجريد النساء والرجال والأطفال من ملابسهم. نشعر بالسوء حيال ذلك. بصراحة، أود تقريبًا أن يخلع جروك ملابسي أيضًا".

وقال توماس ريجنير، المتحدث باسم المفوضية الأوروبية: "إن الذراع التنفيذية للكتلة "تدرك جيدًا" أن جروك معتاد على "محتوى جنسي صريح مع بعض المخرجات التي يتم إنشاؤها بصور تشبه الأطفال"، "هذا ليس حارًا. هذا غير قانوني. هذا مروع. هذا مثير للاشمئزاز. هذه هي الطريقة التي نرى بها الأمر، وهذا ليس له مكان في أوروبا. هذه ليست المرة الأولى التي ينتج فيها جروك مثل هذه المخرجات". وقال للصحفيين يوم الاثنين.

بعد أن نشر جروك محتوى ينكر الهولوكوست في العام الماضي، وفقًا لريجنير، سعت اللجنة للحصول على مزيد من المعلومات من منصة التواصل الاجتماعي الخاصة بـ Musk X. وقال إن الرد من X قيد التحليل حاليًا.

فرنسا

قال مكتب المدعي العام في باريس إنه يوسع التحقيق الجاري بشأن X ليشمل التزييف العميق الجنسي الصريح بعد تلقي المسؤولين شكاوى من المشرعين.

نبه ثلاثة وزراء في الحكومة المدعين العامين إلى "محتوى غير قانوني بشكل واضح" أنشأه Grok ونشره على X، وفقًا لبيان حكومي الأسبوع الماضي.

أشارت الحكومة أيضًا إلى وجود مشاكل مع هيئة تنظيم الاتصالات في البلاد بشأن الانتهاكات المحتملة لقانون الخدمات الرقمية للاتحاد الأوروبي.

"الإنترنت ليس منطقة خارجة عن القانون ولا منطقة للإفلات من العقاب: الجرائم الجنسية المرتكبة عبر الإنترنت تشكل جرائم جنائية في حد ذاتها وتقع بالكامل تحت القانون، تمامًا مثل تلك المرتكبة خارج الإنترنت"، كما قالت الحكومة.

الهند

أصدرت الحكومة الهندية يوم الجمعة إنذارًا نهائيًا إلى X، تطالبها بإزالة جميع "المحتوى غير القانوني" واتخاذ إجراءات ضد المستخدمين المخالفين. كما أمرت وزارة الإلكترونيات وتكنولوجيا المعلومات في البلاد الشركة بمراجعة "الإطار الفني والحوكمة" لشركة Grok وتقديم تقرير عن الإجراءات المتخذة.

اتهمت الوزارة جروك بـ "إساءة الاستخدام الفادح" للذكاء الاصطناعي والإخفاقات الجسيمة في ضماناته وإنفاذه من خلال السماح بتوليد ومشاركة "صور أو مقاطع فيديو فاحشة لنساء بطريقة مهينة أو بذيئة من أجل تشويه سمعتهن بشكل غير لائق".

وحذرت الوزارة من أن عدم الالتزام بالموعد النهائي المحدد بـ 72 ساعة سيعرض الشركة لمشاكل قانونية أكبر، لكن الموعد النهائي انقضى دون أي تحديث عام من الهند.

ماليزيا

قالت هيئة مراقبة الاتصالات الماليزية يوم السبت إنها تحقق مع مستخدمي X الذين انتهكوا القوانين التي تحظر نشر "محتوى مسيء للغاية أو فاحش أو غير لائق".

قالت لجنة الاتصالات والوسائط المتعددة الماليزية إنها تحقق أيضًا في الأضرار عبر الإنترنت على X، وستستدعي ممثل الشركة.

قالت هيئة الرقابة إنها أحاطت علمًا بالشكاوى العامة حول استخدام أدوات الذكاء الاصطناعي الخاصة بـ X للتلاعب رقميًا "بصور النساء والقاصرين لإنتاج محتوى غير لائق أو مسيء للغاية أو ضار بأي شكل من الأشكال".

البرازيل

قالت المشرعة إريكا هيلتون إنها أبلغت عن Grok وX إلى مكتب المدعي العام الفيدرالي البرازيلي وهيئة مراقبة حماية البيانات في البلاد.

في منشور لها على وسائل التواصل الاجتماعي، اتهمت كليهما بإنتاج ثم نشر صور جنسية للنساء والأطفال دون موافقتهم.

قالت إنه يجب تعطيل وظائف الذكاء الاصطناعي الخاصة بـ X حتى يتم إجراء التحقيق.

شجب هيلتون، أحد أوائل المشرعين المتحولين جنسيًا في البرازيل، كيف تمكن المستخدمون من إقناع جروك بتغيير أي صورة منشورة رقميًا، بما في ذلك "تبديل ملابس النساء والفتيات بالبكيني أو جعلها موحية ومثيرة".

"إن الحق في صورة الفرد هو حق فردي؛ ولا يمكن نقله من خلال "شروط الاستخدام" لشبكة اجتماعية، والتوزيع الشامل للمواد الإباحية للأطفال (علامة النجمة) بواسطة وقالت إن الذكاء الاصطناعي المدمج في شبكة اجتماعية يتجاوز كل الحدود.

__

ساهم في هذا التقرير مؤلفو وكالة أسوشييتد برس كلوديا سيوبانو في وارسو ولورن كوك في بروكسل وجون ليستر في باريس.