لندن (AP) - اتحادیه اروپا روز دوشنبه پس از اینکه چت ربات هوش مصنوعی ایلان ماسک، گروک، تصاویر عمیق جعلی جنسی غیرمتعارف را در این پلتفرم پخش کرد، تحقیقات رسمی را در مورد پلتفرم رسانه اجتماعی X ایلان ماسک آغاز کرد.

تنظیم‌کننده‌های اروپایی نیز پس از اینکه پلتفرم اعلام کرد برای انتخاب پست‌هایی که کاربران می‌توانند ببینند، به سیستم هوش مصنوعی Grok تغییر می‌کند، تحقیقات جداگانه و مداومی را در مورد سیستم‌های توصیه X گسترش دادند.

این بررسی دقیق از بروکسل پس از آن انجام شد که Grok با ایجاد یک واکنش جهانی، به کاربران اجازه داد تا کاربران زن از طریق AI عکس‌های خود را حذف کنند و تصاویر الکترونیکی خود را ویرایش کنند. در بیکینی های شفاف یا لباس های آشکار. محققان گفتند به نظر می رسد برخی از تصاویر شامل کودکان می شود. برخی از دولت ها این سرویس را ممنوع کردند یا هشدارهایی صادر کردند.

مدیر اجرایی 27 کشور اتحادیه اروپا گفت که در حال بررسی این موضوع است که آیا X به اندازه کافی طبق مقررات دیجیتالی اتحادیه برای مهار خطرات انتشار محتوای غیرقانونی مانند «تصاویر صریح جنسی دستکاری شده» عمل کرده است یا خیر.

کمیسیون اروپا گفت که این شامل محتوایی می‌شود که «ممکن است به عنوان محتوای سوءاستفاده جنسی از کودکان باشد». کمیسیون گفت که این خطرات اکنون "مادی شده اند" و شهروندان اتحادیه را در معرض "آسیب جدی" قرار داده اند.

قانون‌گذاران بررسی خواهند کرد که آیا Grok به تعهدات خود تحت قانون خدمات دیجیتال عمل می‌کند، کتاب قوانین گسترده اتحادیه برای محافظت از کاربران اینترنت در برابر محتوا و محصولات مضر.

سخنگوی X در پاسخ به یک درخواست برای اظهار نظر، به آسوشیتدپرس دستور داد تا بیانیه‌ای پیشین مبنی بر اینکه این شرکت همچنان "متعهد به تبدیل X به یک پلتفرم امن برای همه" است و اینکه "تحمل صفر" برای استثمار جنسی از کودکان، برهنگی غیر توافقی، و محتوای جنسی ناخواسته دارد.

بیانیه X از 14 ژانویه همچنین می‌گوید که به کاربران اجازه نمی‌دهد افراد را با «بیکینی، لباس زیر یا سایر لباس‌های آشکار» به تصویر بکشند، اما فقط در مکان‌هایی که غیرقانونی تشخیص داده شده است.

هنا ویرکونن، معاون اجرایی کمیسیون در بیانیه‌ای گفت: «تقلب‌های جنسی بدون رضایت زنان و کودکان نوعی تحقیر خشونت‌آمیز و غیرقابل قبول است».

ویرکونن، که بر حاکمیت فناوری، امنیت و دموکراسی نظارت می‌کند، گفت: «با این تحقیقات، ما مشخص خواهیم کرد که آیا X به تعهدات قانونی خود تحت DSA عمل کرده است یا اینکه آیا حقوق شهروندان اروپایی - از جمله حقوق زنان و کودکان - را به عنوان آسیب جانبی خدمات خود تلقی کرده است یا خیر. اما این مشکل در اواخر ماه گذشته و زمانی که Grok ظاهراً تعداد زیادی از درخواست‌های کاربر را برای اصلاح تصاویر ارسال شده توسط دیگران پذیرفت، شروع به گلوله برفی کرد. این مشکل هم به این دلیل تشدید شد که ماسک ربات چت خود را به عنوان جایگزینی جدی‌تر با محافظ‌های کمتر نسبت به رقبا معرفی می‌کند، و هم به این دلیل که پاسخ‌های Grok در X به‌طور عمومی قابل مشاهده است و بنابراین می‌توان آن را به راحتی منتشر کرد.

تحقیقات اتحادیه اروپا فقط سرویس Grok در X را پوشش می‌دهد و نه وب‌سایت Grok و برنامه مستقل. این به این دلیل است که DSA فقط برای بزرگترین سیستم عامل های آنلاین اعمال می شود.

هیچ مهلتی برای بلوک برای حل و فصل این پرونده وجود ندارد، که ممکن است به تعهد X برای تغییر رفتار یا جریمه سنگین ختم شود.

در ماه دسامبر، بروکسل X را با جریمه 120 میلیون یورو (در آن زمان 140 میلیون دلار) به عنوان بخشی از تحقیقات قبلی DSA، به دلیل کاستی‌هایی از جمله علامت‌های آبی رنگ که قوانین را نقض می‌کرد در مورد "روش‌های طراحی فریبنده" صادر کرد. ادعاهایی مبنی بر اینکه Grok مواد یهودی ستیز تولید کرده است و از سایت برای اطلاعات بیشتر خواسته است.

مالزی و اندونزی در اوایل این ماه دسترسی به Grok را در پاسخ به این جنجال مسدود کردند و اولین کشورهایی بودند که این کار را انجام دادند.

روز جمعه، مقامات مالزی بدون ارائه جزئیات بیشتر، بدون ارائه جزئیات بیشتر، اعلام کردند که محدودیت موقت را پس از اجرای اقدامات امنیتی و پیشگیرانه بیشتر از سوی شرکت لغو کردند. رگولاتورهای مالزی گفتند هفته گذشته با نمایندگان X ملاقات کردند و به نظارت بر وضعیت ادامه خواهند داد.

X در ایالات متحده با فشار مشابهی مواجه است

هفته گذشته، دادستان های کل در 35 ایالت نامه به شرکت نوشتند و از شرکت خواستند تا برنامه های خود را برای جلوگیری از ایجاد تصاویر عمیق جعلی جنسی غیرقانونی توسط گروک فاش کند و توضیح دهد که چگونه چنین محتوای موجود را از پلتفرم حذف می کند.

"ما قویاً از شما می خواهیم که از طریق رسیدگی به این آسیب ها در این فضا پیشرو باشید." نوشت.

__

آیلین نگ، نویسنده AP در کوالالامپور در این گزارش مشارکت داشت