لندن (AP) - چت ربات هوش مصنوعی ایلان ماسک، گروک، پس از افزایش اخیر تصاویر جنسی زنان و کودکان که بدون رضایت توسط ابزار مبتنی بر هوش مصنوعی تولید شده اند، با واکنش شدید دولت های سراسر جهان مواجه شده است.

در روز سه‌شنبه، مقام ارشد فناوری بریتانیا از پلتفرم رسانه اجتماعی ماسک X خواست تا اقدام فوری انجام دهد در حالی که یک قانونگذار لهستانی آن را دلیلی برای تصویب قوانین ایمنی دیجیتال ذکر کرد.

بازوی اجرایی اتحادیه اروپا گروک را محکوم کرده است در حالی که مقامات و نهادهای تنظیم کننده در فرانسه، هند، مالزی و برزیل این پلت فرم را محکوم کرده و خواستار تحقیقات شده اند.

افزایش هشدار از کشورهای مختلف به پتانسیل کابوس‌وار برنامه‌های برهنگی اشاره می‌کند که از هوش مصنوعی برای تولید تصاویر عمیق جعلی صریح جنسی استفاده می‌کنند.

در اینجا یک نگاه دقیق تر وجود دارد:

تولید تصویر

مشکل پس از راه‌اندازی سال گذشته Grok Imagine، یک تولیدکننده تصویر هوش مصنوعی که به کاربران اجازه می‌دهد با تایپ کردن پیام‌های متنی، ویدیوها و تصاویر ایجاد کنند، ظاهر شد. این شامل یک حالت به اصطلاح تند است که می تواند محتوای بزرگسالان را تولید کند.

در اواخر ماه گذشته زمانی که Grok، که در X میزبانی می‌شود، ظاهراً شروع به اعطای تعداد زیادی از درخواست‌های کاربر برای اصلاح تصاویر ارسال شده توسط دیگران کرد، گلوله برف بارید. از روز سه‌شنبه، کاربران Grok همچنان می‌توانند با استفاده از درخواست‌هایی مانند «او را در بیکینی شفاف بپوشانند» تصاویری از زنان ایجاد کنند.

این مشکل هم به این دلیل تشدید می‌شود که ماسک ربات چت خود را به عنوان جایگزینی جدی‌تر برای رقبا با محافظ‌های بیشتر معرفی می‌کند، و هم به این دلیل که تصاویر Grok به‌صورت عمومی قابل مشاهده هستند و بنابراین می‌توانند به راحتی پخش شوند.

گروه غیرانتفاعی AI Forensics در گزارشی گفت که 20000 تصویر ایجاد شده توسط Grok را بین 25 دسامبر تا 1 ژانویه تجزیه و تحلیل کرد و دریافت که 2٪ فردی را نشان می دهد که به نظر می رسد 18 سال یا کمتر باشد، از جمله 30 زن یا دختر جوان یا بسیار جوان، با لباس های بیکینی یا لباس شفاف.

پاسخ ماسک

شرکت هوش مصنوعی ماسک، xAI، با پاسخ خودکار «دروغ‌های رسانه‌ای قدیمی» به درخواست نظر پاسخ داد.

اما، X وجود محتوای مشکل‌ساز تولید شده از طریق Grok را انکار نکرد. با این حال، هنوز در پست در حساب ایمنی خود ادعا کرده است که علیه محتوای غیرقانونی، از جمله مطالب سوء استفاده جنسی از کودکان، «با حذف آن، تعلیق دائم حساب‌ها و همکاری با دولت‌های محلی و مجریان قانون در صورت لزوم، اقدام می‌کند».

این پلتفرم همچنین نظر ماسک را تکرار کرد که گفت: «هرکسی که از Grok برای تولید محتوای غیرقانونی استفاده می‌کند، همان عواقبی را متحمل می‌شود که اگر محتوای غیرقانونی بارگذاری می‌کند.»

فهرست رو به رشدی از کشورها از ماسک می‌خواهند که اقدامات بیشتری برای مهار محتوای صریح یا توهین‌آمیز انجام دهد. لیز کندال، وزیر فناوری روز سه‌شنبه گفت:

بریتانیا

X باید «فوراً» با این مشکل برخورد کند، و افزود که او از بررسی‌های بیشتر از سوی تنظیم‌کننده ارتباطات بریتانیا، آفکام، حمایت می‌کند.

کندال گفت این محتوا «کاملاً وحشتناک است و در جامعه شایسته غیرقابل قبول است».

"ما نمی توانیم و نخواهیم اجازه تکثیر این تصاویر تحقیرآمیز و تحقیرآمیز را که به طور نامتناسبی زنان و دختران را هدف قرار می دهند، بدهیم."

Ofcom روز دوشنبه گفت که "تماس فوری" با X برقرار کرده است.

"ما از نگرانی های جدی مطرح شده در مورد یک ویژگی در Grok در X آگاه هستیم." گفت.

سازمان دیده بان گفت که با X و xAI تماس گرفته است تا بداند چه اقداماتی را برای پیروی از مقررات بریتانیا انجام داده است.

بر اساس قانون ایمنی آنلاین بریتانیا، پلتفرم های رسانه های اجتماعی باید از مطالب سوء استفاده جنسی از کودکان جلوگیری کرده و زمانی که از آن مطلع شدند حذف کنند.

لهستان

یک قانونگذار لهستانی از Grok برای حفاظت از امنیت دیجیتال استفاده می کند. برای مقامات برای حذف محتوا.

در یک ویدیوی آنلاین، Wlodzimierz Czarzasty، رئیس مجلس، گفت که می‌خواهد خود را هدف گروک قرار دهد تا مشکل را برجسته کند، و همچنین از رئیس‌جمهور لهستان برای حمایت از این قانون درخواست کند.

"گروک اخیراً مردم را برهنه می‌کند. همچنین این است که لباس زنان، مردان و کودکان را از تن بیرون می‌کند. او گفت.

اتحادیه اروپا

توماس رگنیر، سخنگوی کمیسیون اروپا، گفت:

اتحادیه اروپا

بازوی اجرایی اتحادیه "خوب می‌داند" که گروک برای "محتوای جنسی صریح با برخی خروجی‌های تولید شده با تصاویر کودکانه" استفاده می‌شود

"این تند نیست. این غیرقانونی است. این غیرقانونی است. او روز دوشنبه به خبرنگاران گفت: اولین بار است که Grok چنین خروجی تولید می کند.

پس از اینکه Grok در سال گذشته محتوای انکار هولوکاست را منتشر کرد، کمیسیون به دنبال اطلاعات بیشتر از پلتفرم رسانه اجتماعی X ماسک بود. او گفت که پاسخ X در حال حاضر در حال تجزیه و تحلیل است.

فرانسه

دفتر دادستانی پاریس اعلام کرد که پس از دریافت شکایات از سوی قانونگذاران توسط مقامات، تحقیقات در حال انجام در مورد X را گسترش می دهد تا شامل دیپ فیک های جنسی صریح باشد.

بر اساس بیانیه هفته گذشته دولت، سه وزیر دولت به دادستان ها درباره «محتوای آشکارا غیرقانونی» تولید شده توسط Grok و ارسال شده در X هشدار دادند.

دولت همچنین به مشکلات مربوط به تنظیم‌کننده ارتباطات کشور به دلیل نقض احتمالی قانون خدمات دیجیتال اتحادیه اروپا اشاره کرد.

دولت گفت: «اینترنت نه منطقه‌ای غیرقانونی است و نه منطقه‌ای برای مصونیت: جرایم جنسی که به صورت آنلاین انجام می‌شوند به خودی خود جرایم جنایی هستند و کاملاً تحت قانون قرار می‌گیرند، درست مانند مواردی که آفلاین انجام می‌شوند».

هند

دولت هند روز جمعه یک اولتیماتوم به X صادر کرد و از آن خواست که تمام «محتوای غیرقانونی» را حذف کند و علیه کاربران متخلف اقدام کند. وزارت الکترونیک و فناوری اطلاعات کشور همچنین به این شرکت دستور داد تا «چارچوب فنی و حاکمیتی» Grok را بررسی کند و گزارشی از اقدامات انجام شده ارائه کند.

این وزارتخانه گروک را به «سوء استفاده فاحش» از هوش مصنوعی و شکست جدی در پادمان‌ها و اجرای آن با اجازه دادن به تولید و اشتراک‌گذاری «تصاویر یا ویدیوهای زننده به شیوه‌ای توهین‌آمیز یا مبتذل به منظور تحقیر ناشایست آنها» متهم کرد.

وزارت هشدار داد که عدم رعایت مهلت ۷۲ ساعته شرکت را در معرض مشکلات حقوقی بزرگتری قرار می‌دهد، اما این مهلت بدون به‌روزرسانی عمومی از هند به پایان رسید.

مالزی

درس ارتباطات مالزی شنبه گفت که در حال بررسی کاربران X است که قوانین منع انتشار "محتوای بسیار توهین آمیز، زشت و ناشایست" را نقض کرده اند.

نماینده ارتباطات و چند رسانه ای مالزی نیز گفت که کمیسیون سرمایه گذاری آنلاین مالزی و X نیز به آن آسیب می زند.

دید نظارت گفت که شکایات عمومی در مورد استفاده از ابزارهای هوش مصنوعی X برای دستکاری دیجیتالی «تصاویر زنان و خردسالان برای تولید محتوای ناشایست، به شدت توهین‌آمیز یا مضر» را مورد توجه قرار داده است.

در یک پست رسانه اجتماعی، او هر دو را به تولید و سپس انتشار تصاویر جنسی زنان و کودکان بدون رضایت متهم کرد.

او گفت که عملکردهای هوش مصنوعی X باید تا زمان انجام تحقیقات غیرفعال شوند.

هیلتون، یکی از اولین قانونگذاران تراجنسیتی برزیل، از اینکه چگونه کاربران می‌توانند گروک را وادار کنند که هر عکس منتشر شده را به‌صورت دیجیتالی تغییر دهد، از جمله «تعویض لباس‌های زنان و دختران با بیکینی یا ایجاد آن‌ها وسوسه‌انگیز و شهوانی» را محکوم کرد. پورن (ستاره) gr (ستاره)فی توسط هوش مصنوعی ادغام شده در یک شبکه اجتماعی از همه مرزها عبور می کند.

__

نویسندگان AP کلودیا چیوبانو در ورشو، لورن کوک در بروکسل و جان لستر در پاریس در این گزارش مشارکت داشتند.