کوالالامپور، مالزی (AP) - مالزی و اندونزی اولین کشورهایی هستند که Grok، چت ربات هوش مصنوعی را که توسط شرکت xAI الون ماسک توسعه داده شده است، مسدود کرده‌اند، زیرا نگرانی‌ها در بین مقامات جهانی افزایش می‌یابد که از آن برای تولید تصاویر صریح جنسی و غیرموافقانه استفاده می‌شود. تصاویر، صدا و متن، و نگرانی از اینکه پادمان های موجود در جلوگیری از سوء استفاده از آنها شکست خورده است. چت ربات Grok که از طریق پلتفرم رسانه اجتماعی X ماسک قابل دسترسی است، به دلیل ایجاد تصاویر دستکاری شده، از جمله تصاویر زنان با لباس های بیکینی یا ژست های جنسی واضح و همچنین تصاویر مربوط به کودکان، مورد انتقاد قرار گرفته است.

«دولت دروغ های جنسی غیر اجماع را به عنوان نقض جدی حقوق بشر در اندونزی و امنیت دیجیتال می داند. میوتیا حفید وزیر ارتباطات و امور دیجیتال در بیانیه ای گفت.

تحقیقات Grok در حال افزایش است، از جمله در اتحادیه اروپا، هند، فرانسه و بریتانیا، که روز دوشنبه اعلام کردند که قصد دارد «برنامه‌های برهنگی» را جرم انگاری کند. تنظیم کننده رسانه بریتانیا نیز تحقیقاتی را در مورد اینکه آیا گروک با اجازه دادن به کاربران برای به اشتراک گذاشتن تصاویر جنسی از کودکان، قانون را زیر پا گذاشته است یا خیر، آغاز کرد.

هفته گذشته، Grok تولید و ویرایش تصویر را برای کاربران پولی محدود کرد به دنبال واکنش جهانی در مورد دیپ‌فیک‌های جنسی افراد، اما منتقدان می‌گویند که به طور کامل به این مشکل رسیدگی نکرده است.

یک درخواست ایمیلی برای نظر توسط Associated Press به xAI منجر به یک نشانی خودکار از رسانه‌ها شد، که به صورت خودکار از رسانه‌ها پشتیبانی می‌کند. این همان پیامی بود که از یک آدرس دیگر در هنگام درخواست نظر در مورد واکنش جهانی دریافت شد.

اقدام آسیایی با هدف گروک

قانون‌گذاران در دو کشور آسیای جنوب شرقی گفتند که کنترل‌های موجود مانع از ایجاد و گسترش محتوای مستهجن جعلی، به‌ویژه زنان و خردسالان نمی‌شود. الکساندر سابار، مدیر کل نظارت بر فضای دیجیتال در بیانیه ای گفت، دولت اندونزی روز شنبه به طور موقت دسترسی به گروک را مسدود کرد و به دنبال آن مالزی در روز یکشنبه.

یافته‌های اولیه نشان داد که گروک فاقد تدابیر موثر برای جلوگیری از ایجاد و توزیع محتوای مستهجن مبتنی بر عکس‌های واقعی ساکنان اندونزی است. او گفت که چنین اقداماتی وقتی عکس‌ها بدون رضایت دستکاری یا به اشتراک گذاشته می‌شوند، خطر نقض حریم خصوصی و حقوق تصویر را به همراه دارد.

کمیسیون ارتباطات و چند رسانه‌ای مالزی به "سوء استفاده مکرر" از ابزار برای تولید تصاویر دستکاری ناپسند، جنسی صریح و غیر توافقی، از جمله محتوای مربوط به زنان و خردسالان، اشاره کرد. و xAI خواستار پادمان‌های قوی‌تر هستند.

«این محدودیت به‌عنوان یک اقدام پیشگیرانه و متناسب در حالی اعمال می‌شود که فرآیندهای قانونی و نظارتی در حال انجام است،» و افزود که دسترسی تا زمانی که پادمان‌های موثر اعمال نشود مسدود خواهد شد.

تحقیق در بریتانیا راه‌اندازی شد.

در سال 2023 راه‌اندازی شد، Grok برای استفاده در X رایگان است. یک ویژگی تولید کننده تصویر، Grok Imagine، سال گذشته اضافه شد و شامل حالتی به‌اصطلاح تند بود که می‌تواند محتوای بزرگسالان تولید کند.

تنظیم‌کننده رسانه‌های بریتانیا گفت که آیا Grok از محتوای غیرقانونی برای محافظت از افراد جلوگیری کرده است یا خیر. رگولاتور آفکام گفت که تصاویر تولید شده توسط گروک از کودکانی که مورد جنسی قرار می گیرند یا افرادی که لباس در می آورند، ممکن است به عنوان محتوای مستهجن یا سوء استفاده جنسی از کودکان باشد.

لیز کندال، وزیر فناوری، تصاویر تولید شده توسط هوش مصنوعی را "سلاح های سوء استفاده" خواند و گفت که دولت چپ میانه کارگر منبع مشکل را هدف قرار می دهد و آن را بدون ابزاری جرم برای شرکت ها تهیه می کند تا تصاویر برهنه را برای شرکت ها ایجاد کند. موافقت کرد.

کندال گفت که X ممکن است با جریمه احتمالی Ofcom تا 10 درصد از درآمد جهانی واجد شرایط خود بسته به نتیجه تحقیقات و حکم دادگاه احتمالی برای مسدود کردن دسترسی به سایت روبرو شود.

«آنها می توانند تصمیم بگیرند که زودتر اقدام کنند تا اطمینان حاصل شود که این مطالب نفرت انگیز و غیرقانونی نمی تواند در پلت فرم آنها به اشتراک گذاشته شود. گفت که در تلاش است آزادی بیان را خفه کند.

___

تاریگان از جاکارتا، اندونزی گزارش داد. سیلویا هوی و برایان ملی، نویسندگان آسوشیتدپرس در لندن مشارکت داشتند.