فرماندار کالیفرنیا لایحه محدود کردن دسترسی کودکان به چت رباتهای هوش مصنوعی را وتو کرد
ساکرامنتو، کالیفرنیا (AP) - فرماندار کالیفرنیا، گاوین نیوسام، روز دوشنبه قانون مهمی را که دسترسی کودکان به چت رباتهای هوش مصنوعی را محدود میکرد، وتو کرد.
این لایحه شرکتها را از در دسترس قرار دادن رباتهای چت هوش مصنوعی برای افراد زیر 18 سال منع میکرد، مگر اینکه کسبوکارها بتوانند اطمینان حاصل کنند که فناوری نمیتواند مکالمه جنسی را تشویق کند. به شدت از هدف نویسنده برای ایجاد تدابیر لازم برای استفاده ایمن از هوش مصنوعی توسط خردسالان، (لایحه) چنان محدودیتهای گستردهای برای استفاده از ابزارهای هوش مصنوعی محاورهای اعمال میکند که ممکن است ناخواسته منجر به ممنوعیت کامل استفاده از این محصولات توسط خردسالان شود.»
این وتو ساعاتی پس از امضای قانونی او انجام شد که پلتفرمها را ملزم میکرد تا به کاربران یادآوری کنند که هر سه ساعت با یک چت ربات تعامل دارند و نه یک کاربر. شرکت ها نیز مجبور خواهند بود پروتکلی را حفظ کنید تا از محتوای آسیبرسانی به خود جلوگیری کنید و در صورت ابراز افکار خودکشی، کاربران را به ارائهدهندگان خدمات بحران ارجاع دهید.
Newsom که چهار فرزند زیر 18 سال دارد، گفت کالیفرنیا مسئولیت محافظت از کودکان و نوجوانانی را دارد که به طور فزایندهای به چترباتهای هوش مصنوعی روی میآورند، از کمک در انجام تکالیف گرفته تا حمایت عاطفی و توصیههای شخصی. همراهی.. نگرانی های ایمنی در اطراف این فناوری به دنبال گزارشها و شکایتهایی که میگفتند چتباتهای ساختهشده توسط متا، OpenAI و دیگران با کاربران جوان درگیر مکالمات جنسی شدید میشوند و در برخی موارد، آنها را راهنمایی میکنند تا زندگیشان را بگیرند، منفجر شد.
▶ با عضویت در کانال واتساپ ما، از آخرین اخبار ایالات متحده مطلع شوید. صنعت بومی که به سرعت است در حال تکامل با نظارت اندک. طبق گفته گروه مدافع فناوری نظارت کالیفرنیا، شرکتهای فناوری و ائتلافهای آنها، در پاسخ، حداقل 2.5 میلیون دلار در شش ماه اول جلسه برای لابی کردن علیه این اقدامات هزینه کردند. با کاربران با حفظ اطلاعات شخصی آنها و درخواست بدون درخواست سوالات عاطفی.. این به دادستان کل ایالت اجازه می داد تا برای هر تخلف 25000 دلار جریمه مدنی درخواست کند.
جیمز استایر، موسس و مدیر عامل Common Sense Media، گفت که وتوی نیوسام بر این لایحه "عمیقاً ناامید کننده" بود. او گفت: «این قانون به شدت برای محافظت از کودکان و نوجوانان در برابر رباتهای گفتگوی همراه هوش مصنوعی خطرناک - و حتی مرگبار - مورد نیاز است.»
اما صنعت فناوری استدلال میکرد که این لایحه آنقدر گسترده است که نوآوری را خفه میکند و ابزارهای مفیدی را برای کودکان، مانند سیستمهای آموزشی هوش مصنوعی و برنامههایی که میتوانند تشخیص زودهنگام علامتهای dylexe را نیز شناسایی کنند، از بین میبرد. به اندازه کافی زیاد پیش نرفت و گفت: «حداقل حداقلی را برای محافظت فراهم می کند بچه ها و خانواده ها.»
او گفت: «این قانون پس از فشارهای بزرگ صنعت فناوری بزرگ به شدت کاهش یافت،» و آن را «اساساً برگر هیچ چیز» نامید.
اما OpenAI امضای قانون توسط Newsom را ستود.
«با تنظیم نردههای محافظ شفاف، کالیفرنیا به شکلگیری رویکردی مسئولانهتر برای توسعه و استقرار هوش مصنوعی در سراسر کشور کمک میکند.»
راب بونتا، دادستان کل کالیفرنیا، در سپتامبر به OpenAI گفت که او با رباتهای OpenAI، «نگرانیهای جدی برای رباتها و رباتهای AI» دارد. کمیسیون تجارت فدرال نیز ماه گذشته تحقیقی را آغاز کرد به چندین شرکت هوش مصنوعی درباره خطرات احتمالی برای کودکان هنگام استفاده از رباتهای چت به عنوان همراه..
تحقیق توسط یک گروه ناظر نشان میدهد که چتباتها در مورد موضوعاتی مانند مواد مخدر، الکل و اختلالات خوردن توصیههای خطرناکی به بچهها میدهند. مادر پسر نوجوانی در فلوریدا که پس از ایجاد رابطه ای عاطفی و جنسی آزاردهنده با یک چت بات خودکشی کرد، شکایتی را علیه Character.AI تنظیم کرده است. و والدین آدام رین 16 ساله اخیراً از OpenAI و مدیر عامل آن سام آلتمن شکایت کردند و ادعا کردند که ChatGPT در اوایل سال جاری پسر کالیفرنیایی را در برنامه ریزی و از بین بردن زندگی خود مربیگری کرده است.
OpenAI و Meta ماه گذشته تغییراتی را در نحوه پاسخ رباتهای چت خود به نوجوانانی که سؤالاتی در مورد خودکشی میپرسند یا نشانههایی از ناراحتی روحی و روانی نشان میدهند، اعلام کردند.
متا گفت که اکنون از گفتگوی چت ربات های خود با نوجوانان در مورد آسیب به خود، خودکشی، اختلال در غذا خوردن و گفتگوهای عاشقانه نامناسب جلوگیری می کند و در عوض آنها را به منابع متخصص هدایت می کند. متا در حال حاضر کنترل های والدین را بر روی حساب های نوجوان ارائه می دهد.
OpenAI گفت که در حال ارائه کنترلهای جدیدی است که والدین را قادر میسازد حسابهای خود را به حساب نوجوان خود پیوند دهند.
یادداشت سردبیر: این داستان شامل بحث خودکشی است. اگر شما یا کسی که می شناسید نیاز به کمک دارید، راه نجات ملی خودکشی و بحران در ایالات متحده از طریق تماس یا ارسال پیامک به 988 در دسترس است.