دادستان کل کالیفرنیا و دلاور روز جمعه هشدار داد که Openai آنها "نگرانی های جدی" در مورد امنیت پرچمدار خود ، چتگپ ، به ویژه برای کودکان و نوجوانان دارند.

این دو مقام دولتی ، که اختیارات منحصر به فردی برای تنظیم غیرانتفاعی مانند OpenAI دارند ، پس از ملاقات با تیم حقوقی خود در اوایل این هفته در ویلمینگتون ، دلاور ، نامه را به این شرکت ارسال کردند.

کالیفرنیا AG Rob Bonta و Delaware AG Kathleen Jennings ماهها را صرف بررسی برنامه های Openai برای بازسازی تجارت خود کرده اند ، با این نگاه به "اطمینان از نظارت دقیق و قوی از مأموریت ایمنی Openai".

اما آنها گفتند که آنها نگران "گزارش های عمیقاً نگران کننده از تعامل خطرناک بین" chatbots "و کاربران آنها هستند ، از جمله" مرگ دلهره آور توسط خودکشی یک کالیفرنیایی جوان پس از مدت طولانی تعامل با یک چتبوت Openai ، و همچنین یک قتل مشابه در کانکتیکوت.

والدین پسر 16 ساله کالیفرنیا ، که در ماه آوریل درگذشت ، <یک class = "پیوند anclick-linkenhancement" data-gtm-enhancement = "linkenhancementa" href = "https://apnews.com/article/ai-chatbots-selfharm-chatgpt-claude-gemini-da0080b157ac32ab1752e41225b"> ماه گذشته شکایت کرد و مدیرعامل آن سام آلتمن شکایت کرد.

رئیس هیئت مدیره Openai ، برت تیلور ، در بیانیه ای روز جمعه گفت که این شرکت "کاملاً متعهد" برای پرداختن به نگرانی های مطرح شده توسط وکلای عمومی است. تیلور گفت: "ما از این فاجعه ها دلگیر هستیم و عمیق ترین همدردی های ما با خانواده ها است." "ایمنی بالاترین اولویت ما است و ما با سیاست گذاران در سراسر جهان همکاری نزدیکی داریم."

که به عنوان یک غیرانتفاعی با یک مأموریت با محوریت ایمنی برای ساختن هوش مصنوعی بهتر از انسانی تأسیس شده است ، اخیراً Openai در صدد انتقال کنترل بیشتر به بازوی انتفاعی خود از غیر انتفاعی خود بود قبل از رها کردن این برنامه ها در ماه مه پس از بحث

این دو مقام منتخب ، هر دو دموکرات ، از هرگونه تغییر از این دست نظارت دارند زیرا OpenAi در دلاور گنجانیده شده و از کالیفرنیا فعالیت می کند ، جایی که دفتر مرکزی خود را در سان فرانسیسکو دارد.

پس از رها کردن برنامه های اولیه خود ، Openai به دنبال تصویب مقامات برای "بازخوانی" است که در آن بازوی انتفاعی موجود غیرانتفاعی به یک شرکت سود عمومی تبدیل می شود که باید منافع هر دو سهامدار و مأموریت را در نظر بگیرد.

بنتا و جنینگز جمعه از "دیدگاه مشترک" خود نوشتند که Openai و صنعت به اقدامات ایمنی بهتری نیاز دارند. آنها نوشتند: "مرگ های اخیر غیرقابل قبول است." "آنها به درستی اعتماد به نفس مردم آمریکا به Openai و این صنعت را متلاشی کرده اند. Openai - و صنعت هوش مصنوعی - باید از استقرار ایمن AI اطمینان حاصل کند. انجام این کار توسط مأموریت خیریه Openai موظف است و توسط دفاتر مربوطه ما لازم و اجرا خواهد شد."

نامه به Openai از مقامات کالیفرنیا و دلاور پس از آن صورت می گیرد که یک گروه دو طرفه از 44 وکیل دادگستری هفته گذشته هفته گذشته به "نگرانی های شدید" در مورد ایمنی کودکانی که با چت های AI تعامل دارند که می توانند با "مکالمات جنسی و رفتار عاطفی دستکاری کنند ، پاسخ دهند."

دادستان عمومی به طور خاص متا را برای چت بابات که گفته می شود درگیر معاشقه و "نقش عاشقانه" با کودکان است ، خواندند و گفتند که آنها هشدار داده شده اند که این چت بابات ها "درگیر رفتاری هستند که به نظر می رسد توسط قوانین کیفری مربوطه ممنوع است."

متا ، شرکت مادر فیس بوک ، اینستاگرام و واتس اپ ، از اظهار نظر در مورد این نامه خودداری کرد اما به تازگی کنترل های جدید را از بین ببرد ، با هدف جلوگیری از گفتگوی خود با استفاده از چتبوت های خود ، آنها را به منابع متخصص هدایت می کند. Openai همچنین گفت که این کنترل های جدید والدین را از بین می برد ، از جمله روشی برای اطلاع والدین "وقتی سیستم تشخیص می دهد نوجوان خود در لحظه ای از پریشانی حاد است."

وکلای عمومی گفتند که این شرکت ها به دلیل آسیب رساندن به کودکان پاسخگو خواهند بود و خاطرنشان می کنند که در گذشته ، تنظیم کننده ها به سرعت حرکت نکرده اند تا به مضرات ناشی از فن آوری های جدید پاسخ دهند.

"اگر آگاهانه به بچه ها آسیب برسانید ، برای آن پاسخ خواهید داد" ، نامه 25 آگوست به پایان می رسد.

آسوشیتدپرس و OpenAI منبع