حذر المحامون العامون في كاليفورنيا وديلاوير يوم الجمعة Openai من أن لديهم "مخاوف خطيرة" بشأن سلامة chatbot الرائدة ، و Chatgpt ، وخاصة للأطفال والمراهقين.

أرسل مسؤولان الدولة ، اللذان يتمتعان بسلطات فريدة لتنظيم المنظمات غير الربحية مثل Openai ، الرسالة إلى الشركة بعد اجتماع مع فريقها القانوني في وقت سابق من هذا الأسبوع في ويلمنجتون ، ديلاوير.

أمضت California Ag Rob Bonta و Delaware Ag Kathleen Jennings شهورًا في مراجعة خطط Openai لإعادة هيكلة أعمالها ، مع مراعاة "ضمان الإشراف الصارم والقوي على مهمة السلامة في Openai".

لكنهم قالوا إنهم قلقون من "التقارير المثيرة للقلق عن التفاعلات الخطرة بين" الدردشة ومستخدميها ، بما في ذلك "الموت المفاجئ عن طريق الانتحار من شباب في كاليفورنيا بعد أن كان لديه تفاعلات طويلة مع katbot Openai ، وكذلك انخفاض القتل المقلق بالمثل في ولاية كونيتيكت. أيا كان ما كان في وضعه في وضع لا يعمل."

والدا فتى كاليفورنيا البالغ من العمر 16 عامًا ، الذي توفي في أبريل ، دعوى على Openai و Coo ، Sam Altman ، الشهر الماضي.

قال رئيس مجلس إدارة Openai ، Bret Taylor ، في بيان يوم الجمعة إن الشركة "ملتزمة تمامًا" بمعالجة المخاوف التي أثارها المدعي العام.

"نحن نحزن بسبب هذه المآسي وأعمق تعاطفنا مع العائلات". "السلامة هي أولويتنا القصوى ونحن نعمل عن كثب مع صانعي السياسات في جميع أنحاء العالم."

تأسست كمنظمات غير ربحية مع مهمة تركز على السلامة لبناء الذكاء الاصطناعي بشكل أفضل من الإنسان ، سعت Openai مؤخرًا إلى نقل المزيد من السيطرة إلى ذراعها من أجل عدم الربح من غير ربحية قبل إسقاط هذه الخطط في مايو بعد مناقشات مع بونتا وجينينغز وغيرها من المجموعات غير المبردة.

يشرف المسؤولان المنتخبين ، كلاهما الديمقراطيين ، على أي تغييرات من هذا القبيل لأن Openai تم دمجه في ولاية ديلاوير ويعمل خارج كاليفورنيا ، حيث كان له مقرها الرئيسي في سان فرانسيسكو.

بعد إسقاط خططها الأولية ، تسعى Openai إلى الحصول على موافقة المسؤولين على "إعادة الرسملة" ، حيث ستتحول ذراع غير ربحية للربح إلى شركة ذات فائدة عامة يجب أن تنظر في مصالح كل من المساهمين والمهمة. كتب

بونتا وجينينغز يوم الجمعة عن "وجهة نظرهما المشتركة" بأن Openai والصناعة بحاجة إلى تدابير أمان أفضل.

"الوفيات الأخيرة غير مقبولة" ، كتبوا. "لقد هزوا بحق ثقة الجمهور الأمريكي في Openai و هذه الصناعة. يجب على Openai - وصناعة الذكاء الاصطناعى - أن يضمنوا بشكل استباقي وشفاف النشر الآمن من الذكاء الاصطناعى. إن القيام بذلك يتم تكليفه بمهمة Openai الخيرية ، وسيتم طلبها وتنفيذها من قبل مكاتبنا المعنية."

حذرت الرسالة إلى Openai من مسؤولي كاليفورنيا وديلاوير بعد مجموعة من 44 من المحامين العامين من الشركات والتكنولوجيا الأخرى الأسبوع الماضي من "المخاوف الشائكة" حول سلامة الأطفال الذين يتفاعلون مع أدوات الدردشة التي يمكنها الاستجابة مع "محادثات موحية جنسيًا وسلوكًا عاطفيًا".

استدعى المحامون العامون على وجه التحديد meta لصالح chatbots التي تشارك في مشاركتها في "لعب الأدوار الرومانسية" مع الأطفال ، قائلين إنهم يشعرون بالقلق من أن هذه الدردشة "تشارك في السلوك الذي يبدو أنه محظور بموجب قوانيننا الجنائية."

meta ، الشركة الأم لـ Facebook و Instagram و WhatsApp ، رفضت التعليق على الرسالة ولكن قال المدعي العام إن الشركات ستكون مسؤولة عن إيذاء الأطفال ، مشيرة إلى أنه في الماضي ، لم يتحرك المنظمون بسرعة للرد على الأضرار التي تسببها تقنيات جديدة.

"إذا كنت تضر عن علم بالأطفال ، فسوف تجيب على ذلك" ، تنتهي رسالة 25 أغسطس.

يتمتع أسوشيتد برس وفتحي