ساكرامنتو، كاليفورنيا.. (ا ف ب) - اعترض حاكم ولاية كاليفورنيا جافين نيوسوم يوم الاثنين على تشريع تاريخي كان من شأنه أن يقيد وصول الأطفال إلى روبوتات الدردشة المدعمة بالذكاء الاصطناعي..

كان من شأن مشروع القانون أن يحظر على الشركات إتاحة روبوتات الدردشة المدعمة بالذكاء الاصطناعي لأي شخص يقل عمره عن 18 عامًا ما لم تتمكن الشركات من التأكد من أن التكنولوجيا لا يمكنها المشاركة في محادثات جنسية أو تشجيع إيذاء النفس..

"بينما أؤيد بقوة هدف المؤلف المتمثل في وضع الضمانات اللازمة الاستخدام الآمن قال نيوسوم: "الذكاء الاصطناعي من قبل القاصرين، (مشروع القانون) يفرض قيودًا واسعة النطاق على استخدام أدوات الذكاء الاصطناعي للمحادثة التي قد تؤدي عن غير قصد إلى حظر كامل على استخدام هذه المنتجات من قبل القاصرين". بروتوكول لمنع محتوى إيذاء النفس وإحالة المستخدمين إلى مقدمي خدمات الأزمات إذا عبروا عن أفكار انتحارية..

قالت نيوسوم، التي لديها أربعة أطفال تحت سن 18 عامًا، إن كاليفورنيا تتحمل مسؤولية حماية الأطفال والمراهقين الذين يلجأون بشكل متزايد إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي في كل شيء بدءًا من المساعدة في الواجبات المنزلية وحتى الدعم العاطفي والمشورة الشخصية..

إن كاليفورنيا من بين العديد من الولايات التي حاولت هذا العام معالجة المخاوف المحيطة بروبوتات الدردشة التي يستخدمها الأطفال من أجل الرفقة.. المخاوف المتعلقة بالسلامة حول التكنولوجيا انفجرت بعد التقارير والدعاوى القضائية التي تفيد بأن برامج الدردشة الآلية التي أنشأتها Meta وOpenAI وآخرون تعاملت مع مستخدمين شباب في محادثات ذات طابع جنسي للغاية، وفي بعض الحالات، دربتهم على الانتحار. مع القليل من الرقابة.. ردًا على ذلك، أنفقت شركات التكنولوجيا وتحالفاتها ما لا يقل عن 2.5 مليون دولار في الأشهر الستة الأولى من الجلسة للضغط ضد هذه الإجراءات، وفقًا لمجموعة المناصرة Tech Oversight California. كما أعلنت شركات التكنولوجيا وقادتها في الأشهر الأخيرة أيضًا عن إطلاق لجان عمل سياسية فائقة مؤيدة للذكاء الاصطناعي لمحاربة الرقابة الحكومية والفدرالية. أسئلة عاطفية.. كان سيسمح للمدعي العام للولاية بطلب عقوبة مدنية قدرها 25 ألف دولار لكل انتهاك..

قال جيمس ستاير، المؤسس والرئيس التنفيذي لشركة Common Sense Media، إن نقض نيوسوم على مشروع القانون كان “مخيبا للآمال للغاية”.

"هناك حاجة ماسة إلى هذا التشريع لحماية الأطفال والمراهقين من روبوتات الدردشة المصاحبة الخطيرة - وحتى القاتلة - التي تعمل بالذكاء الاصطناعي.

لكن صناعة التكنولوجيا جادلت بأن مشروع القانون كان فضفاضًا للغاية لدرجة أنه سيخنق الابتكار ويسلب الأدوات المفيدة للأطفال، مثل أنظمة وبرامج الذكاء الاصطناعي التعليمية التي يمكنها اكتشاف العلامات المبكرة لعسر القراءة..

وقال ستاير أيضًا إن قانون الإخطار لم يذهب إلى حد كافٍ، قائلاً إنه "يوفر الحد الأدنى من الحماية للأطفال" الأطفال والعائلات."

وقال: "لقد تم تخفيف هذا التشريع بشكل كبير بعد ضغوط كبيرة من شركات التكنولوجيا الكبرى"، واصفًا إياه بأنه "في الأساس لا شيء برجر".

لكن OpenAI أشادت بتوقيع نيوسوم على القانون..

قال المتحدث جيمي راديس: "من خلال وضع حواجز حماية واضحة، تساعد كاليفورنيا في تشكيل نهج أكثر مسؤولية لتطوير الذكاء الاصطناعي ونشره في جميع أنحاء البلاد".

قال المدعي العام لولاية كاليفورنيا، روب بونتا، في سبتمبر لـ OpenAI، إن لديه "مخاوف جدية" بشأن برنامج الدردشة الآلي الرائد، OpenAI، للأطفال والمراهقين.. أطلقت لجنة التجارة الفيدرالية أيضًا تحقيقًا الشهر الماضي في العديد من القضايا. شركات الذكاء الاصطناعي تتحدث عن المخاطر المحتملة التي يتعرض لها الأطفال عند استخدامهم لروبوتات الدردشة كمرافقين..

تشير الأبحاث التي أجرتها إحدى المجموعات الرقابية إلى أن برامج الدردشة الآلية قد أثبتت أنها تقدم للأطفال نصائح خطيرة حول موضوعات مثل المخدرات والكحول واضطرابات الأكل. رفعت والدة صبي مراهق في فلوريدا توفي منتحرًا بعد تطوير ما وصفته بعلاقة مسيئة عاطفيًا وجنسيًا مع برنامج الدردشة الآلية، دعوى قضائية بالقتل الخطأ ضد شركة Character.AI. وقد رفع والدا آدم رين البالغ من العمر 16 عامًا مؤخرًا دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، زاعمين أن ChatGPT درب الصبي من كاليفورنيا على التخطيط لحياته في وقت سابق من هذا العام.

أعلنت شركتا OpenAI وMeta الشهر الماضي عن تغييرات في كيفية استجابة برامج الدردشة الآلية الخاصة بهما للمراهقين الذين يطرحون أسئلة حول الانتحار أو تظهر عليهم علامات الاضطراب العقلي والعاطفي.

قالت شركة Meta إنها تمنع الآن برامج الدردشة الخاصة بها من التحدث مع المراهقين حول إيذاء النفس والانتحار واضطرابات الأكل والمحادثات الرومانسية غير المناسبة، وبدلاً من ذلك توجههم إلى موارد الخبراء. تقدم Meta بالفعل أدوات الرقابة الأبوية على حسابات المراهقين.

قالت OpenAI إنها تطرح ضوابط جديدة تمكن الآباء من ربط حساباتهم بحساب المراهقين.

ملاحظة المحرر: تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى المساعدة، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو إرسال رسالة نصية إلى الرقم 988.