أطلقت لجنة التجارة الفيدرالية تحقيقًا في العديد من شركات وسائل التواصل الاجتماعي والذكاء الاصطناعي حول الأضرار المحتملة للأطفال والمراهقين الذين يستخدمون chatbots من الذكاء الاصطناعى.

قالت FTC يوم الخميس إنها أرسلت رسائل إلى منصات Google Parent Alphabet و Facebook و Instagram Parent Meta و Snap و Technologies و ChatGpt Maker Openai و XAI.

قالت FTC إنها تريد أن تفهم الخطوات التي اتخذتها الشركات ، إن وجدت ، لتقييم سلامة chatbots الخاصة بها عند التصرف كرفاق ، للحد من استخدام المنتجات من خلال التأثيرات السلبية المحتملة على الأطفال والمراهقين ، وتوفير المستخدمين وأولياء أمور المخاطر المرتبطة بمخاطر chatbots.

ملاحظة المحرر - تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى مساعدة ، فإن شريان حياة الانتحار الوطني والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو الرسائل النصية 988.

تأتي هذه الخطوة كـ عدد المتزايد من الأطفال الذين يستخدمون chatbots من أجل كل شيء-من الواجبات المنزلية إلى المشورة الشخصية ، والدعم العاطفي للقرار. هذا على الرغم من الأبحاث حول أضرار chatbots ، التي ثبت أنها تعطي نصيحة خطيرة للأطفال مثل المخدرات وأغراض الأكل. لقد قدمت والدة صبي مراهق في فلوريدا أنفسهم بعد تطوير ما وصفته بأنه علاقة مسيئة عاطفيا وجنسيًا مع chatbot وفاة غير مشروعة دعوى قضائية ضد الحرف. وقد رفع والدا آدم راين ، البالغ من العمر 16 عامًا ، دعوى قضائية ضد Openai ورئيسها التنفيذي سام ألمان ، زاعمين أن تشاتغبت قام بتدريب فتى كاليفورنيا على التخطيط وأخذ حياته في وقت سابق من هذا العام.

character.ai قال إنه يتطلع إلى "التعاون مع FTC حول هذا الاستفسار وتوفير نظرة ثاقبة على صناعة AI المستهلك والتكنولوجيا المتطورة بسرعة في الفضاء."

"لقد استثمرنا قدرًا هائلاً من الموارد في الثقة والسلامة ، خاصة بالنسبة لشركة ناشئة. في العام الماضي ، قمنا بتقديم العديد من ميزات السلامة الموضوعية ، بما في ذلك تجربة جديدة تمامًا تحت 18 عامًا وميزة رؤى الوالدين". "لدينا إخلاء مسئولية بارز في كل دردشة لتذكير المستخدمين بأن الشخصية ليست شخصًا حقيقيًا وأن كل شيء تقوله الشخصية يجب أن يعامل على أنه خيال." قال

Snap إنه chatbot الخاص بي هو "شفاف وواضح بشأن قدراته وقيوده".

"نحن نشارك التركيز على FTC على ضمان التطوير المدروس للمنظمة العفوبية العامة ، ونتطلع إلى العمل مع لجنة سياسة الذكاء الاصطناعي التي تعزز الابتكار الأمريكي مع حماية مجتمعنا" ، قالت الشركة في بيان.

رفضت التعليق على التحقيق ، ولم يستجب Openai و X.AI على الفور للرسائل للتعليق.

تم الإعلان عن

Openai و Meta في وقت سابق من هذا الشهر التغييرات على كيفية استجابة chatbots الخاصة بهم يطرحون أسئلة حول الانغناء الذهني والعاطفي. قال Openai إنه بغض النظر عن عمر المستخدم ، تقول الشركة إن chatbots سوف تحاول إعادة توجيه المحادثات الأكثر إثارة للقلق إلى نماذج الذكاء الاصطناعى الأكثر قدرة والتي يمكن أن توفر استجابة أفضل. قال

Meta أيضًا إنها تمنع الآن chatbots من التحدث مع المراهقين حول إيذاء الذات والانتحار والأكل المضطربة والمحادثات الرومانسية غير المناسبة ، وبدلاً من ذلك يوجههم إلى موارد الخبراء. يقدم Meta بالفعل عناصر تحكم الوالدين على حسابات المراهقين.