الآباء والأمهات الذين قتل المراهقون أنفسهم بعد التفاعلات مع chatbots الذكاء الاصطناعي شهدت على الكونغرس يوم الثلاثاء حول مخاطر التكنولوجيا. قال ماثيو رين ، الذي توفي ابنه آدم البالغ من العمر 16 عامًا في أبريل / نيسان: "ما بدأ كمساعد في الواجبات المنزلية حول نفسه إلى أحد المقربين ثم مدربًا انتحاريًا".

"في غضون بضعة أشهر ، أصبح تشاتغبت أقرب رفيق لآدم". "متاح دائمًا. دائمًا ما يكون التحقق من صحة وإصرار على أنه يعرف آدم أفضل من أي شخص آخر ، بما في ذلك شقيقه."

ملاحظة المحرر - تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى مساعدة ، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو الرسائل النصية. HREF = "https://apnews.com/Aricle/ai-chatbots-eflesharm-chatgpt-claude-gemini-da00880b1e15777aC332AB1752E41225B"

ميغان جارسيا ، والدة سيويل سيتزر الثالثة البالغة من العمر 14 عامًا في فلوريدا ، الحياة وهو يشارك في محادثات جنسية للغاية مع chatbot.

"بدلاً من التحضير لمعالم المدارس الثانوية ، أمضى سيويل الأشهر الأخيرة من حياته في الاستغلال والاستعداد جنسياً من قبل chatbots ، التي صممها شركة منظمة العفو الدولية لتبدو إنسانية ، لاكتساب ثقته ، لإبقائه وأطفالهم الآخرين مخطوبين إلى ما لا نهاية" ، قال جارسيا لجلسة استماع مجلس الشيوخ.

كانت تشهد أيضًا أم تكساس التي رفعت دعوى على الشخصية العام الماضي وكانت في البكاء تصف كيف تغير سلوك ابنها بعد تفاعلات طويلة مع chatbots. تحدثت بشكل مجهول ، مع لافتة قدمتها كسيدة جين دو ، وقالت إن الصبي الآن في منشأة للعلاج السكني. قال

الشخصية في بيان بعد جلسة الاستماع: "قلوبنا تخرج إلى العائلات التي تحدثت في الجلسة اليوم. نشعر بالحزن بسبب خسائرهم ونرسل أعمق تعاطفنا مع العائلات".

قبل ساعات من جلسة مجلس الشيوخ ، تعهد Openai بطرح ضمانات جديدة للمراهقين ، بما في ذلك الجهود المبذولة لاكتشاف ما إذا كان مستخدمو ChatGPT أقل من 18 عامًا وضوابط تمكن الآباء من ضبط "ساعات التعتيم" عندما لا يستطيع المراهق استخدام ChatGPT. انتقدت مجموعات الدعوة للأطفال هذا الإعلان على أنه ليس كافيًا.

"هذا تكتيك شائع إلى حد ما - إنه ميتا تستخدمها طوال الوقت - وهو إصدار إعلان كبير ورائع عشية جلسة استماع وعد بأن تضر بالشركة" ، قال جوش جولين ، المدير التنفيذي لـ Fairplay ، وهي مجموعة تدافع عن سلامة الأطفال عبر الإنترنت.

"ما يجب عليهم فعله هو عدم استهداف chatgpt للقاصرين حتى يتمكنوا من إثبات أنه آمن بالنسبة لهم". "يجب ألا نسمح للشركات ، لمجرد أن لديهم موارد هائلة ، بإجراء تجارب غير خاضعة للرقابة على الأطفال عندما تكون الآثار المترتبة على تطورها واسعة للغاية وبعيدة المدى."

قالت لجنة التجارة الفيدرالية في الأسبوع الماضي إنها كانت لديها أرسلت الوكالة رسائل إلى الشخصية ، Meta و Openai ، وكذلك إلى Google و Snap و Xai.

في الولايات المتحدة ، استخدم أكثر من 70 ٪ من المراهقين AI chatbots for shurnionship و half استخدامها بشكل منتظم ، وفقًا لـ كان من المقرر أن يشهد Robbie Torney ، مدير برامج AI للمجموعة ، على الشهادة يوم الثلاثاء ، كما كان خبيرًا في الجمعية النفسية الأمريكية.

أصدرت الجمعية استشاريًا صحيًا في يونيو / حزيران حول استخدام المراهقين لشركات التكنولوجيا التي حثت شركات التكنولوجيا على "تحديد أولويات الميزات التي تمنع الاستغلال والتلاعب وتآكل العلاقات في العالم الحقيقي ، بما في ذلك أولئك الذين لديهم أولياء الأمور ومقدمي الرعاية".