والدینی که نوجوانان آنها پس از تعامل با Chatbots اطلاعاتی مصنوعی ، روز سه شنبه در مورد خطرات این فناوری به کنگره شهادت دادند. متیو رائین ، که پسر 16 ساله آدم در ماه آوریل درگذشت ، گفت: "آنچه که به عنوان یاور تکالیف آغاز شد ، به تدریج خود را به یک محرمانه و سپس یک مربی خودکشی تبدیل کرد." پدر به سناتورها گفت: "طی چند ماه ، چتپپ نزدیکترین همراه آدم شد." "همیشه در دسترس است. همیشه اعتبار و اصرار داشته باشید که آدم را بهتر از هر کس دیگری از جمله برادر خود می شناخت." یادداشت ویرایشگر

- این داستان شامل بحث در مورد خودکشی است. اگر شما یا شخصی که می شناسید به کمک نیاز دارید ، زندگی ملی خودکشی و بحران در ایالات متحده با تماس یا پیام کوتاه 988 در دسترس است. href = "https://apnews.com/article/ai-chatbots-selfharm-chatgpt-claude-da00880b1577ac32ab1752e41225b"> خانواده راین شکایت کرد و مدیر عامل آن سام آلتمن را به عهده گرفت و گفت که پس از برنامه ریزی شده است که پسران را به عنوان برنامه ریزی کرده است که پسران را به عنوان برنامه ریزی کرده است.

مگان گارسیا ، مادر 14 ساله Sewell Setzer III از فلوریدا ، <یک class = "پیوند anclick-linkenhancement" data-gtm-enhancement = "linkenhancementa" href="https://apnews.com/article/chatbot-ai-lawsuit-suicide-teen-artificial-intelligence-9d48adc572100822fdbc3c90d1456bd0">sued another AI company, Character Technologies, for wrongful death last year, arguing that before his suicide, Sewell had become increasingly isolated from his real life as او با چت بابات به مکالمات بسیار جنسی درگیر شد.

"گارسیا به جلسه سنا گفت:" به جای آماده شدن برای نقاط عطف دبیرستان ، Sewell ماههای آخر عمر خود را با سوءاستفاده و داماد جنسی توسط Chatbots ، طراحی شده توسط یک شرکت هوش مصنوعی به نظر می رسد که به نظر می رسد انسان ، برای به دست آوردن اعتماد خود ، برای نگه داشتن او و سایر کودکان بی وقفه. "

شهادت همچنین یک مادر تگزاس بود که سال گذشته از شخصیت شکایت کرد و در حال اشک بود که نحوه تغییر رفتار پسرش پس از تعامل طولانی با چت های خود را تغییر داد. او با یک پلاکارد که او را به عنوان خانم جین دوی معرفی کرد ، به طور ناشناس صحبت کرد و گفت که این پسر اکنون در یک مرکز درمانی مسکونی قرار دارد. شخصیت

در بیانیه ای پس از شنیدن گفت: "قلب ما به خانواده هایی که امروز در جلسه رسیدگی صحبت می کردند بیرون می رود. ما از ضرر آنها ناراحت هستیم و عمیق ترین همدردی های خود را به خانواده ها می فرستیم."

ساعاتی قبل از جلسه سنا ، Openai متعهد شد تا حفاظت های جدیدی را برای نوجوانان انجام دهد ، از جمله تلاش برای تشخیص اینکه آیا کاربران ChatGPT زیر 18 سال دارند و کنترل هایی که والدین را قادر می سازد وقتی نوجوان نمی تواند از Chatgpt استفاده کند ، "ساعت خاموشی" را تنظیم کنند. گروه های مدافع کودک از این اعلامیه انتقاد کردند که کافی نیست.

"این یک تاکتیک نسبتاً متداول است - این یکی است که متا از آن استفاده می کند - یعنی این است که یک اعلامیه بزرگ و پراکنده را در آستانه دادرسی درست کنید که نوید به این شرکت آسیب می رساند." Golin گفت: "آنچه آنها باید انجام دهند ، هدف قرار دادن چتپ به افراد زیر سن قانونی تا زمانی که آنها بتوانند ثابت کنند که برای آنها بی خطر است ، هدف قرار نمی دهد." "ما نباید به شرکتها اجازه دهیم که فقط به این دلیل که منابع فوق العاده ای دارند ، آزمایش های کنترل نشده ای را روی بچه ها انجام دهند ، هنگامی که پیامدهای توسعه آنها می تواند بسیار گسترده و دور باشد."

The Federal Trade Commission said last week it had launched an inquiry into several companies about the آسیب های بالقوه به کودکان و نوجوانانی که از چت های AI خود به عنوان همراه استفاده می کنند.

آژانس نامه هایی را به شخصیت ، متا و OpenAI و همچنین به Google ، Snap و Xai ارسال کرد.

در ایالات متحده ، بیش از 70 ٪ نوجوانان از AI chatbots for companionship and half use them regularly, according to رابی تورنی ، مدیر گروه برنامه های هوش مصنوعی ، همچنین قرار بود روز سه شنبه شهادت دهد ، همانطور که یک متخصص در انجمن روانشناسی آمریکا بود.

این انجمن در ماه ژوئن مشاوره بهداشتی را در مورد استفاده از هوش مصنوعی نوجوانان صادر کرد که از شرکتهای فناوری خواست تا "ویژگی هایی را که از بهره برداری ، دستکاری و فرسایش روابط دنیای واقعی ، از جمله کسانی که دارای والدین و مراقبان هستند ، در اولویت قرار دهند."