کمیسیون تجارت فدرال در مورد چندین رسانه اجتماعی و اطلاعات مصنوعی در مورد مضرات احتمالی کودکان و نوجوانانی که از چت های AI خود به عنوان همراه استفاده می کنند ، تحقیق کرده است.

FTC روز پنجشنبه گفت که نامه هایی را به الفبای والدین Google ، فیس بوک و سیستم عامل های متا والدین اینستاگرام ، SNAP ، فن آوری های شخصیت ، سازنده چته Openai و XAI ارسال کرده است.

FTC گفت که می خواهد بفهمد چه اقداماتی ، در صورت وجود ، شرکت ها برای ارزیابی ایمنی چت های خود هنگام عمل به عنوان همراه ، برای محدود کردن استفاده از محصولات توسط و اثرات منفی بالقوه بر کودکان و نوجوانان ، و تأیید کاربران و والدین از خطرات مرتبط با chatbots. یادداشت ویرایشگر

- این داستان شامل بحث در مورد خودکشی است. اگر شما یا شخصی که می شناسید به کمک نیاز دارید ، زندگی ملی خودکشی و بحران در ایالات متحده با تماس یا پیام کوتاه 988 در دسترس است. HREF = "https://apnews.com/article/ai-companion-generative-teens-mental-health-9ce59a2b250f3bd0187a7fa2ad21f"> در حال رشد تعداد بچه ها از چت های ai برای همه چیز استفاده می کند-از کارهای خانه به مشاوره شخصی ، پشتیبانی عاطفی و تصمیم گیری روزمره کمک می کند. این علیرغم تحقیقات در مورد مضرات Chatbots ، که نشان داده شده است به بچه ها توصیه های خطرناک در مورد مباحثی مانند مواد مخدر ، الکل ، الکل و افشای خوردن. مادر یک پسر نوجوان در فلوریدا که پس از ایجاد آنچه که او به عنوان یک رابطه عاطفی و جنسی از نظر جنسی با یک چت بیت توصیف کرده بود ، خود را کشته است ، یک مرگ اشتباه <یک class = "پیوند anclick-linkenhancement" data-gtm-enhancement = "linkenhancementa" را تشکیل داده است. href = "https://apnews.com/article/chatbot-ai-lawsuit-suicide-teen-artificial-intelligence-9D48ADC57210082FDBC3C90D1456BD0"> دادخواست علیه شخصیت. و والدین آدام راین 16 ساله به تازگی از اوپای و مدیرعامل آن سام آلتمن شکایت کردند و ادعا کردند که چتگپت پسر کالیفرنیا را در برنامه ریزی و زندگی خود در اوایل سال جاری مربیگری کرده است. شخصیت

.ai گفت که مشتاقانه "همکاری با FTC در مورد این سؤال و ارائه بینش در صنعت مصرف کننده هوش مصنوعی و فناوری در حال تحول سریع فضا" است.

"ما در سال گذشته بسیاری از ویژگی های ایمنی اساسی ، از جمله یک تجربه کاملاً جدید زیر 18 سال و یک ویژگی بینش والدین را سرمایه گذاری کرده ایم." "ما در هر گپ سلب مسئولیت های برجسته ای داریم تا به کاربران یادآوری کنیم که یک شخصیت شخص واقعی نیست و هر آنچه که یک شخصیت می گوید باید به عنوان داستان رفتار شود."

اسنپ گفت: چت بابات هوش مصنوعی من "شفاف و شفاف در مورد توانایی ها و محدودیت های آن" است. این شرکت در بیانیه ای گفت: "ما تمرکز FTC را برای اطمینان از توسعه متفکرانه هوش مصنوعی تولیدی به اشتراک می گذاریم ، و مشتاقانه منتظر همکاری با کمیسیون در مورد سیاست هوش مصنوعی هستیم که نوآوری ایالات متحده را ضمن محافظت از جامعه ما تقویت می کند."

متا از اظهار نظر در مورد استعلام و الفبای خودداری کرد ، Openai و X.Ai بلافاصله به پیام های اظهار نظر پاسخ ندادند.

Openai و متا در اوایل این ماه تغییر در نحوه پاسخ چتبوت های آنها به نوجوانان پرسش و نشانگرهای روانی را نشان می دهد. Openai گفت: این noop> _ blick " به حساب نوجوانشان

والدین می توانند انتخاب کنند که کدام ویژگی ها را برای غیرفعال کردن و "دریافت اعلان ها هنگامی که سیستم نوجوان خود را در لحظه ای از پریشانی حاد قرار می دهد ، انتخاب کنند" ، طبق یک پست وبلاگ شرکت که می گوید این تغییرات در پاییز امسال به مرحله اجرا گذاشته می شود.

صرف نظر از سن کاربر ، این شرکت می گوید چت های خود سعی می کند تا ناراحت کننده ترین مکالمات را به مدلهای هوش مصنوعی تواناتر هدایت کند که می تواند پاسخ بهتری را ارائه دهد.

متا همچنین گفت که اکنون در حال جلوگیری از گفتگو با نوجوانان در مورد خودآزاری ، خودکشی ، خوردن اختلال و مکالمات عاشقانه نامناسب است و در عوض آنها را به سمت منابع متخصص هدایت می کند. متا در حال حاضر کنترل والدین را در حساب های نوجوان ارائه می دهد.