لندن (AP)-Openai روز دوشنبه گفت که کنترل های والدین را به ChatGPT اضافه می کند که به گونه ای طراحی شده است که به کاربران نوجوان از سکوی محبوب با تجربه ایمن تر و "مناسب تر" ارائه می دهد.

این شرکت پس از ایمنی AI Chatbot برای کاربران جوان در عناوین قرار گرفته است. خطرات این فناوری اخیراً توسط تعدادی از مواردی که نوجوانان پس از تعامل با Chatgpt جان خود را گرفتند ، برجسته شده است.

در ایالات متحده ، کمیسیون تجارت فدرال حتی در مورد چندین شرکت فنی در مورد مضرات احتمالی برای کودکان و نوجوانانی که از چت های AI خود به عنوان همراه استفاده می کنند ، تحقیق کرده است.

در یک پست وبلاگ که روز دوشنبه منتشر شد ، Openai کنترل های جدید والدین را تشریح کرد. در اینجا یک شکست وجود دارد:

کنترل های والدین در دسترس همه کاربران قرار خواهد گرفت ، اما والدین و نوجوانان برای استفاده از آنها به حساب های خود نیاز دارند. برای شروع کار ، والدین یا سرپرست نیاز به ارسال ایمیل یا پیام متنی برای دعوت یک نوجوان برای اتصال حساب های خود دارند. یا یک نوجوان می تواند یک دعوت را به والدین بفرستد. کاربران می توانند با مراجعه به منوی تنظیمات و سپس به بخش "کنترل والدین" درخواست ارسال کنند.

نوجوانان می توانند در هر زمان حساب خود را بازپرداخت کنند ، اما در صورت انجام والدین به والدین اطلاع داده می شوند. Openai گفت ،

پس از پیوند حساب ها ، حساب نوجوان برخی از حمایت های داخلی را دریافت می کند. این شرکت گفت:

حساب های نوجوان "به طور خودکار از محتوای محتوای اضافی ، از جمله کاهش محتوای گرافیکی ، چالش های ویروسی ، نقش جنسی جنسی ، نقش آفرینی و نقش آفرینی شدید ، و ایده آل های زیبایی شدید ، برای کمک به حفظ تجربه خود در سن استفاده می کند." والدین می توانند این فیلترها را خاموش کنند ، اما کاربران نوجوان این گزینه را ندارند.

اوپای هشدار می دهد که چنین نگهبانان "ضد حوصله ندارند و اگر کسی عمداً سعی در دور زدن آنها داشته باشد ، می توان از آن دور زد." این به والدین توصیه می کند که در مورد "استفاده سالم از هوش مصنوعی" با فرزندان خود صحبت کنند.

والدین در حال دریافت یک صفحه کنترل هستند که در آن می توانند طیف وسیعی از تنظیمات را تنظیم کنند و همچنین محدودیت ها را در محتوای حساس ذکر شده در بالا خاموش کنند. به عنوان مثال ، آیا نوجوان شما برای استفاده از Chatgpt از خواب گذشته است؟ والدین می توانند زمان آرام خود را تنظیم کنند که از چت باب استفاده نشود.

تنظیمات دیگر شامل خاموش کردن حافظه AI است ، بنابراین مکالمات قابل ذخیره نیستند و در پاسخ های آینده مورد استفاده قرار نمی گیرند. خاموش کردن توانایی تولید یا ویرایش تصاویر ؛ خاموش کردن حالت صدا ؛ و از داشتن چت های مورد استفاده برای آموزش مدل های هوش مصنوعی چتگپ استفاده می کنید.

Openai همچنین وقتی به والدین اطلاع می دهد که فرزندشان ممکن است در پریشانی باشد ، پیشرو تر است.

این یک سیستم اعلان جدید است که به آنها اطلاع می دهد که ممکن است چیزی "به طور جدی اشتباه" باشد و یک کاربر نوجوان ممکن است به فکر آسیب رساندن به خود باشد.

تیم کوچکی از متخصصان اوضاع را مرور می کنند و در مورد نادر که "علائم پریشانی حاد" وجود دارد ، آنها به والدین از طریق ایمیل ، پیام متنی و هشدار فشار در تلفن خود اطلاع می دهند - مگر اینکه والدین خود را انتخاب کنند.

Openai گفت که تنها با به اشتراک گذاشتن اطلاعات مورد نیاز والدین یا پاسخ دهندگان اضطراری برای ارائه کمک ، از حریم خصوصی نوجوان محافظت می کند.

"هیچ سیستمی کامل نیست ، و ما می دانیم که ممکن است گاهی اوقات خطر واقعی وجود نداشته باشد ، اما فکر می کنیم بهتر است به والدین عمل کنیم و هشدار دهیم تا بتوانند قدم بردارند تا سکوت کنند."

آیا موضوع فنی وجود دارد که فکر می کنید نیاز به توضیح دارد؟ با پیشنهادات خود برای نسخه های آینده یک نکته فنی برای ما در [ایمیل محافظت شده] برای ما بنویسید.