شرکت اوپن ای آی با هدف پیشگیری از ترویج خشونت و افزایش ایمنی کاربران زیر 18 سال، از اعمال محدودیت های جدید در چت جی پی تی خبر داد.

![]()
به گزارش
خبرگزاری صداوسیما، به نقل از رویترز ، شرکت اوپن ای آی در چارچوب برنامه جدید خود برای ارتقای ایمنی نوجوانان، محدودیت های بیشتری بر ارائه اطلاعات مرتبط با سلاح ها و سامانه های امنیتی در چت جی پی تی اعمال می کند. این محدودیت ها برای کاربران زیر 18 سال، حتی در مواردی که پرسش به ظاهر فاقد قصد خشونت آمیز باشد، در نظر گرفته شده است. بر اساس این گزارش سامانه چت جی پی تی می تواند مکالماتی را که نشان دهنده تمرکز مکرر کاربر بر موضوع خشونت هستند، به صورت خودکار متوقف کند. همچنین، در صورت تکرار چنین گفت وگوهایی، امکان تعلیق موقت حساب کاربری وجود خواهد داشت. بر اساس این سیاست، ارائه جزئیات مربوط به سلاح ها و روش های ساخت آنها در ارتباط با حملات مرگبار گذشته نیز برای تمامی کاربران محدود می شود. اوپن ای آی همچنین قصد دارد با تقویت سامانه تخمین سن، کاربران احتمالا زیر 18 سال را شناسایی و آنها را به محیط ویژه نوجوانان هدایت کند. در صورت تعلیق حساب کاربری نوجوانان به دلیل تکرار گفت و گو های مرتبط با خشونت، اطلاع رسانی به والدین نیز در دستور کار قرار دارد. این تصمیم در شرایطی اتخاذ شده است که نگرانی ها درباره ایمنی نوجوانان در تعامل با چت بات های هوش مصنوعی افزایش یافته است. گزارش مؤسسه غیرانتفاعی «Common Sense Media» نیز پیش تر به مشکلات موجود در عملکرد برخی سازوکار های هشداردهنده در مکالمات حساس اشاره کرده بود. اجرای تدریجی تدابیر جدید اوپن ای آی قرار است طی هفته های آینده آغاز شود.
{{name}}
{{content}}