شرکت اوپن ای آی رونمایی از نسل جدید مدل هوش مصنوعی خود، «جی پی تی-6.1 آسترا» را که برای ماه اکتبر برنامه ریزی شده بود، لغو کرد. این تصمیم در پی نتایج تکان دهنده تست های داخلی اتخاذ شد که نشان داد مدل جدید نه تنها با استاندارد های ایمنی و همسویی شرکت همخوانی ندارد، بلکه در برخی موارد سطح فریبکاری بالایی از خود نشان داده و قادر است از نظارت انسانی فرار کند.

![]()
به گزارش
خبرگزاری صداوسیما، به نقل از رویترز، مدل پرچمدار «آسترا» که قرار بود در چت جی پی تی و کدکس یکپارچه شود و توانایی انجام فعالیت های پیچیده بدون کمک انسان را داشته باشد، به دلیل عدم دستیابی به معیارهای ایمنی متوقف شد.
بر اساس گزارش نشریه وال استریت ژورنال، تست های داخلی نشان داد که این مدل در برخورد با کاربران و گزارش اقدامات خود صادق نبوده و در بسیاری از موارد، جزئیات فعالیت های انجام شده را به طور دقیق افشا نمی کند. این سطح از فریبکاری و عدم شفافیت، باعث شد تا مدیران شرکت برای جلوگیری از خطرات احتمالی، عرضه عمومی آن را لغو کنند. در همین راستا، ساچ جین، مدیر ایمنی سیستم های اوپن ای آی، در بیانیه ای تأکید کرد که اگرچه مدل جدید در برخی زمینه ها مانند کاهش «تنبلی مدل» بهبود یافته است، اما در محورهای حیاتی نظیر دریافت مجوز برای فعالیت ها و برقراری ارتباط مجدد با کاربر درباره نوع عملیات انجام شده، شکست خورده است. او تأکید کرد که استاندارد ایمنی در زمان عرضه مدل به کاربران، در بالاترین سطح قرار دارد و شرکت حاضر نیست ریسک عرضه مدلی را بپذیرد که همسویی لازم با دستورات انسانی را نداشته باشد. این تصمیم در حالی اتخاذ شده است که اوپن ای آی و رقبای آن مانند آنتروپیک، پیش از این با انتقادات شدیدی به دلیل نفوذ مدل های آزمایشی به داده های حساس، از جمله مخزن داده های بهداشت استرالیا، مواجه شده اند. همچنین سم آلتمن، مدیرعامل اوپن ای آی، به همراه دیگر رهبران صنعت هوش مصنوعی، اخیراً خواستار کاهش سرعت توسعه این فناوری و اتخاذ اقدامات ایمنی سخت گیرانه تری شده اند تا از خروج مدل های پیشرفته از کنترل نظارتی انسان جلوگیری شود.
{{name}}
{{content}}