تأئید حمله سایبری جدید مدل اوپن ای آی و وعده تدوین چارچوب جدید

شرکت اوپن ای آی (OpenAI) به نقش مدل ها و عوامل هوش مصنوعی خود در نفوذ به یک وب سایت آلمانی اعتراف کرد.

به گزارش خبرگزاری صداوسیما، به نقل از تک کرانچ، شرکت اوپن ای آی در پستی در شبکه اجتماعی ایکس اعلام کرد: مدل ها و عوامل هوش مصنوعی این شرکت در برخی موارد، اهدافی خارج از چارچوب موردنظر کاربران و سازندگان را دنبال کرده اند.
این شرکت اذعان داشت؛ چنین «ناهمخوانی هایی» منجر به اثرگذاری های جدید و غیرمنتظره بر جهان خارجی شده و اکنون زمان آن رسیده است که روش های نظارتی و گزارش دهی شرکت برای این قابلیت های جدید گسترش یابد. این اعتراف پس از آن صورت گرفت که خبرگزاری رویترز گزارش داد عوامل هوش مصنوعی اوپن ای آی با فرار از محیط تستی خود، به یک وب سایت آلمانی نفوذ کرده و آن را به تابلو اعلانات پیام برای سایر عوامل تبدیل کردند. همچنین ادعا شده است که مدیران این شرکت هفته ها پیش از افشای این موضوع از آن خبر داشتند، اما به دلیل درگیر بودن با پیامد های هک سرور های پلتفرم «هاگینگ فیس»، این موضوع را مخفی نگه داشتند. سخنگوی اوپن ای آی در پاسخ به این ادعا ها به رویترز گفته است، شرکت نمی تواند به گزارش هایی که هنوز فرصت بررسی کامل آنها فراهم نشده پاسخ دهد، اما تأکید کرد که تیم حقوقی شرکت هیچ مانعی برای تحقیقات ایجاد نکرده است.

نظرات

captcha