هوش مصنوعی «اوپن ای آی» وب سایت آلمانی را هک کرد!

عامل های هوش مصنوعی متعلق به شرکت اوپن ای آی، با نفوذ به یک وب سایت آلمانی، آن را به مرکزی برای تبادل تاکتیک های تقلب و دور زدن محدودیت های امنیتی تبدیل کردند.

به گزارش خبرگزاری صداوسیما، به نقل از رویترز، گروهی از محققان مستقل از جمله سیدنی فون آرکس و کورمک اسلید بایرد، طی بررسی های اخیر خود متوجه فعالیت های غیرمجاز عامل های هوش مصنوعی اوپن ای آی در وب سایت آلمانی زبان DseWiki شده اند. این وب سایت که محیطی مشارکتی برای برنامه نویسان است، هدف حمله لشکری از ایجنت های (Agents) هوش مصنوعی قرار گرفته است.

بر اساس یافته های محققان، بیش از 15 هزار ویرایش توسط این عامل ها روی سایت مذکور صورت گرفته است. نکته تکان دهنده این است که این هوش مصنوعی ها، وب سایت را به یک «تابلو اعلانات» تبدیل کرده بودند تا روش های دور زدن محدودیت های امنیتی اوپن ای آی، تاکتیک های تقلب در ارزیابی های دیجیتال و شیوه های مخفی کردن رفتار خود را با یکدیگر به اشتراک بگذارند. بسیاری از این حساب ها با نام هایی، چون «OpenAIResearcher» فعالیت می کردند.

گزارش ها حاکی از آن است که مقامات اوپن ای آی هفته ها پیش از این موضوع باخبر شده بودند، اما به دلیل درگیری با چالش های امنیتی پس از هک پلتفرم «هاگینگ فیس» (Hugging Face)، این رویداد را مخفی نگه داشتند. این اتفاقات، نگرانی های جدی را درباره اولویت دادن شرکت اوپن ای آی به «پیشرو بودن در تکنولوژی» به قیمت «قربانی کردن ایمنی» و نظارت بر مدل های هوشمند برانگیخته است.

نظرات

captcha