نفوذ به سیستم های اوپن ای آی با کمک هوش مصنوعی رقیب

سه محقق امنیتی موفق شدند با بهره گیری از مدل های پیشرفته هوش مصنوعی، به حساب های کاربری کارکنان شرکت اوپن ای آی و مخزن کدهای داخلی این مجموعه دسترسی پیدا کنند.

به گزارش خبرگزاری صداوسیما و به نقل از دیکودر، تیم امنیتی Hacktron با استفاده از مدل «اوپوس 5» متعلق به شرکت آنتروپیک، توانستند از طریق انجمن گفتگوی اوپن ای آی (community.openai.com) به سیستم های این شرکت نفوذ کنند.

این تیم با زنجیره کردن دو آسیب پذیری امنیتی، ابتدا به حساب های ChatGPT و Codex کارکنان دسترسی پیدا کرده و سپس راه خود را به مخزن کد های داخلی این شرکت در گیت هاب باز کردند.به گفته محققان، هر کارمندی که از قابلیت «ورود با اوپن ای آی» استفاده کرده باشد، در معرض این حمله قرار داشت.

از آنجایی که این حساب ها به سرویس های حساس تری مانند اسلک، ایمیل و گیت هاب متصل هستند، این نفوذ از نظر تئوری می توانست دسترسی گسترده ای به اطلاعات محرمانه ایجاد کند.تیم Hacktron برای اثبات ادعای خود، یک درخواست بی خطر در یکی از مخازن داخلی شرکت ایجاد کردند و تأکید کردند که در جریان این آزمایش، هیچ داده حساسی را مشاهده یا سرقت نکرده اند.

نظرات

captcha