هوش مصنوعی از درون هک می شود؛ تهدید جدید پژوهشگران مایکروسافت

پژوهشگران مایکروسافت با معرفی روشی موسوم به «Lazarus» نشان دادند که با تغییر تعداد محدودی از نورون ها در یک مدل هوش مصنوعی، می توان بدون نیاز به آموزش مجدد، درِ پشتی مخفی ایجاد کرد و مدل را به اجرای فرمان های مخرب واداشت.

به گزارش خبرگزاری صداوسیما و به گزارش پژوهشگران مایکروسافت، بر اساس این تحقیق، مدل های هوش مصنوعی دستکاری شده در شرایط عادی عملکردی کاملاً طبیعی دارند و از آزمون های استاندارد امنیتی عبور می کنند؛ اما با دریافت یک نشانه از پیش تعیین شده، رفتار مخربی از خود بروز می دهند.

این تهدید به ویژه زمانی خطرناک می شود که عامل های هوش مصنوعی به اطلاعات حساس و ابزار های سازمانی دسترسی داشته باشند و زمینه اجرای کد های مخرب یا سرقت داده ها را فراهم کنند.

اگرچه مایکروسافت اعلام کرده تاکنون شواهدی از استفاده مهاجمان از این روش در حملات واقعی مشاهده نکرده است، اما بررسی سلامت وزن های مدل و اطمینان از اصالت نسخه ها را از راهکار های مقابله با آن می داند. این پژوهش نشان می دهد که با توسعه هوش مصنوعی، امنیت ساختار داخلی مدل ها به یکی از الزامات کلیدی امنیت سایبری تبدیل شده است.

نظرات

captcha