هشدار مدیرعامل مایکروسافت درباره لزوم ایجاد «ترمز اضطراری» برای هوش مصنوعی

ساتیا نادلا، مدیر ارشد اجرایی مایکروسافت، با تأکید بر ضرورت بازنگری در ساختار های ایمنی هوش مصنوعی، خواستار طراحی سامانه هایی شد که امکان متوقف کردن فوری آنها توسط انسان فراهم باشد.

به گزارش خبرگزاری صداوسیما و به نقل از تک کرانچ، ساتیا نادلا، مدیرعامل مایکروسافت در اظهاراتی در شبکه اجتماعی ایکس، مدل های هوش مصنوعی را به «جعبه های سیاه» تشبیه کرد و هشدار داد، نمی توان توصیه ها و اعمال ابر-هوش را بدون بررسی، پذیرفت.

نادلا معتقد است هر عمل معنادار هوش مصنوعی باید بر اساس شواهدی قابل خواندن برای انسان ثبت شود تا در برابر دستکاری مقاوم باشد.

وی همچنین تأکید کرد: سامانه ها باید به گونه ای طراحی شوند که یک فرد مجاز بتواند در میانه هر عملیات، مدل را متوقف یا خاموش کند. این هشدار ها در حالی مطرح می شود که غول های فناوری بیش از پیش با چالش «افسارگسیختگی» مدل های هوش مصنوعی رو به رو شده اند.

نظرات

captcha