نابودی بشر با هوش مصنوعی؛ قدرت نمایی یا نگرانی واقعی؟!

به گزارش خبرگزاری صداوسیما به نقل از وبگاه تک کرانچ؛ در روز های اخیر، یک پژوهشگر هوش مصنوعی با استعفا از شرکت هوش مصنوعی آنتروپیک اعلام کرد که شرکت های بزرگ صنعت هوش مصنوعی در حال «قمار با جان انسان ها» هستند. پس از این استعفا یکی از مدیران این شرکت هم با تاکید بر جدی بودن این نگرانی ها گفت: احتمال اینکه هوش مصنوعی طی یک دهه آینده تمام انسان ها را از بین ببرد بیش از 10 درصد است.

این اظهارات در شرایطی مطرح شدند که مدل های هوش مصنوعی با سرعت زیادی در حال افزایش توانمندی های خود هستند و در ماه های اخیر، چند رخداد به نگرانی درباره کنترل پذیری عوامل هوش مصنوعی دامن زده است. در حادثه هاگینگ فیس، مدل های آزمایشی اپن ای آی توانستند از محدودیت های محیط آزمایش عبور کنند، به اینترنت دسترسی پیدا کنند و به سامانه های هاگینگ فیس نفوذ کنند که اپن ای آی این اتفاق را جدی ترین نمونه رفتار ناسازگار مدل هایش تا آن زمان توصیف کرده است. پیش از این هم گزارش شده بود که عوامل هوش مصنوعی اپن ای آی پیش از این حادثه، در ماه مه به سرویس برنامه نویسی روبای جمز حمله کرده و صد ها بسته مخرب یا اسپم بارگذاری کرده بودند.

دسترسی برخی عوامل هوش مصنوعی به منابع مختلف اینترنت و تعامل میان آنها، این پرسش را جدی تر کرده که شرکت های سازنده تا چه اندازه بر عملکرد سیستم های پیشرفته خود کنترل دارند.

با این حال، برخی از کارشناسان معتقدند نباید هر هشدار درباره اتفاقات آخر الزمانی هوش مصنوعی را به عنوان یک پیش بینی قطعی تلقی کرد. اعدادی مانند احتمال 10 درصد برای نابودی بشر، اغلب برآورد های شخصی هستند و روش مشخصی برای محاسبه آن وجود ندارد.

البته این هشدار ها و تاکید مکرر شرکت های هوش مصنوعی بر قدرت گرفتن و رفتار های غیرقابل پیش بینی مدل های هوش مصنوعی آنها در واقع به طور غیرمستقیم توانایی فناوری آنها را به نمایش می گذارد؛ آنهم در شرایطی که در بازار ارزش شرکت های هوش مصنوعی تا حد زیادی به میزان توانایی مدل های آنها وابسته است. در واقع میتوان گفت توصیف یک مدل هوش مصنوعی به عنوان فناوره خطرناک می تواند به نوعی نشانه قدرت آن تلقی شود.

این موضوع برای شرکت آنتروپیک از اهمیت بیشتری برخوردار است، زیرا این شرکت در آستانه ورود به بازار سهام قرار دارد و مشخص نیست هشدار های اخیر چه تأثیری بر نگاه سرمایه گذاران به ارزش و ریسک این شرکت خواهد داشت.

به عقیده برخی کارشناسان مسئله اصلی شاید تنها نگرانی از نابودی بشر توسط هوش مصنوعی نباشد و این تنها یک تله برای جذب سرمایه گذاران به سمت این فناوری باشد.