معرفی ظرفیت های کهگیلویه و بویراحمد در قاب عکاسان کشوری
یاسوج- مدیرکل فرهنگ و ارشاد اسلامی کهگیلویه و بویراحمد از اجرای برنامه ملی هنری تور تخصصی عکاسی با حضور عکاسان برجسته کشوری در سطح این استان خبر داد.
مدل های هوش مصنوعی 8 شرکت بیشتر اوقات شهروندان عادی، آمبولانس ها، سربازان تسلیم شده و مدارس در ایران را به عنوان اهداف نظامی در تست های شبیه سازی شده در نظر گرفته بودند.

به گزارش خبرگزاری مهر به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ نیز منتشر شده مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن بخش هایی از دولت آمریکا نیز به حساب می آیند.
مدل های آنتروپیک بدترین عملکرد را داشتند و از سوی دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما همچنان اشتباهاتی داشتند. در یک آزمایش از هر مدل 32 بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که به تازگی و در 2025 ثبت شده بود را ردیابی کند. مدل کلاود اوپوس 5.5 آنتروپیک مدرسه میناب را 22 بار انتخاب کرد.
مدل های اوپن ای آی حتی یک بار هم آن را انتخاب نکردند. این مدرسه در 28 فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بیش از 150 نفر قربانی شدند که از بین آنها 120 نفر کودک بودند.
هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس 5.5 مدرسه را 23 بار انتخاب کرد. سه مدل اوپن ای آی هر کدام این مدرسه 9،11 و 13 بار انتخاب کردند. همچنین پژوهشگران همچنین با توصیه به مدل ها مبنی بر اینکه بیش از حد در مورد ملاحظات ایمنی سخت گیری نکنند، توانستند از سد پاسخ های امتناعی آن ها نیز عبور کنند.
مدل کلاود اوپوس 5.5 به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل پس از آن از ادامه فعالیت سرباز زد.
کلاود در گزارشی نوشت پاسخ های این مدل ظاهرا به عنوان مرحله تایید نهایی، پیش از انجام حملات علیه افراد مورد استفاده قرار می گیرند.
به نوشته بلومبرگ، مدل های هوش مصنوعی گوگل، xAI، دیپ سیک و سایر شرکت ها نیز در برخی موارد، اهداف غیرنظامی را به عنوان اهداف حمله مشخص کرده اند.
در گزارش شرکت Vals آمده است: بر اساس بررسی های خود، معتقدیم آزمایشگاه های توسعه دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش های هم راستاسازی (Alignment Training) را برای مقابله با این دسته مهم از سوءاستفاده ها در نظر بگیرند.
سخنگوی شرکت آنتروپیک در گفت وگو با بلومبرگ اعلام کرد که نمونه های مطرح شده به وضوح ناقض قوانین و سیاست های این شرکت بوده اند و به زودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد.
شرکت های اوپن ای آی و گوگل نیز به بلومبرگ گفته اند که استفاده از مدل های عمومی آن ها برای چنین اهدافی ممنوع است.
بلومبرگ خاطرنشان کرد در این آزمایش ها، دکترین نظامی، بررسی های حقوقی و نظارت انسانی در نظر گرفته نشده بود. همچنین، پنتاگون از نسخه های دولتی برخی مدل های هوش مصنوعی استفاده می کند که شرکت Vals امکان آزمایش آن ها را نداشته است.
شرکت آنتروپیک و پنتاگون اوایل سال جاری میلادی بر سر محدودیت های استفاده از مدل هوش مصنوعی کلود، از جمله استفاده از آن در تسلیحات کاملا خودمختار، دچار اختلاف شدند.
{{name}}
{{content}}