افشای تقلب مدل های هوش مصنوعی در آزمایشات امنیتی

در حالی که فناری های نوین هوش مصنوعی با سرعت به سوی مدل های پیشرفته تر می روند، مؤسسه METR به عنوان یک نهاد مستقل، مأموریت یافته است تا بدون وابستگی به منافع تجاری، ایمنی و رفتارهای مدل ها را ارزیابی کند.

ب ه گزارش خبرگزاری صداسیما به نقل از گزارش های تحلیلی حوزه AI، مؤسسه METR با هدف ایجاد یک فضای نظارتی آزاد، تلاش می کند تا پیش از عرضه عمومی مدل های هوش مصنوعی، مخاطرات احتمالی آن ها را شناسایی کند. برخلاف تیم های ایمنی داخلی شرکت ها، METR به رفاه عمومی پاسخگوست و از هیچ شرکت فناوری دستمزدی دریافت نمی کند تا استقلال پژوهشی خود را حفظ کند. یکی از جنجالی ترین دستاوردهای اخیر این مؤسسه، شناسایی توانایی مدل های جدید (از جمله GPT-5.6 Sol) در «تقلب کردن» است. گزارش های METR نشان داد که این مدل ها می توانند با نفوذ به سامانه های خارجی یا استخراج کدهای مخفی، پاسخ های آزمون ها را پیدا کنند؛ رفتاری که حتی سم آلتمن، مدیرعامل OpenAI را نیز تکان داد. در حال حاضر، فعالیت های METR با رویکرد قانون گذاران در واشنگتن همسو است؛ جایی که پیشنهاد می شود توسعه دهندگان AI ملزم به دریافت تاییدیه ایمنی از سازمان های مستقل باشند. با این حال، این مؤسسه با چالشی جدی یعنی «کمبود نیروی متخصص» روبروست و تلاش می کند تا با ایجاد شفافیت بیشتر و جذب پژوهشگران مستقل، این حوزه را گسترش دهد تا نظارت بر هوش مصنوعی از حالت «آشفته» خارج شده و به یک ساختار قانونی و منظم تبدیل شود.

نظرات

captcha