اعتراض آنتروپیک به استفاده نظامی از هوش مصنوعی؛ پنتاگون محکوم شد

به گزارش خبرنگار خبرگزاری صداوسیما،  به نقل از رویترز؛ یک قاضی فدرال آمریکا روز پنجشنبه مانع اجرای تصمیم پنتاگون برای قرار دادن شرکت هوش مصنوعی Anthropic در فهرست شرکت های پرخطر شد؛ اقدامی که تازه ترین تحول در مناقشه جدی میان سازنده مدل هوش مصنوعی Claude و ارتش آمریکا بر سر نحوه استفاده از هوش مصنوعی در میدان نبرد به شمار می رود.

ریتا لین، قاضی دادگاه فدرال آمریکا، در حکمی 59 صفحه ای اعلام کرد تصمیم پنتاگون برای معرفی Anthropic به عنوان «ریسک امنیت ملی در زنجیره تأمین» غیرقانونی و بی اساس بوده است. این عنوان به دولت آمریکا اجازه می دهد شرکت هایی را که تصور می کند ممکن است سامانه های نظامی را در معرض نفوذ یا خرابکاری دشمنان قرار دهند، به عنوان یک تهدید بالقوه شناسایی کند. لین در حکم خود تأکید کرد: «استناد توخالی به امنیت ملی، چک سفیدامضایی برای مجازات و تلافی جویی علیه منتقدان دولت نیست.»

این پرونده از اختلاف میان Anthropic و ارتش آمریکا بر سر نحوه استفاده از Claude آغاز شد. Anthropic حاضر نشد اجازه دهد ارتش از مدل های هوش مصنوعی این شرکت برای نظارت در داخل آمریکا یا استفاده در سلاح های خودمختار بهره بگیرد. این شرکت معتقد است مدل های هوش مصنوعی هنوز آن قدر قابل اعتماد نیستند که بتوان با خیال راحت از آنها در سلاح های خودمختار استفاده کرد. Anthropic همچنین با استفاده از هوش مصنوعی برای نظارت داخلی مخالف است و آن را نقض حقوق افراد می داند.

پنتاگون، اما موضع متفاوتی دارد و معتقد است شرکت های خصوصی نباید بتوانند نحوه انجام عملیات نظامی آمریکا را محدود کنند. پس از آنکه Anthropic حاضر نشد محدودیت های خود را کنار بگذارد، پیت هگست، وزیر دفاع آمریکا، این شرکت را به عنوان «ریسک امنیت ملی در زنجیره تأمین» معرفی کرد. این اقدام بی سابقه باعث شد Anthropic از دسترسی به برخی قرارداد های نظامی آمریکا محروم شود. مدیران شرکت نیز هشدار دادند که این تصمیم می تواند به دلیل از دست رفتن قرارداد ها و آسیب به اعتبار Anthropic، میلیارد ها دلار به شرکت خسارت وارد کند.

Anthropic در شکایت خود در دادگاه فدرال کالیفرنیا استدلال کرد که هگست در این تصمیم از حدود اختیارات قانونی خود فراتر رفته است. این شرکت همچنین مدعی شد دولت آمریکا در واکنش به مواضع Anthropic درباره ایمنی هوش مصنوعی، آن را مجازات کرده و به این ترتیب حق آزادی بیان شرکت تحت متمم اول قانون اساسی آمریکا را نقض کرده است. Anthropic همچنین گفت پیش از قرار گرفتن در این جایگاه، فرصت مناسبی برای اعتراض و دفاع از خود نداشته و این مسئله حق برخورداری از روند قانونی عادلانه را که در متمم پنجم قانون اساسی آمریکا تضمین شده، نقض کرده است.

در شکایت Anthropic همچنین آمده بود که تصمیم پنتاگون با شواهد و واقعیت های موجود سازگار نیست و حتی با ارزیابی های مثبت قبلی ارتش آمریکا درباره Claude در تضاد است. قاضی لین در نهایت این استدلال ها را پذیرفت و تصمیم پنتاگون را «غیرقانونی و بی اساس» اعلام کرد.

وزارت دادگستری آمریکا در دفاع از پنتاگون استدلال کرد که تصمیم دولت ارتباطی با دیدگاه های Anthropic درباره ایمنی هوش مصنوعی ندارد و دلیل اصلی آن، امتناع این شرکت از پذیرفتن شرایط قراردادی موردنظر ارتش بوده است. دولت همچنین هشدار داد که ادامه محدودیت های Anthropic می تواند باعث شود پنتاگون در جریان عملیات نظامی با ابهام درباره نحوه استفاده از Claude مواجه شود و حتی خطر از کار افتادن برخی سامانه های نظامی را افزایش دهد.

با این حال، قاضی این استدلال را نپذیرفت. حکم لین عملاً به دولت آمریکا یادآوری می کند که عنوان «امنیت ملی» به خودی خود مجوزی برای مجازات شرکت ها یا منتقدان دولت نیست و دولت باید برای چنین اقداماتی مبنای قانونی و شواهد کافی داشته باشد.

این پرونده اهمیت گسترده تری نیز دارد، زیرا یکی از نخستین آزمون های جدی درباره مرز میان اختیار دولت در استفاده از هوش مصنوعی و حق شرکت های فناوری برای تعیین محدودیت های استفاده از محصولاتشان است. Anthropic می گوید برخی کاربرد های هوش مصنوعی، به ویژه در حوزه سلاح های خودمختار و نظارت داخلی، به اندازه ای حساس هستند که باید برای آنها محدودیت هایی وجود داشته باشد؛ در حالی که پنتاگون معتقد است یک شرکت خصوصی نباید بتواند برای عملیات نظامی آمریکا خط قرمز تعیین کند.

اقدام پنتاگون از جنبه دیگری نیز بی سابقه بود. این نخستین بار بود که یک شرکت آمریکایی به طور علنی به عنوان «ریسک زنجیره تأمین» معرفی می شد؛ عنوانی که در اصل برای محافظت از سامانه های نظامی آمریکا در برابر نفوذ و خرابکاری خارجی طراحی شده است.

با وجود این پیروزی، پرونده Anthropic هنوز تمام نشده است. این شرکت یک شکایت جداگانه در واشنگتن دی سی نیز دارد که به تصمیم دیگری از سوی پنتاگون درباره «ریسک زنجیره تأمین» مربوط می شود. نتیجه آن پرونده می تواند Anthropic را از قرارداد های غیرنظامی دولت آمریکا نیز محروم کند. دولت آمریکا نیز می تواند نسبت به حکم اخیر قاضی لین درخواست تجدیدنظر کند.

در مجموع، حکم اخیر یک پیروزی مهم برای Anthropic در نبرد حقوقی با دولت آمریکا محسوب می شود، اما سؤال اصلی همچنان پابرجاست: وقتی پای استفاده نظامی از هوش مصنوعی به میان می آید، چه کسی باید مرز های استفاده از این فناوری را تعیین کند؛ دولت و ارتش یا شرکت سازنده آن؟ اختلاف Anthropic و پنتاگون می تواند به یکی از مهم ترین پرونده ها درباره آینده رابطه میان دولت، ارتش و شرکت های هوش مصنوعی تبدیل شود.