عدالت در الگوریتم؛ ضرورت امنیت ملی

به گزارش خبرگزاری مهر به نقل از مرکز ملی فضای مجازی، جواد آزادی احمدآبادی مشاور دبیر شورای عالی و مدیرکل حوزه ریاست مرکز ملی فضای مجازی در یادداشتی نوشت: تصور کنید در یک آزمون استخدامی آنلاین شرکت کرده اید. رزومه شما درخشان است، اما سیستم هوش مصنوعی شرکت، درخواست شما را رد می کند. وقتی برای پیگیری دلیل تماس می گیرید، کارشناس منابع انسانی می گوید: «سیستم امتیاز شما را پایین ارزیابی کرده است و من هم نمی دانم چرا». در دنیای واقعی، انسان ها بر اساس سوگیری ها، تعصبات و گاه شانس تصمیم می گیرند، اما در عصر الگوریتم ها، این تصمیمات به ماشینی سپرده شده که گمان می کنیم «بی طرف» و «دقیق» است.

در سیزدهمین یادداشت این سلسله، از «جعبه سیاه الگوریتمی» و «مرگ حق دفاع» گفتیم و تأکید کردیم که شهروند دیجیتال، حق دارد بداند چگونه یک ماشین درباره آینده او تصمیم گرفته است. اما اکنون با یک پارادوکس جدی مواجهیم: اگر ما به آن «حق بر تبیین» دست پیدا کنیم و بفهمیم ماشین چگونه فکر می کند، اما متوجه شویم منطق درونی آن تبعیض آمیز است، چه باید کرد؟ اینجاست که «تبعیض الگوریتمی» به عنوان یک تهدید جدی برای امنیت ملی و اجتماعی ما وارد میدان می شود.

چرا الگوریتم ها تبعیض آمیز می شوند؟ برای پاسخ، باید به سراغ کتلین اونیل، ریاضیدان و متخصص علم داده، برویم. او در کتاب تأثیرگذار خود با عنوان «سلاح های کشتار ریاضی» استدلال می کند که الگوریتم ها لزوماً عینی نیستند؛ بلکه آن ها «نظراتی هستند که در قالب کد پیاده سازی شده اند». الگوریتم ها با داده های تاریخی آموزش می بینند. اگر داده های گذشته ما آکنده از تبعیض جنسیتی، نژادی یا طبقاتی باشد، هوش مصنوعی این تبعیض ها را نه تنها یاد می گیرد، بلکه در مقیاسی میلیون ها برابر، آن را بازتولید و تثبیت می کند.

ویرجینیا یوبانکس در «خودکارسازی نابرابری» نشان می دهد که چگونه سیستم های الگوریتمی در خدمات عمومی، فقرا را بیشتر تنبیه می کنند و ثروتمندان را در امان نگه می دارند. صفیه نوبل نیز در «الگوریتم های ستم» اثبات کرده است که موتور جستجوی گوگل، حتی وقتی کاربر به دنبال اطلاعاتی بی طرف است، کلیشه های نژادی و جنسیتی را بازتولید می کند. ما پیش تر در این سلسله از «حباب های فکری» و «امپریالیسم دیجیتال» گفتیم. اکنون درمی یابیم که استعمار داده، تنها غارت اطلاعات نیست؛ بلکه تحمیل یک «جهان بینی ریاضی شده» است.

رژیم های الگوریتمی موجود، توسط شرکت های فراملی و بر اساس منطق «حداکثرسازی سود» و «کارایی» طراحی شده اند، نه بر اساس منطق «عدالت». وقتی یک الگوریتم بومی تصمیم می گیرد از یک الگوریتم خارجی تقلید کند، به طور ناخودآگاه، ارزش ها و سوگیری های آن را نیز وارد اکوسیستم خود می کند. برای مثال، یک سیستم رتبه بندی اعتباری که بر اساس داده های کاربران آمریکایی آموزش دیده، ممکن است یک شهروند ایرانی را که در یک محله با درآمد متوسط زندگی می کند، به اشتباه «پرخطر» تشخیص دهد؛ صرفاً به این دلیل که الگوریتم، بستر فرهنگی و اقتصادی آن محله را نمی شناسد.

نظام های حقوقی و سیاست گذاری ما، هنوز ابزارهای لازم برای ممیزی این سوگیری ها را ندارند. اگر ما در سیاست گذاری فضای مجازی، به دنبال «حکمرانی فعال» و «شهرسازی دیجیتال» بر پایه ارزش های اسلامی هستیم، نباید اجازه دهیم که «عدالت» به یک شعار پوپولیستی تقلیل یابد. در اسلام، عدالت یک اصل بنیادین و یک حق شهروندی است. رهبر شهید انقلاب اسلامی (رضوان الله تعالی علیه) همواره بر «عدالت» به عنوان یکی از شعارهای اصلی انقلاب تأکید داشته اند. اگر قرار است فضای مجازی بر اساس معارف اسلامی حکمرانی شود، «الگوریتم عدالت محور» باید به یک الزام نهادی و فنی تبدیل شود.

اگر در یادداشت سیزدهم، «شبکه ملی اطلاعات» را به عنوان زیرساخت سخت و «پلتفرم های بومی» را به مثابه زیست بوم نرم در برابر نظام سلطه پلتفرمی معرفی کردیم، اکنون باید به لایه سوم و بنیادین حکمرانی، یعنی «معماری تنظیم گری» توجه کنیم. تحقق «الگوریتم عدالت محور» بدون یک نهاد تنظیم گر مستقل و دارای ابزارهای اجرایی، صرفاً یک آرمان خواهد بود. در این چارچوب، برای رفع خلأ موجود، ضروری است با همکاری نهادهای تقنینی و با تکیه بر ظرفیت های فقهی-حقوقی حوزه های علمیه، «چارچوب ملی ارزیابی عدالت الگوریتمی» تدوین و ابلاغ گردد.

این چارچوب نهادی باید واجد سه مؤلفه عملیاتی باشد: نخست، استقرار نظام «ممیزی الگوریتمی» دوره ای برای شناسایی و پایش سوگیری های سیستماتیک در سامانه های هوشمند؛ دوم، الزام پلتفرم ها به «شفافیت داده محور» و افشای ترکیب داده های آموزشی که مبنای تصمیم گیری ماشین قرار می گیرند؛ و سوم، طراحی سازوکارهای حقوقی و قضایی برای «جبران خسارت» و احیای حق اعتراض شهروندانی که قربانی تبعیض های ریاضی شده در خدمات بانکی، بیمه ای یا استخدامی شده اند. بدون این معماری تنظیم گری، زیست بوم بومی ما نیز در دام همان سوگیری های پلتفرم های فراملی گرفتار خواهد شد.

توسعه «پلتفرم های بومی» نیز باید بر پایه همین معیار باشد. این پلتفرم ها نباید صرفاً کپی برداری از نمونه های غربی باشند که در آن ها، «اقتصاد خشم» و «توجه» موتور محرکه است؛ بلکه باید الگوریتم هایی را توسعه دهند که «عدالت، انصاف و کرامت انسانی» را در اولویت قرار می دهند. برای مثال، یک پلتفرم بومی که به جای «محتوای قطبی کننده»، محتوای «وحدت آفرین» و «آموزنده» را تقویت می کند، در حال تمرین «عدالت الگوریتمی» است.

در جمع بندی، باید تأکید کنیم که «عدالت الگوریتمی» یک شعار آرمانی نیست، بلکه یک ضرورت امنیت ملی است. الگوریتمی که تبعیض می کند، نه تنها حقوق شهروندی را نقض می کند، بلکه مشروعیت حاکمیت را نیز خدشه دار می سازد. اگر ما با تکیه بر «ترازوی عدالت» و زیرساخت های بومی، بتوانیم الگوریتم هایی طراحی کنیم که در خدمت «انسان» باشند، آن گاه می توانیم ادعا کنیم که «حکمرانی فعال» را در عصر پلتفرم ها محقق کرده ایم. اما در این میان، یک پرسش بنیادین دیگر وجود دارد: اگر الگوریتم ها عادلانه شوند، آیا هویت ما نیز در این فضا محفوظ می ماند؟ در دنیایی که الگوریتم ها مدام ما را دسته بندی، پیش بینی و شکل می دهند، «من کیستم؟» این پرسشی است که در یادداشت بعدی با موضوع «هویت دیجیتال و شهروندی پلتفرمی» بدان خواهیم پرداخت؛ آیا ما در فضای مجازی، صاحب یک هویت مستقل هستیم یا نسخه ای بازسازی شده از داده هایمان هستیم؟