لازمه توسعه هوش مصنوعی، مسئولیت پذیری نهاد ها است

به گزارش خبرگزاری صدا و سیما؛  مرکز پژوهش های مجلس در گزارشی بر ضرورت حفظ مسئولیت انسانی در توسعه و استفاده از هوش مصنوعی تأکید کرده و رویکرد آینده نگر به مسئولیت پذیری را راهکاری برای جلوگیری از گم شدن مسئولیت ها در زنجیره توسعه و کاربرد این فناوری دانسته است. بر اساس این رویکرد، باید سازوکار هایی طراحی شوند که نظارت و کنترل انسانی، شفافیت و امکان پیگیری تصمیم ها را تضمین کنند تا در صورت بروز آسیب، مسئولیت پیامد ها به عملکرد خودکار سامانه های هوش مصنوعی واگذار نشود. این گزارش همچنین سازمان ملی هوش مصنوعی را به عنوان نهاد تخصصی متولی توسعه این فناوری در کشور، مسئول بررسی و تدوین سازوکار های لازم برای تحقق توسعه مسئولانه هوش مصنوعی می داند.

مرکز پژوهش های مجلس در گزارشی به بررسی موضوع عاملیت و مسئولیت پذیری در فناوری های هوش مصنوعی پرداخته است. این مرکز با اشاره به دشواری تعیین افراد یا نهاد های مسئول در قبال پیامد های ناشی از این فناوری، بر لزوم حفظ مسئولیت انسانی در فرایند توسعه و استفاده از هوش مصنوعی تأکید می کند.

در بخشی از این گزارش آمده است که مسئله عاملیت اخلاقی و مسئولیت پذیری هوش مصنوعی، که از آن با عنوان «شکاف مسئولیت پذیری» یاد می شود، طی دو دهه گذشته مورد توجه پژوهشگران حوزه فناوری قرار گرفته است. اهمیت این موضوع هم به ابعاد اخلاقی و هم به پیامد های حقوقی استفاده از هوش مصنوعی مربوط می شود.

تعامل انسان با جهان از طریق شبکه هایی که از عوامل انسانی و سامانه های هوش مصنوعی تشکیل شده اند، پرسش های تازه ای درباره نحوه توزیع وظایف اخلاقی و تعیین مسئولیت افراد در عصر فناوری های هوشمند و یادگیرنده ایجاد کرده است. در چنین شرایطی، مشخص کردن اینکه چه کسی یا چه نهادی باید در قبال پیامد های تصمیم ها و عملکرد این سامانه ها پاسخگو باشد، به یکی از مسائل مهم در حوزه توسعه و حکمرانی هوش مصنوعی تبدیل شده است.

از منظر حقوقی نیز، گسترش استفاده از سامانه های خودمختار که ممکن است خارج از کنترل مستقیم انسان فعالیت کنند، ضرورت بازنگری در شیوه تعیین مسئولیت بازیگران انسانی و سایر عوامل دخیل را افزایش داده است.

با وجود اهمیت این مسئله، مرکز پژوهش های مجلس تأکید می کند که دستیابی به راهکاری روشن برای حل آن کار ساده ای نیست. مفهوم مسئولیت اخلاقی و شرایط لازم برای تحقق آن، از موضوعات مورد اختلاف میان فیلسوفان و اندیشمندان به شمار می رود. زمانی که این مفاهیم در ارتباط با مصنوعات و فناوری های هوش مصنوعی مطرح می شوند، پیچیدگی موضوع نیز افزایش پیدا می کند.

پاسخ پژوهشگران به این مسئله به تعریفی که از مسئولیت پذیری ارائه می دهند، ویژگی هایی که برای هوش مصنوعی در نظر می گیرند و امکان برخورداری این فناوری از چنین ویژگی هایی بستگی دارد. به همین دلیل، دیدگاه های متفاوتی درباره امکان یا عدم امکان انتساب مسئولیت به هوش مصنوعی وجود دارد و هنوز نمی توان از یک رویکرد واحد و مورد توافق در این زمینه سخن گفت.

رویکرد آینده نگر به مسئولیت پذیری

مرکز پژوهش های مجلس برای مواجهه با اختلاف نظر های موجود درباره عاملیت اخلاقی هوش مصنوعی، رویکرد آینده نگر به مسئولیت پذیری را مطرح می کند. تفاوت اصلی این رویکرد با نگاه گذشته نگر در این است که در رویکرد گذشته نگر، تمرکز بر شناسایی عامل مسئول پس از وقوع یک پیامد قرار دارد؛ اما رویکرد آینده نگر بر طراحی سازوکار هایی تأکید می کند که از همان ابتدا، امکان نظارت و کنترل انسانی را در فرایند توسعه و استفاده از هوش مصنوعی حفظ کنند.

در این چارچوب، به جای آنکه تمرکز اصلی بر اختلاف نظر های نظری درباره برخورداری هوش مصنوعی از عاملیت اخلاقی باشد، باید شرایط و تمهیداتی در نظر گرفته شوند که شفافیت، توضیح پذیری، امکان پیگیری تصمیم ها، کنترل انسانی و پاسخگویی را تضمین کنند.

هدف از این رویکرد آن است که حتی در سامانه های پیچیده ای که از تعامل انسان و هوش مصنوعی شکل گرفته اند، امکان شناسایی مسئولیت ها از بین نرود. به بیان دیگر، باید ترتیبی اتخاذ شود که در صورت بروز پیامد های نامطلوب، مسئولیت به عملکرد خودکار سامانه نسبت داده نشود و نقش افراد و نهاد های انسانی دخیل در فرایند نیز نادیده گرفته نشود.

بر این اساس، پیشگیری از شکاف مسئولیت پذیری مستلزم آن است که از مراحل اولیه طراحی و توسعه سامانه ها تا زمان استقرار و بهره برداری از آنها، سازوکار های لازم برای نظارت، ثبت و پیگیری تصمیم ها و تعیین مسئولیت بازیگران مختلف وجود داشته باشد. چنین رویکردی می تواند از مبهم شدن مسئولیت ها در زنجیره فعالیت سامانه های هوش مصنوعی جلوگیری کند.

قانون هوش مصنوعی اتحادیه اروپا؛ نمونه ای از حفظ مسئولیت انسانی

قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) یکی از نمونه های رویکرد حقوقی برای پیشگیری از شکاف مسئولیت پذیری به شمار می رود. ایده تدوین یک قانون جامع برای تنظیم گری هوش مصنوعی در اتحادیه اروپا، از حدود سال 2018 و هم زمان با انتشار اسناد راهبردی کمیسیون اروپا درباره هوش مصنوعی قابل اعتماد شکل گرفت.

کمیسیون اروپا در سال 2021 پیش نویس رسمی این قانون را ارائه کرد. پس از چند سال مذاکره میان کمیسیون، پارلمان و شورای اتحادیه اروپا، این قانون در سال 2024 به تصویب نهایی رسید.

یکی از ویژگی های اصلی قانون هوش مصنوعی اتحادیه اروپا، دسته بندی سامانه های هوش مصنوعی بر اساس میزان خطر آنها برای ایمنی، حقوق بنیادین و منافع عمومی است. در این چارچوب، سامانه هایی که در حوزه های پرمخاطره ای مانند سلامت، آموزش، قضاوت، استخدام و خدمات عمومی مورد استفاده قرار می گیرند، مشمول الزامات سخت گیرانه تری هستند.

از جمله این الزامات می توان به شفافیت، مستندسازی، ثبت تصمیم ها، امکان نظارت انسانی و مشخص بودن مسئولیت بازیگران انسانی اشاره کرد. این الزامات با هدف کاهش مخاطرات و حفظ امکان نظارت بر عملکرد سامانه ها در نظر گرفته شده اند.

یکی از نکات مهم در این قانون آن است که حفاظت از حقوق عمومی و کاهش مخاطرات هوش مصنوعی، لزوماً به معنای اعمال محدودیت های غیرضروری بر نوآوری فناورانه نیست. به همین دلیل، قانون با رویکردی مرحله بندی شده تلاش می کند الزامات نظارتی را متناسب با میزان خطر هر سامانه تعیین کند.

این قانون به جای تکیه بر انتساب مسئولیت به خود هوش مصنوعی، بر حفظ مسئولیت انسانی در مراحل طراحی، استقرار و بهره برداری از سامانه ها تأکید دارد. در این چارچوب، قابلیت رهگیری تصمیم ها و مشخص بودن نقش بازیگران مختلف، امکان پاسخگویی حقوقی و اخلاقی در صورت بروز آسیب را حفظ می کند.

به این ترتیب، از انتقال ضمنی مسئولیت به سامانه های خودکار جلوگیری می شود و افراد و نهاد های دخیل در توسعه و استفاده از فناوری همچنان در قبال نقش و عملکرد خود پاسخگو خواهند بود.

گزارش مرکز پژوهش های مجلس، تجربه قانون هوش مصنوعی اتحادیه اروپا را یکی از نمونه هایی می داند که می تواند در طراحی راهکار های بومی برای توسعه مسئولانه هوش مصنوعی مورد استفاده قرار گیرد. به ویژه، شیوه تعیین الزامات متناسب با سطح خطر و تأکید بر حفظ مسئولیت انسانی می تواند در تدوین سیاست ها و سازوکار های داخلی مورد توجه قرار گیرد.

ایران در ابتدای مسیر حکمرانی هوش مصنوعی

بر اساس ارزیابی گزارش مرکز پژوهش های مجلس، ایران در مقایسه با روند جهانی و وضعیت کشور های منطقه، همچنان در مراحل اولیه توسعه فناوری های هوش مصنوعی قرار دارد. اگرچه عملکرد پژوهشگران ایرانی در زمینه تولید و انتشار دانش این حوزه قابل قبول ارزیابی شده است، فعالیت های ملی، کسب وکار های کارآفرینانه، توسعه بازار و مشروعیت بخشی به این فناوری همچنان در مراحل ابتدایی قرار دارند.

در چنین شرایطی، ضعف در تأمین و حکمرانی داده و همچنین نبود زیرساخت های لازم برای مدیریت یکپارچه می تواند زمینه ساز شکل گیری شکاف مسئولیت پذیری شود. نبود سازوکار های مناسب برای مدیریت داده ها و هماهنگی میان بخش های مختلف نیز می تواند شناسایی نقش ها و تعیین مسئولیت بازیگران دخیل در توسعه و استفاده از هوش مصنوعی را دشوارتر کند.

با این حال، قرارداشتن ایران در مراحل ابتدایی توسعه این فناوری، از نگاه گزارش صرفاً یک محدودیت نیست، بلکه می تواند فرصتی برای پیشگیری از بروز مشکلات در آینده باشد. در شرایط فعلی، هنوز امکان آن وجود دارد که زیرساخت ها، قوانین و سیاست های موردنیاز به گونه ای طراحی شوند که اصول توسعه مسئولانه هوش مصنوعی از ابتدا در آنها لحاظ شود.

به عبارت دیگر، با درنظرگرفتن ملاحظات مربوط به مسئولیت پذیری در مراحل اولیه شکل گیری این حوزه، می توان از ایجاد ساختار هایی که در آینده اصلاح آنها دشوار خواهد بود، جلوگیری کرد.

از آنجا که پیشگیری از شکاف مسئولیت پذیری به مجموعه ای از اقدامات در سطوح مختلف حاکمیتی، سازمانی و کسب وکار نیاز دارد، سازمان ملی هوش مصنوعی باید به عنوان نهاد تخصصی توسعه این فناوری در کشور، نقش فعالی در طراحی و اجرای سازوکار های لازم ایفا کند.

این نقش تنها به توسعه فناوری محدود نمی شود، بلکه بررسی و تدوین راهکار هایی برای شفاف سازی مسئولیت ها، تقویت نظارت و ایجاد شرایط لازم برای پاسخگویی در فرایند توسعه و استفاده از هوش مصنوعی را نیز در بر می گیرد.

پیشنهاد های سیاستی برای پیشگیری از شکاف مسئولیت پذیری

مرکز پژوهش های مجلس در گزارش خود مجموعه ای از پیشنهاد های سیاستی و تقنینی را برای سازمان ملی هوش مصنوعی مطرح کرده است. این پیشنهاد ها با هدف شفاف سازی مسئولیت ها، تقویت نظارت اخلاقی و افزایش مشارکت در فرایند توسعه مسئولانه هوش مصنوعی ارائه شده اند.

1. تعریف شاخص های کمی برای ارزیابی عملکرد سازمان ها

نخستین پیشنهاد گزارش، تدوین شاخص های کمی برای سنجش عملکرد سازمان ها در زمینه پیشگیری از شکاف مسئولیت پذیری است. تعیین چنین شاخص هایی می تواند امکان ارزیابی اقدامات انجام شده را فراهم کند و به مقایسه عملکرد سازمان های مختلف در این زمینه کمک کند.

با استفاده از این شاخص ها می توان میزان پیشرفت اقدامات مرتبط با مسئولیت پذیری را بررسی کرد و ارزیابی دقیق تری از عملکرد سازمان ها در این حوزه به دست آورد.

2. مستندسازی تجربه ها و ترسیم نقشه ساختار های اجتماعی و فناورانه

پیشنهاد دیگر مرکز پژوهش های مجلس، مستندسازی تجربه ها و ترسیم نقشه ساختار های اجتماعی و فناورانه در سطوح درون سازمانی و فراسازمانی است.

در این زمینه، شناسایی روابط میان بازیگران مختلف و روشن کردن نقش هر یک از آنها اهمیت دارد. ترسیم این ارتباطات می تواند به مشخص شدن زنجیره مسئولیت در مراحل توسعه و استفاده از هوش مصنوعی کمک کند و احتمال گم شدن مسئولیت ها میان افراد، سازمان ها و سامانه های مختلف را کاهش دهد.

مستندسازی تجربه ها نیز می تواند زمینه شناخت بهتر ساختار های موجود و استفاده از آموخته های حاصل از آنها را در طراحی سازوکار های مناسب فراهم کند.

3. بررسی تجربه تشکیل کارگروه های ارزیابی اخلاقی

گزارش همچنین بر ضرورت بررسی تجربه تشکیل کارگروه های ارزیابی اخلاقی یا ساختار های مشابه تأکید می کند. در این راستا، مطالعه ترکیب این کارگروه ها، الگو های سازمانی آنها و جایگاهی که در ساختار های مختلف دارند، از جمله اقداماتی است که باید مورد توجه قرار گیرد.

بررسی این تجربه ها می تواند به شناسایی الگو های مناسب برای ایجاد ساختار هایی کمک کند که وظیفه ارزیابی پیامد های اخلاقی هوش مصنوعی و پیگیری پاسخگویی در قبال آنها را بر عهده داشته باشند.

این ساختار ها می توانند در سطوح درون سازمانی و فراسازمانی فعالیت کنند و با ارزیابی پیامد های اخلاقی تصمیم ها و عملکرد سامانه های هوش مصنوعی، به تقویت مسئولیت پذیری در این حوزه کمک کنند.

4. افزایش سواد علمی و آگاهی عمومی درباره هوش مصنوعی

یکی دیگر از محور های پیشنهادی گزارش، ارتقای سواد علمی و افزایش آگاهی عمومی درباره توسعه هوش مصنوعی است. بر اساس این پیشنهاد، لازم است ابزار ها و روش های مختلف آگاهی بخشی بررسی شوند تا مشخص شود کدام روش ها در افزایش مسئولیت پذیری کاربران و تقویت پاسخگویی توسعه دهندگان تأثیر بیشتری دارند.

افزایش آگاهی درباره قابلیت ها، محدودیت ها و پیامد های استفاده از هوش مصنوعی می تواند در تقویت درک عمومی از مسئولیت های مرتبط با این فناوری مؤثر باشد. از سوی دیگر، بررسی اثربخشی روش های مختلف اطلاع رسانی و آموزش می تواند به انتخاب ابزار های مناسب تر برای ارتقای آگاهی عمومی کمک کند.

5. بررسی روش های خط مشی گذاری مشارکتی در حوزه فناوری

مرکز پژوهش های مجلس همچنین بررسی روش های خط مشی گذاری مشارکتی در حوزه فناوری و ارزیابی تأثیر آنها را ضروری می داند. این بررسی باید مشخص کند که چنین روش هایی تا چه اندازه می توانند به شناسایی مخاطرات هوش مصنوعی و افزایش مشارکت عمومی در مواجهه با پیامد های این فناوری کمک کنند.

مشارکت در فرایند سیاست گذاری می تواند زمینه شناسایی بهتر مخاطرات و توجه به دیدگاه های مختلف درباره پیامد های توسعه و استفاده از هوش مصنوعی را فراهم کند. از این رو، ارزیابی روش های مشارکتی و میزان تأثیرگذاری آنها از جمله اقداماتی است که در مسیر توسعه مسئولانه این فناوری باید مورد توجه قرار گیرد.

6. طراحی سازوکار های تشویقی برای کسب وکار های فعال در حوزه هوش مصنوعی

آخرین پیشنهاد گزارش مرکز پژوهش های مجلس، تعریف سازوکار های تشویقی برای کسب وکار های مبتنی بر هوش مصنوعی است. هدف از این پیشنهاد، ترغیب کسب وکار ها به رعایت چارچوب ها و اصول توسعه مسئولانه این فناوری است.

بر اساس گزارش، می توان تعهدات مرتبط با مسئولیت پذیری را در قالب مسئولیت اجتماعی شرکت ها نیز تعریف کرد. در این صورت، رعایت اصول توسعه مسئولانه هوش مصنوعی به بخشی از عملکرد و تعهدات سازمانی کسب وکار ها تبدیل می شود و این شرکت ها در کنار فعالیت های فناورانه خود، توجه بیشتری به مسئولیت های مرتبط با توسعه و استفاده از این فناوری خواهند داشت.

در مجموع، پیشنهاد های مطرح شده در گزارش مرکز پژوهش های مجلس بر ضرورت ایجاد سازوکار هایی برای شفاف سازی مسئولیت ها، تقویت نظارت اخلاقی، افزایش آگاهی عمومی و مشارکت بیشتر بازیگران مختلف تأکید دارند. بر اساس این رویکرد، سازمان ملی هوش مصنوعی باید با بررسی و تدوین راهکار های سیاستی و تقنینی لازم، زمینه توسعه مسئولانه هوش مصنوعی را در کشور فراهم کند؛ به گونه ای که با گسترش استفاده از این فناوری، امکان نظارت انسانی، پیگیری تصمیم ها و پاسخگویی در قبال پیامد های آن نیز حفظ شود.