حذف شخصیت های ماده از داستان های هوش مصنوعی

به گزارش خبرگزاری صدا و سیما ، به نقل از وبگاه تِک اِکسپلور، پژوهشگران دانشگاه واشینگتن با آزمایش شش مدل پیشرفته هوش مصنوعی، دریافتند که این سامانه ها در تولید داستان های حیوانات، شخصیت های ماده را تقریباً به کلی حذف می کنند.

این یافته ها که در همایش انصاف، پاسخگویی و شفافیت (ACM Conference on Fairness, Accountability, and Transparency) که توسط انجمن ماشین های حسابگر (ACM) برگزار می شود، در مونترال کانادا ارائه شده، نشان می دهد که تلاش برای بی طرفی در هوش مصنوعی، به حذف کامل هویت های غیر مذکر انجامیده است.

پژوهش قبلی ملانی والش (Melanie Walsh)، استادیار دانشگاه واشینگتن، نشان داده بود که در داستان های محبوب کودکان، شخصیت های حیوانی اغلب مذکر هستند.

برای مثال، قورباغه ها و گرگ ها در بیش از 90 درصد موارد، نر بودند. در ادامه، گروه پژوهشی به این پرسش رسید که مدل های هوش مصنوعی چگونه داستان های مشابه را تکمیل می کنند.

خنثی سازی؛ حذف شخصیت های ماده

پژوهشگران به شش مدل بزرگ زبانی (سامانه های هوش مصنوعی که تولید متن می کنند) از جمله کلود (Claude)، جمینای (Gemini) و جی پی تی- 4 او (GPT-4o) یک دستور مشابه دادند.

مدل ها باید جای خالی را با نام یک حیوان و یک مکان پر می کردند و داستان را ادامه می دادند. این آزمایش برای هفت حیوان مختلف (خرس، پرنده، گربه، سگ، موش، خوک و خرگوش) و چهار مکان گوناگون (مزرعه، آشپزخانه، رودخانه و فروشگاه) بار ها و بار ها تکرار شد.

در مجموع، هزاران داستان کوتاه توسط هوش مصنوعی تولید شد. پژوهشگران همچنین میزان خلاقیت یا تصادفی بودن پاسخ ها را نیز در مدل های مختلف تنظیم کردند تا تأثیر آن را بر نتیجه بررسی کنند.

به گفته ملانی والش، نویسنده ارشد این مطالعه، فرضیه ما این است که این سازمان های هوش مصنوعی از خنثی سازی برای پرهیز از سوگیری جنسیتی در زمینه های مبهم استفاده می کنند؛ اما در این فرآیند، شخصیت های حیوانی ماده را تقریباً به کلی حذف کرده اند؛ بنابراین نه تنها سوگیری های انسانی را تقویت می کنند، بلکه آنها را به شکل های عجیب و پیش بینی نشده ای تغییر می دهند.

در میان مدل های آزمایش شده، جمینای و جی پی تی-5.1 (GPT-5.1) بیشترین سوگیری را به سمت شخصیت های مذکر نشان دادند؛ به طوری که به ترتیب 63 و 65 درصد از پاسخ های آنها شخصیت های نر را توصیف می کردند.

مدل کلود بیشترین شخصیت های ماده (4 درصد) را تولید کرد، در حالی که مدل اولمو (Olmo) کمترین شخصیت های مذکر (12 درصد) و بیشترین شخصیت های خنثی (85 درصد) را داشت.

نکته جالب این بود که در میان پاسخ های انسانی در مطالعه قبلی، حدود 3 درصد از شرکت کنندگان از ضمیر they/them به معنای آنها استفاده کرده بودند، اما در پاسخ های هوش مصنوعی، این ضمیر تنها دو بار برای اشاره به یک شخصیت منفرد به کار رفته بود.

ایمانی فینکلی (Imani Finkley)، دانشجوی دکتری دانشگاه واشینگتن و نویسنده اول این مطالعه می گوید: خنثی سازی مدل های هوش مصنوعی نه تنها شخصیت های ماده را حذف کرد، بلکه در عمل، شخصیت ها را یا مذکر یا کاملاً بی جنسیت نشان داد.

پژوهشگران قصد دارند در گام های بعدی، الگو های پنهان دیگری را در داستان های تولید شده توسط هوش مصنوعی بررسی کنند. فینکلی می گوید: ما از این تحقیق تقریباً مانند یک آزمون تشخیصی برای شناسایی سوگیری جنسیتی در مدل های هوش مصنوعی استفاده کردیم. نکته جالب اینجاست که وقتی مردم درباره حیوانات سخنگو داستان می سازند، اغلب سوگیری های اجتماعی خود را فراموش می کنند. اما هوش مصنوعی نه تنها این الگو را تکرار می کند، بلکه آن را به شکل های جدید و گاه عجیبی دگرگون می سازد.