پیشنهادهایی برای سازمان های رسانه ای در عصر هوش مصنوعی

به گزارش خبرنگار ایکنا؛ دومین نشست از سلسله نشست های مهارت افزایی فعالان سواد رسانه ای ایران با موضوع «سواد رسانه ای در عصر هوش مصنوعی؛ از تشخیص محتوای جعلی تا مواجهه مسئولانه با رسانه های هوشمند» و با حضور سیدمرتضی موسویان، عضو هیئت علمی دانشگاه صداوسیما و رئیس هیئت مدیره انجمن سواد رسانه ایران و حمید ضیایی پرور، دانش آموخته دکترای علوم ارتباطات و پژوهشگر هوش مصنوعی شب گذشته 29 شهریورماه به صورت برخط برگزار شد.

موسویان، عضو هیئت علمی دانشگاه صدا و سیما در این نشست به تحلیل اقتصاد توجه، پارادایم جدید رسانه ای و چالش های سواد رسانه ای پرداخت و با اشاره به اینکه اقتصاد در عصر هوش مصنوعی با اهداف تجاری، سیاسی و فرهنگی همراه است، اظهار کرد: سکوها با الگوریتم ها کاربر را به سمت اهداف از پیش مشخص شده هدایت می کنند و رسانه دیگر یک طرفه نیست و سازمان رسانه ای تمام توجه خود را بر تصاحب توجه مخاطب متمرکز کرده است.

وی افزود: معماری رسانه های جدید، معماری حکمرانی و قدرت است و این قدرت در اقتصاد توجه الگوریتمی ترجمه می شود و کاربر فقط مصرف کننده نیست، بلکه تولیدکننده داده های رفتاری است که به سلیقه سازی و هدایت مخاطب کمک می کند.

موسویان با اشاره به تحول نظام دروازه بانی گفت: در رسانه های سنتی، محتوا از زیر دست سردبیر می گذشت، اما با گذار به جامعه اطلاعاتی، فاصله ها شکسته شد. امروز دوباره الگوریتم های شخصی سازی به صورت افراطی وارد عمل شده اند و نظام دروازه بانی با شکل نوینش در حال اجراست. این الگوریتم ها به تدریج از رعایت سلیقه مخاطب به توصیه گر و سپس هدایت گر تبدیل می شوند.

وی با اشاره به اقتصاد دستکاری شده افزود: امروز حتی پس از پیش بینی سلیقه مخاطب، نسبت به تغییر رفتار او اقدام می شود. اقتصاد توجه تا جایی پیش می رود که سلیقه مخاطب را برایش می سازد و این امر با علوم شناختی به صورت پیشرفته ای در حال اجراست.

این پژوهشگر با تأکید بر تغییر جایگاه کاربر اظهار کرد: در نگاه سنتی، مخاطب منفعل و مصرف کننده بود، اما امروز کاربر به عنوان یک منبع و سند مورد بهره برداری قرار می گیرد. ما با اکوسیستمی روبرو هستیم که سکو، محتوا، تجربه کاربری، مخاطب و هدف ساز را در کنار هم قرار می دهد. همچنین الگوریتم های پیش بینی کننده با رفتار سنجی، ابتدا علایق مخاطب را جذب می کنند و در طولانی مدت به سلیقه سازی و رفتار سازی می پردازند. امروز کار اصحاب سواد رسانه ای بسیار دشوارتر شده است؛ باید افرادی تربیت کنیم که اسیر این لوپ نشوند.

موسویان سه گسل ساختاری را برشمرد و افزود: گسل سیستمی یکی از این موارد است و مخاطب فکر می کند خودمختار است، در حالی که در مسیری از پیش تعریف شده هدایت می شود. در گسل معرفتی نیز، اگر رسانه جدید حقیقت و اصالت را در ادراک مخاطب تغییر دهد، او را به شخص جدیدی تبدیل کرده است. گسل شناختی نیز شامل ایجاد انزوای اجتماعی رضایت مند از طریق حباب فیلتر و اتاق پژواک است.

وی در ادامه دو تکنیک مهم را تشریح کرد: اتاق پژواک یکی از این تکنیک هاست، به این معنی که رسانه هدف کاربر را در کنار همفکران قرار می دهد تا با افکار مخالف روبرو نشود و نیاز به تفکر انتقادی مرتفع شود. حباب فیلتر تکنیک دیگری است که، درواقع الگوریتم های توصیه گر و شخصی سازی، فرد را در حبابی سرمست و رضایت مند قرار می دهند و خطر اصلی، فقدان کنترل کاربر بر معماری اطلاعاتی شخصی خودش است که بحث های سواد رسانه ای را بی خاصیت می کند.

موسویان با اشاره به زنجیره تأمین گفت: تولید انبوه متن، تصویر جعلی و بازسازی چهره با کمترین هزینه، هدف گیری گروه های خاص با ربات ها و حساب های متعدد و استفاده از سیستم های توصیه گر و وایرال کردن، زنجیره ای به هم پیوسته است و مبارزه با محتوای جعلی منفرد، استراتژی شکست خورده ای است و باید زنجیره تولید و تقویت الگوریتمی را شناخت.

این پژوهشگر با اشاره به تغییر پارادایم گفت: سوال کلیدی امروز این است که، این تصویر از کجا آمده، چه کسی آن را ایجاد کرده و چه تغییراتی داشته است؟ روش جدید، ثبت منشا و سابقه محتوای دیجیتال است و استانداردهای جدیدی مانند C2PA مطرح شده که باید یک نظام ثبت منشا و سابقه محتوا در سطح ملی ایجاد شود.

وی با اشاره به فروپاشی خودمختاری گفت: ثبت بی وقفه داده ها باعث می شود پلتفرم ها بتوانند رفتار را پیش بینی و واکنش های آینده را دستکاری کنند. در این نگاه جدید، مرز میان توصیه محتوای جذاب و هدایت پنهان رفتار وجود ندارد و مخاطب متوجه نمی شود که هدایت پنهان صورت می گیرد.

موسویان با اشاره به مدل دروازه بانی ترکیبی گفت: این مدل شامل الگوریتم ها، روزنامه نگاران حرفه ای و جامعه کاربری توانمند است. راهکار مقابله با هوش مصنوعی حذف آن نیست، بلکه طراحی سیستمی است که ماشین انسان را تقویت کند، نه اینکه جایگزین قضاوت او شود.

موسویان هفت لایه قانون گذاری، آموزش آینده محور، حداقل سازی داده، استقلال انسان در حلقه، اصالت سنجی محتوا، الگوریتم های تنوع ساز و طراحی مسئولانه محصول را در راستای هوش مصنوعی برشمرد و افزود: هرم چهارگانه بقا در عصر الگوریتم شامل سواد محتوایی، سواد الگوریتمی، سواد هوش مصنوعی و سواد توجه است و باید سرفصل های آموزشی روی این ستون ها قرار گیرد و به ایجاد آکادمی سواد رسانه ای فکر کنیم.

این عضو هیئت علمی دانشگاه صدا و سیما برای سازمان های رسانه ای پیشنهاد کرد: واحد راستی آزمایی و صحت محتوا راه اندازی شود، سیاست نامه شفاف در ارتباط با هوش مصنوعی تدوین و دفتر الگوریتم و بازتعریف شاخص های سلامت تأسیس شود.

موسویان در پایان گفت: رسانه سالم آینده، دارای پلتفرم مسئول، الگوریتم قابل توضیح، محتوای قابل اعتماد، انسان توانمند و حکمرانی چندلایه است و باید کاربر از مصرف کننده صرف به ارزیاب فعال اطلاعات ارتقا یابد و همه در رسانه دانشگاه، دولت، جامعه مدنی و پلتفرم ها در یک نظام پاسخگو مشارکت داشته باشند و مربیان سواد رسانه ای باید از این به بعد سواد محتوایی، سواد الگوریتمی، سواد هوش مصنوعی و سواد مدیریت توجه را آموزش دهند.

از تشخیص جعل تا مسئولیت پذیری

ضیایی پرور در ابتدای نشست گفت: موضوع اخبار جعلی، موضوعی سنتی در حوزه ارتباطات است. اگر به تاریخ ارتباطات نگاه کنید، از گذشته های دور تاکنون، موضوع اخبار جعلی به هر حال وجود داشته است؛ اما آنچه این موضوع را جدید می کند، بحث عمومی شدن ابزارهای تولید خبر جعلی و جعل عمیق است که فراگیری، تأثیر و شیوه های انتشار آن را بسیار وسیع تر و عمیق تر کرده است.

این پژوهشگر هوش مصنوعی تصریح کرد: من بیست ویک سال کار خبری در روزنامه های خراسان و همشهری انجام داده ام و شاید نیمی از این دوران را نیز دبیر سرویس بوده ام. کار ثابت روزانه ما این بود که از میان انبوه خبرهایی که از منابع مختلف به دستمان می رسید، آنها را راستی آزمایی کنیم. به عبارت دیگر، یکی از وظایف سنتی خبرنگاران همین راستی آزمایی اخبار، مقالات و مصاحبه ها و استخراج فکت ها و حقایق در برابر خبرهای نادرست است.

وی با اشاره به تفاوت میان میس اینفورمیشن و دیس اینفورمیشن گفت: ما به چه چیزی خبر جعلی می گوییم، اشتباه، خبر جعلی نیست. خبر جعلی آن خبری نیست که به عمد برای گمراه کردن، فریب، کلاهبرداری یا نفوذ تولید می شود. پس اگر در کار رسانه اشتباهی رخ دهد، این خبر جعلی نیست؛ این را می توان در زمره میس اینفورمیشن ها یا اشتباهات رسانه ای تلقی کرد. فرق میان عمد و غیرعمد جایی است که محتوا به صورت نادرست و غیرعامدانه منتشر می شود، یعنی میس اینفورمیشن و جایی که عمد در آن وجود دارد، به عنوان دیس اینفورمیشن یا اطلاعات کاملاً غلط منتشر می شود.

ضیایی پرور در ادامه با اشاره به نمونه هایی از اشتباهات رسانه ای افزود: یکی از اطلاعات نادرست که به اشتباه درج شد، مربوط به حدود یک ماه پیش است؛ زمانی که قلعه الموت در اجلاس جهانی یونسکو ثبت جهانی شد. اکنون هم اگر جست وجو کنید، درباره ثبت جهانی قلعه الموت، پر از این عکس قلعه خوشاب ترکیه است. به این ها خبر جعلی نمی گویند؛ اشتباه یک جست وجوگر است که می خواسته عکسی را برای خبری انتخاب کند، جست وجویی انجام داده، سواد لازم را نداشته و عکس اشتباه را انتخاب کرده است.

وی تصریح کرد: اتفاقاً وقتی ما از سواد رسانه ای صحبت می کنیم، بخشی از سواد رسانه ای مخصوص روزنامه نگاران است؛ یعنی روزنامه نگار باید نسبت به گروه های دیگر دقت بیشتری در این حوزه داشته باشد، چون اشتباه او موجب می شود ده ها و حتی صدها رسانه دیگر نیز همان اشتباه را تکرار کنند.

این استاد ارتباطات با اشاره به جذابیت و نفوذ اخبار جعلی گفت: تحقیقات نشان داده است که خبر جعلی بسیار جذاب است و نفوذ زیادی دارد. دلایل آن متعدد است؛ بخشی ناشی از بی اعتمادی مردم به نخبگان و رسانه های رسمی است. مفاهیمی که در این ارتباط وجود دارد، هواکس است که بیشتر خبرهای شوخی هستند؛ مثلاً می گویند برج میلاد کج است، یا مثلاً می گویند کسانی که واکسن کرونا زده اند، قاشق به بدنشان می چسبد. به این ها هواکس می گویند؛ یعنی نیتی در آن نیست و بیشتر برای شوخی و مسخره کردن است.

وی افزود: یک گروه هم شبه علم نامیده می شوند؛ یعنی بخشی از آن محتوا درست و بخشی غلط است. متأسفانه بعضی از این ها به رسانه های رسمی نیز گسترش پیدا می کند. اما چه کسانی اخبار جعلی تولید می کنند، بعضی از آن ها به صورت سازمان یافته و کاملاً در سطح کلان این کار را انجام می دهند. حتی تولید خبر جعلی یکی از تکنیک های جنگ رسانه ای در دنیا محسوب می شود که ارتش ها، سیستم های اطلاعاتی نظامی و سازمان های اطلاعاتی معمولاً از این استفاده می کنند.

ضیایی پرور در بخش دیگری از سخنان خود با اشاره به نقش رسانه ها در دام افتادن در محتوای جعلی گفت: مهارت هایی که به صورت کلاسیک برای خبرنگاران در زمینه تشخیص اخبار جعلی وجود دارد، عبارت اند از؛ چه کسی نویسنده خبر است؟ آیا منابع ذکرشده معتبرند؟ متن مورد نظر چه زمانی نوشته شده است؟ آیا لینک اینترنتی درست و واقعی است؟ چه کسی از انتشار این خبر سود می برد؟ و خبر، چه کاستی هایی دارد؟ بنابراین، خبر جعلی نشانه هایی دارد و به نوعی فریاد می زند که جعلی و دارای اشکال است.

این پژوهشگر هوش مصنوعی با اشاره به نشانه های اخبار جعلی افزود: برخی از نشانه ها شامل تیترهای عجیب، جذاب، اغواکننده و باورنکردنی هستند،یعنی هر جا عبارت هایی مانند  اولین، بزرگ ترین، عجیب ترین، مهم ترین و این گونه تعبیرها را دیدید، آن محتوا مستعد خبر جعلی است. شیوه نگارش متن عمدتاً دارای غلط های نگارشی و املایی است و با سبک های مرسوم خبرنگاران حرفه ای کاملاً متفاوت است. شبکه های اجتماعی نیز مستعد اخبار جعلی هستند؛ زیرا مدل انتشار و تولید در رسانه های اجتماعی کاملاً با رسانه های سنتی متفاوت است. گاهی یک خبر جعلی در شبکه های اجتماعی به صورت یک چرخه بازگشتی طی چند سال بازمی گردد و دوباره مطرح می شود.

وی با اشاره به نقش هوش مصنوعی در راستی آزمایی گفت: یکی از راه های اصلی راستی آزمایی، جست وجو در گوگل و البته در حال حاضر، پرسیدن از هوش مصنوعی است. هوش مصنوعی یک مهارت فکت چکینگ دارد و شیوه های حرفه ای، استاندارد و بین المللی فکت چکینگ را آموزش دیده است و کاملاً می تواند خبر را راستی آزمایی کند. یعنی اگر یک خبر دریافت شده را به آن بدهید، می تواند منبع اولیه، منابع معتبری که آن را منتشر کرده اند، صحت ماجرا، عددها و آمارها و انتساب آن به منابع خبری را کاملاً بررسی کند و محتوای خبر را نیز راستی آزمایی کند.

ضیایی پرور در ادامه با اشاره به تکنیک های پیچیده جعل گفت: یک تکنیک پیچیده نیز وجود دارد که بعضی رسانه ها خودشان خبری را جعل می کنند و سپس آن را تکذیب می کنند تا معتبر جلوه کنند. این نیز تکنیک کثیفی است که بعضاً در این حوزه ها مورد استفاده قرار می گیرد. بعضی خبرهای جعلی نیز با نیت خیر تولید می شوند. مثلاً خبر جعلی ساقط کردن اف 35  که در جنگ دوازده روزه مطرح شد و بعد رئیس صدا و سیما گفت؛ این اشتباهی بود که ما مرتکب شدیم و باعث شد به اعتماد مردم ضربه وارد شود.

وی افزود: فیلمی که درباره انفجار تجریش منتشر شد، ابتدا شبهه ایجاد شد که این خبر جعلی و فیک است و با هوش مصنوعی ساخته شده است، در حالی که بعداً مشخص شد واقعی بوده است. یا مصاحبه ای که درباره سردار پاکپور پخش شد و در آن سخنرانی مشابهی به زبان عبری انجام می داد؛ این محتوا جعلی بود و کاملاً هوشمندانه ساخته شده بود.

این استاد ارتباطات در بخش پایانی سخنان خود با اشاره به دیپ فیک و ویس فیک تصریح کرد: وقتی صحبت از دیپ فیک و جعل عمیق می شود، در واقع صحبت از این است که با تکنیک ها یا ابزارهای مبتنی بر هوش مصنوعی، علاوه بر متن، صدا، تصویر و ویدیو را نیز جعل می کنید. دیپ فیک در تاریخ فیلم و سینما در دنیا همراه آن بوده است. مگر وقتی ما یک نمایش را اجرا می کنیم، یا وقتی در ایام ماه محرم شبیه خوانی حادثه کربلا را اجرا می کنیم، بازسازی آن رویداد نیست؟ در واقع صنعت سینما، صنعت رسانه و رادیوتلویزیون در بخش زیادی از تکنیک جعل عمیق برای آموزش، انتقال دیدگاه و ایدئولوژی، آگاهی رسانی، ترغیب و موضوعات انگیزشی استفاده می کند.

وی افزود: بنابراین دیپ فیک به خودی خود تکنیکی منفی نیست که بخواهیم با آن مقابله کنیم. آنجا که جنبه منفی، سوءاستفاده، جنبه عامدانه بودن و کلاهبرداری در آن وجود دارد، منفی است. عنصر نیت در این ماجرا نیز بسیار مهم است. شبیه سازی یا تکثیر یک تصویر به تنهایی نمی تواند عامل مثبت یا منفی باشد؛ اینکه چگونه استفاده می شود، مهم است.

ضیایی پرور در ادامه با اشاره به راهکارهای پلتفرم ها برای مقابله با اخبار جعلی گفت: پلتفرم های مختلف امروز راهکارهایی برای مقابله با اخبار جعلی اتخاذ کرده اند. هر یک از پلتفرم ها، از جمله اینستاگرام، توییتر، فیسبوک یا یوتیوب، پروتکل های خاصی برای مقابله با اخبار جعلی دارند. پلتفرم های بزرگ اجتماعی در دنیا با سه تکنیک محتوای نادرست یا جعلی را کنترل و شناسایی می کنند؛ تکنیک اول، استفاده از هوش مصنوعی؛ تکنیک دوم، استفاده از کنترل کنندگان انسانی و تکنیک سوم، ریپورت کاربران است.

وی تصریح کرد: تکنیک فکت چکینگ نیز امروز در دنیا بسیار رایج شده و سامانه هایی برای آن وجود دارد. حتی در ایران نیز مصوبه ای داریم و شورای عالی فضای مجازی مصوبه ای برای مقابله با اخبار جعلی، شناسایی آنها و راستی آزمایی دارد و حتی وزارت ارشاد را مکلف کرده است از سامانه های فکت چکینگ حمایت مالی کند. اکنون دو سامانه نیز ایجاد شده است: یکی سامانه فکت نامه و دیگری فکت یار. فکت نامه از عجایب روزگار فیلتر شده است؛ فکت نامه از سایت های فکت چکینگ فارسی است که هزاران خبر و محتوای فکت را راستی آزمایی کرده و در اختیار مخاطب قرار داده است.

این پژوهشگر هوش مصنوعی در پایان با اشاره به نشانه های تشخیص تصاویر ساخته شده با هوش مصنوعی افزود: از نظر تشخیص جعل، شش نشانه کلیدی برای تصاویر هوش مصنوعی وجود دارد که به شما کمک می کند بفهمید یک محتوا اصلاً با هوش مصنوعی ساخته شده است. در مورد عکس ها نیز هنوز باگ هایی وجود دارد؛ یکی از آنها آناتومی غیرممکن دست ها و مفاصل است. پس زمینه مبهم و ذوب شده، نوشته های عجیب و ناخوانا، پوست بیش از حد صاف در مورد انسان ها و اشکالات فیزیکی در نور و سایه ها از جمله این نشانه هاست. در مورد ویدیوها نیز عدم هماهنگی لب و صدا، پلک زدن و حرکات چشم غیرطبیعی از نشانه های دیگر است.

انتهای پیام