چت بات های جاسوس!

درحالیکه هوش مصنوعی نقش پررنگی در زندگی و کسب و کار مردم پیدا کرده است، حالا نگرانی تازه ای به وجود آمده: آیا دولت ها باید اجازه داشته باشند به مکالمات کاربران با چت بات ها دسترسی داشته باشند؟ پشت پرده مدل های مولد، نبردی خاموش اما عمیق در جریان است. نبردی میان امنیت ملی، حریم خصوصی و قدرت بی حد و مرز داده ها.

وقتی امنیت ملی، بهانه شنود می شود

از سال 2013 و افشاگری های ادوارد اسنودن درباره پروژه PRISM، آشکار شد که دولت آمریکا با همکاری پنهانی شرکت هایی نظیر گوگل، اپل، فیس بوک و مایکروسافت، به داده های کاربران دسترسی داشته است.

حالا با ظهور چت بات هایی مانند ChatGPT، Gemini، Claude و Copilot، که به صورت گسترده در تعامل با کاربران هستند، دوباره نگرانی ها درباره سوءاستفاده از این دسترسی ها افزایش یافته است.

این مدل ها اغلب داده های کاربران را برای آموزش خود ذخیره می کنند؛ البته با تنظیمات اختیاری. اما کاربر معمولی چند درصد به تنظیمات حریم خصوصی توجه می کند؟ از سوی دیگر، کشورهای دیگری مثل چین، روسیه و برخی کشورهای خاورمیانه قوانین سخت گیرانه تری برای دسترسی دولت به داده ها وضع کرده اند.

در چین، قانون امنیت سایبری به دولت این امکان را می دهد که به تمامی داده های دیجیتال دسترسی قانونی داشته باشد. به عبارتی، اگر چت باتی در چین فعال است، نمی تواند از چشم نظارتی دولت فرار کند.

شفافیت قربانی سودآوری پنهان

شرکت های توسعه دهنده مدل های زبانی بزرگ، از جمله OpenAI و Anthropic، سال هاست با انتقادات شدیدی درباره نحوه ذخیره و استفاده از داده های کاربران مواجه اند. کمیسیون اتحادیه اروپا در سال 2023 از OpenAI خواست شفاف سازی کند که چگونه از مکالمات کاربران استفاده می کند.

این شرکت ابتدا ادعا کرد هیچ داده حساسی ذخیره نمی شود، اما مشخص شد برخی مکالمات به صورت دستی توسط کارکنان بررسی و برای بهینه سازی مدل ها استفاده می شوند.

در ایران، اما ماجرا پیچیده تر و مبهم تر است. نه تنها هیچ مقررات مشخصی برای محافظت از داده های کاربران در هوش مصنوعی وجود ندارد، بلکه استفاده از مدل های خارجی مانند ChatGPT با فیلترشکن و در غیاب شفافیت کامل صورت می گیرد. در چنین فضای خاکستری، حریم خصوصی عملاً به یک شوخی تبدیل شده است.

چت بات به مثابه ابزار نظارت، ترس از آینده ماشینی بی چهره

یکی از سناریوهای خطرناک، طراحی چت بات هایی است که بر اساس دستورالعمل های دولتی، مکالمات حساس را شناسایی و گزارش دهند. در برخی کشورها مانند چین، این الگو قبلاً در شبکه های اجتماعی اجرا شده است. محتواهایی که از نظر دولت حساس یا تهدیدزا تلقی شوند، به سرعت حذف می شوند یا کاربر هدف اقدامات بعدی قرار می گیرد.

در دموکراسی های غربی نیز قانون گذاری های جدیدی در راه است که با هدف کنترل محتوای خطرناک، به شرکت ها اجازه می دهد مکالمات را بررسی و پالایش کنند.

قانون DSA اروپا یکی از این نمونه هاست که در ظاهر هدفش حفاظت از کاربران است، اما در عمل می تواند به ابزاری برای نظارت غیرمستقیم تبدیل شود. تعیین اینکه «محتوای خطرناک» چیست و چه کسی آن را تعریف می کند، هنوز شفاف نیست.

نبرد دولت و بازار بر سر ذهن کاربران

شرکت های فناوری تمایلی به توقف جمع آوری داده ها ندارند، زیرا این داده ها ستون فقرات مدل های یادگیری ماشینی آن هاست. از سوی دیگر، دولت ها نیز نمی خواهند از قدرت نظارتی که هوش مصنوعی در اختیارشان می گذارد، چشم پوشی کنند. این یعنی حتی اگر در ظاهر، بحث امنیت ملی و حفاظت از کاربران مطرح باشد، در عمل ما با نزاعی بر سر سلطه بر ذهن، گفتار و رفتار دیجیتال انسان ها روبه رو هستیم.

مکالمه ای که یک کاربر درباره مشکلات روانی، مسائل خانوادگی یا دغدغه های سیاسی اش با چت بات انجام می دهد، می تواند منبعی ارزشمند برای تحلیل های رفتاری، شناسایی گرایش های جمعی یا حتی سرکوب مخالفان در رژیم های اقتدارگرا باشد. اگر این داده ها در اختیار دولت ها قرار گیرد، مرز میان کمک رسانی و کنترل اجتماعی به شدت کمرنگ می شود.

ایران در سایه، غرب در تردید

در ایران، نه شفافیت شرکت های هوش مصنوعی وجود دارد، نه قوانینی که از کاربران محافظت کند. در غیاب یک سیستم حقوقی دیجیتال، چت بات ها می توانند تبدیل به ابزاری شوند برای کنترل، مانیتورینگ و حتی پرونده سازی برای کاربران.

در ایالات متحده و اروپا، هرچند نهادهای نظارتی فعال ترند، اما فشار دولت ها برای افزایش نظارت دیجیتال روزبه روز بیشتر می شود. مسائلی مانند تروریسم، فیک نیوز، سوءاستفاده جنسی از کودکان و جرایم سایبری، بهانه هایی هستند که می توانند زمینه ساز توجیه دخالت های گسترده در داده های کاربران شوند.

آیا می توان به هوش مصنوعی اعتماد کرد؟

در نهایت آیا چت بات ها قرار است نقش مشاور، هم صحبت، آموزگار و همراه ما را ایفا کنند یا تبدیل شوند به پلیس دیجیتال و ابزار شنود دولت ها؟ آیا اعتماد به این فناوری ها بدون تضمین قانونی، هوشمندانه است؟

مدل های زبانی بزرگ به سرعت در حال رشد هستند، اما هم زمان با قدرت گرفتن آن ها، مسئولیت پذیری شان کاهش یافته است. بدون نظارت شفاف، قوانین مشخص و فشار جامعه مدنی، بعید نیست که چت بات ها از ابزارهای مفید به اهرم هایی برای سرکوب نرم تبدیل شوند.

آینده ای دوگانه، انتخاب میان آزادی یا نظارت

اکنون جهان در نقطه ای تعیین کننده ایستاده است. یک مسیر، به سوی توسعه شفاف، هوش مصنوعی پاسخگو و محافظت شده از حریم خصوصی می رود. مسیر دیگر، راهی است تاریک که در آن، چت بات ها به ابزار نظارتی دولت ها بدل می شوند، اعتماد عمومی فرو می ریزد و آزادی بیان در سکوت الگوریتم ها دفن می شود.

تصمیم با ماست. با قانون گذاری، شفافیت و فشار رسانه ها، می توان مسیر نخست را ممکن کرد. اما اگر سکوت کنیم، الگوریتم ها ما را خواهند بلعید.

تگ ها اخبار برگزیده امنیت ملی چت بات های جاسوس سرمقاله هوش مصنوعی