فناوری جدید آنتروپیک؛ اثبات پاسخ هوش مصنوعی بدون افشای مدل

به گزارش خبرگزاری مهر به نقل از اینترستینگ انجینرینگ، آنتروپیک از «فلش پرو» (Flashproof)، یک سامانه متن باز رمزنگاری، رونمایی کرده است که با هدف تأیید صحت پاسخ های تولیدشده توسط مدل های هوش مصنوعی طراحی شده است. این فناوری مشخص می کند آیا یک مدل واقعاً پاسخ موردنظر را تولید کرده است، بی آنکه وزن های اختصاصی آن افشا شوند.

این فناوری به کاربران، ارزیابان مستقل و نهادهای نظارتی امکان می دهد بررسی کنند آیا ارائه دهندگان خدمات، واقعاً از همان مدل هایی استفاده می کنند که ادعای آن را دارند یا خیر. فلش پرو با بهره گیری از رمزنگاری دانش صفر، اثبات های ریاضی تولید می کند که نشان می دهند یک مدل مشخص، در پاسخ به یک درخواست معین، توکن های خروجی موردنظر را تولید کرده است.

این فناوری به رفع یکی از چالش های فزاینده در حوزه هوش مصنوعی، یعنی اعتماد به ارائه دهندگان خدمات، کمک می کند؛ به ویژه در شرایطی که شرکت ها برای دسترسی به سامانه های پیشرفته هوش مصنوعی، بیش از گذشته به ارائه دهندگان شخص ثالث مدل و خدمات وابسته شده اند.

فلش پرو از روشی رمزنگاری به نام «استدلال دانش غیرتعاملی فشرده مبتنی بر دانش صفر» (zkSNARK) استفاده می کند. این روش به ارائه دهندگان امکان می دهد صحت فرایند محاسباتی را اثبات کنند، بدون آنکه اطلاعات حساس درباره مدل های زیربنایی خود را افشا کنند.

این سامانه در دو مرحله کار می کند. ابتدا، ارائه دهنده یک تعهد رمزنگاری شده به وزن های مدل منتشر می کند. این تعهد در واقع نوعی اثر انگشت دیجیتال از مدل است که امکان شناسایی آن را فراهم می کند، درحالی که وزن های مدل همچنان محرمانه باقی می مانند.

سپس، هنگامی که کاربر درخواستی ثبت می کند، ارائه دهنده اثباتی رمزنگاری شده تولید می کند که نشان می دهد مدل موردنظر، توکن های خروجی ارائه شده را در پاسخ به آن درخواست تولید کرده است. هر فردی که به تعهد رمزنگاری شده، متن ورودی و پاسخ دسترسی داشته باشد، می تواند بدون دسترسی به وزن های مدل، صحت این اثبات را بررسی کند.

آنتروپیک این فناوری را با استفاده از مدل «لاما 4 ماوریک» (Llama 4 Maverick) به نمایش گذاشت؛ مدلی با 400 میلیارد پارامتر که از معماری ترکیبی متخصصان (Mixture of Experts) بهره می برد.

فلش پرو هنگام اجرا روی پردازنده گرافیکی انویدیا H100، با سرعت تقریبی 110 توکن در ثانیه، اثبات های رمزنگاری شده را تولید کرد. حجم هر اثبات برای درخواستی شامل 1024 توکن نیز حدود 19 مگابایت بود.

فرایند بررسی و تأیید هر اثبات با استفاده از یک پردازنده مرکزی 24 هسته ای حدود 17 ثانیه طول کشید و به پردازنده گرافیکی نیازی نداشت.