افشای جاسوسی هوش مصنوعی آنتروپیک از فعالیت کاربران

قابلیت پنهان کلاد کد برای شناسایی برخی کاربران چینی

به گزارش وبگاه خبری Futurism، یک پژوهشگر امنیتی با نام مستعار «Thereallo» مدعی شده است در بررسی نسخه‌ای از کلاد کد، متعلق به شرکت آنتروپیک، کدی پنهان را شناسایی کرده که می‌توانسته اطلاعاتی مانند منطقه زمانی سیستم و استفاده از سرورهای واسط را برای تشخیص برخی کاربران مرتبط با شرکت‌های هوش مصنوعی چین جمع‌آوری کند. به گفته وی، این قابلیت در اعلان سیستمی مدل پنهان شده و برای کاربران قابل مشاهده نبوده است.

پس از انتشار این گزارش، طارق شیهیپار، یکی از مهندسان آنتروپیک، توضیح داد که این قابلیت در ماه مارس به صورت یک آزمایش داخلی با هدف جلوگیری از سوءاستفاده فروشندگان غیرمجاز و مقابله با فرایند تقطیر مدل (Model Distillation) اضافه شده و قرار بود بعداً حذف شود. تقطیر مدل روشی است که در آن یک مدل کوچک‌تر با استفاده از خروجی‌های یک مدل قدرتمندتر آموزش می‌بیند و شرکت‌های بزرگ هوش مصنوعی آن را یکی از مسیرهای انتقال غیرمجاز قابلیت‌های مدل‌های پیشرفته می‌دانند.

این ادعا در شرایطی مطرح می‌شود که آنتروپیک طی ماه‌های گذشته بارها شرکت‌های چینی از جمله دیپ سیک، مون‌شات و مینی مکس را به استفاده غیرمجاز از خروجی مدل‌های خود برای آموزش سامانه‌های هوش مصنوعی متهم کرده بود. همزمان گزارش‌هایی نیز از فروش اشتراک‌های کلاد پرو توسط واسطه‌های چینی با قیمت‌هایی بسیار پایین‌تر از نرخ رسمی منتشر شده است.

با وجود آن که داده‌های جمع‌آوری‌شده در این آزمایش محدود بوده است، افشای این قابلیت بحث تازه‌ای درباره مرز میان حفاظت از مدل‌های هوش مصنوعی و حریم خصوصی کاربران ایجاد کرده است. منتقدان معتقدند ابزارهایی مانند کلاد کد که به فایل‌ها، محیط توسعه و اجرای دستورات محلی دسترسی دارند، باید بالاترین سطح شفافیت را رعایت کنند و هرگونه قابلیت پنهان می‌تواند اعتماد کاربران به ادعاهای شرکت درباره حریم خصوصی و توسعه مسئولانه هوش مصنوعی را تضعیف نماید.

منبع:
سایت زاویه