شرکت چینی مون‌شات ای‌آی (Moonshot AI) روز شنبه اعلام کرد که توانایی‌های مدل هوش مصنوعی جدید خود را در زمینه انجام حملات سایبری کاهش داده است. این تصمیم در شرایطی گرفته شده که نگرانی‌ها درباره پیشرفت هوش مصنوعی و امکان استفاده از آن برای انجام حملات سایبری پیچیده‌تر افزایش یافته است. کارشناسان نگران هستند که مدل‌های هوش مصنوعی با توانایی انجام خودکار وظایف مختلف بتوانند فرایند هک کردن سیستم‌ها را سریع‌تر، آسان‌تر و کم‌هزینه‌تر کنند.
شرکت مون‌شات که دفتر مرکزی آن در پکن قرار دارد، همزمان با معرفی مدل جدید خود به نام «Kimi K3.1 Pro» از این تصمیم خبر داد. این شرکت مدل جدید را یکی از پیشرفته‌ترین مدل‌های هوش مصنوعی در گروه مدل‌های دارای سه تریلیون پارامتر معرفی کرده است. پارامترها بخش‌هایی از مدل هستند که در فرایند آموزش تنظیم می‌شوند و بر نحوه پردازش اطلاعات و تولید پاسخ‌ها تأثیر می‌گذارند. مون‌شات قصد دارد فایل‌های اصلی این مدل را تا چهارم نوامبر منتشر کند. این فایل‌ها که به آن‌ها «وزن‌های مدل» گفته می‌شود، به توسعه‌دهندگان اجازه می‌دهند هوش مصنوعی را روی سیستم‌های خود اجرا کرده و در صورت نیاز، آن را تغییر دهند.
مون‌شات اعلام کرد که هنگام آموزش مدل جدید، داده‌های مرتبط با حملات سایبری را از مجموعه داده‌های آموزشی و محیط‌های یادگیری تقویتی حذف کرده است. یادگیری تقویتی روشی است که در آن مدل با انجام کارها و دریافت بازخورد، عملکرد خود را بهبود می‌دهد. با این حال، این شرکت مهارت‌های عمومی مدل در زمینه برنامه‌نویسی را حفظ کرده است. مون‌شات در توضیح این تصمیم گفت که هدف آن، انتشار مدل‌هایی با دسترسی آزاد نیست که توانایی انجام حملات سایبری را به بالاترین سطح ممکن برسانند.
در ماه‌های اخیر، دولت‌ها، شرکت‌های فناوری و پژوهشگران امنیت سایبری نگرانی بیشتری درباره استفاده از هوش مصنوعی برای هک کردن سیستم‌ها ابراز کرده‌اند. مدل‌هایی که می‌توانند کدهای رایانه‌ای بنویسند، ابزارهای نرم‌افزاری را به کار بگیرند و وظایف طولانی و چندمرحله‌ای را به صورت خودکار انجام دهند، ممکن است به کاربران کمک کنند تا ضعف‌های امنیتی نرم‌افزارها را پیدا کنند. چنین مدل‌هایی همچنین می‌توانند بخش‌هایی از حملات سایبری را به طور خودکار انجام دهند و در نتیجه، اجرای حملات پیشرفته را برای افراد بیشتری امکان‌پذیر کنند.
در همین زمینه، چین هفته گذشته پیشنهادهایی برای محدود کردن صادرات برخی فناوری‌های مرتبط با هوش مصنوعی ارائه کرد. بر اساس این پیشنهادها، صادرات فناوری‌هایی که برای تولید و تغییر بدافزارها با کمک هوش مصنوعی استفاده می‌شوند، ممنوع خواهد شد. همچنین، استفاده از ابزارهای مبتنی بر هوش مصنوعی برای شناسایی آسیب‌پذیری‌های نرم‌افزاری با محدودیت‌هایی روبه‌رو می‌شود. این پیشنهادها هنوز نهایی نشده‌اند و مردم می‌توانند درباره آن‌ها نظر بدهند. در متن این مقررات هشدار داده شده است که چنین فناوری‌هایی ممکن است برای حمله به زیرساخت‌های حیاتی، صنایع دفاعی، سامانه‌های اصلی دولت یا عبور از لایه‌های امنیتی مورد استفاده قرار گیرند.
با وجود این نگرانی‌ها، مون‌شات معتقد است که انتشار مدل‌های دارای وزن‌های آزاد می‌تواند به افزایش امنیت سایبری نیز کمک کند. به گفته این شرکت، دسترسی گسترده‌تر به مدل‌های هوش مصنوعی به سازمان‌های بیشتری امکان می‌دهد نرم‌افزارهای خود را بررسی کنند و ضعف‌های امنیتی آن‌ها را برطرف سازند. این موضوع به ویژه درباره سامانه‌های قدیمی اهمیت دارد؛ زیرا چنین سامانه‌هایی معمولاً کمتر بررسی می‌شوند و ممکن است به اندازه کافی از پشتیبانی امنیتی برخوردار نباشند.
با این حال، مدل‌های دارای وزن‌های آزاد با مدل‌های بسته تفاوت مهمی دارند. در مدل‌های بسته، شرکت سازنده کنترل بیشتری بر نحوه دسترسی و استفاده از هوش مصنوعی دارد. اما وقتی فایل‌های یک مدل آزاد به طور گسترده منتشر شوند، کنترل استفاده از آن دشوارتر می‌شود. در چنین شرایطی، سازنده نمی‌تواند به راحتی دسترسی کاربران را محدود کند، نحوه استفاده از مدل را زیر نظر بگیرد یا پس از انتشار، تدابیر امنیتی آن را به‌روزرسانی کند.
مون‌شات برای نشان دادن تأثیر اقدامات امنیتی خود اعلام کرد که مدل Kimi K3.1 Pro در آزمون داخلی امنیت سایبری امتیاز 81 درصد را کسب کرده است. این امتیاز برای نسخه مشابهی از مدل که محدودیت‌های کاهش خطر را نداشت، 90.5 درصد بود. در این آزمون، مدل‌ها باید آسیب‌پذیری‌های نرم‌افزاری را در یک محیط کنترل شده پیدا می‌کردند و از آن‌ها برای نفوذ استفاده می‌کردند. به گفته شرکت، این نتایج نشان می‌دهد که حذف داده‌های مرتبط با حملات سایبری، توانایی تهاجمی مدل را کاهش داده است؛ هرچند مدل جدید همچنان عملکرد بهتری نسبت به نسخه قبلی خود دارد. البته، نتایج این آزمون هنوز به طور مستقل تأیید نشده‌اند.
مدل K3.1 Pro همچنین دارای پنجره متنی یک میلیون توکنی است. این قابلیت به مدل اجازه می‌دهد حجم بسیار زیادی از متن و اطلاعات را در یک نوبت پردازش کند. مون‌شات در کنار نسخه اصلی، نسخه سریع‌تری به نام K3.1 Pro Highspeed نیز معرفی کرده است. به گفته شرکت، این نسخه با سرعتی دو تا سه برابر بیشتر از مدل استاندارد کار می‌کند.