قوانین جدید اپ استور با هدف مقابله با تصاویر جنسی جعلی که بدون رضایت افراد و با استفاده از هوش مصنوعی ساخته می‌شوند، سخت‌گیرانه‌تر شده‌اند. اپل از این پس توسعه‌دهندگان را ملزم می‌کند چنین محتوایی را به‌صورت فعال شناسایی و حذف کنند. در صورت بی‌توجهی به این مقررات، برنامه‌های متخلف ممکن است از اپ استور حذف شوند.
نوشته قوانین جدید اپ استور به جنگ تصاویر برهنه جعلی و سوءاستفاده از هوش مصنوعی می‌روند اولین بار در ترنجی پدیدار شد.
قوانین جدید اپ استور با هدف مقابله با تصاویر جنسی جعلی که بدون رضایت افراد و با استفاده از هوش مصنوعی ساخته می‌شوند، سخت‌گیرانه‌تر شده‌اند. اپل از این پس توسعه‌دهندگان را ملزم می‌کند چنین محتوایی را به‌صورت فعال شناسایی و حذف کنند. در صورت بی‌توجهی به این مقررات، برنامه‌های متخلف ممکن است از اپ استور حذف شوند.
خلاصه خبر در یک نگاه
اپل قوانین اپ استور را برای مقابله با دیپ‌فیک‌های جنسی ساخته‌شده با هوش مصنوعی به‌روزرسانی کرده است.
توسعه‌دهندگان باید محتوای جنسی جعلی منتشرشده بدون رضایت افراد را شناسایی و حذف کنند.
برنامه‌های متخلف ممکن است از اپ استور حذف شوند و توسعه‌دهندگان آن‌ها نیز با محدودیت مواجه شوند.
قابلیت‌های پنهان و ابزارهای برهنه‌سازی افراد واقعی پس از تأیید برنامه ممنوع هستند.
ممنوعیت برنامه‌های تسهیل‌کننده قاچاق انسان و سوءاستفاده از کودکان به روش‌های جایگزین توزیع اپلیکیشن نیز گسترش یافته است.
قوانین جدید اپ استور برای مقابله با دیپ‌فیک‌های جنسی
اپل پیش‌تر انتشار محتوای صریح جنسی را در اپ استور ممنوع کرده بود؛ اما اکنون در به‌روزرسانی قانون ۱.۲، مسئولیت توسعه‌دهندگان را برای جلوگیری از انتشار تصاویر جعلی تولیدشده با هوش مصنوعی نیز صریح‌تر کرده است.
بر اساس مقررات جدید، سازندگان اپلیکیشن‌ها باید به‌صورت فعال از تولید و انتشار تصاویر صمیمی یا جنسی جعلی از افراد بدون رضایت آن‌ها جلوگیری کنند و محتوای متخلف را از پلتفرم خود حذف کنند. اپل هشدار داده است که در صورت کوتاهی توسعه‌دهندگان، برنامه‌های حاوی چنین محتوایی ممکن است از اپ استور کنار گذاشته شوند.
در متن به‌روزشده قانون ۱.۲، به برنامه‌های تولید محتوای مبتنی بر هوش مصنوعی نیز اشاره شده است. این تغییر می‌تواند برنامه‌هایی مانند چت‌بات گراک (Grok) را هم تحت تأثیر قرار دهد.
ماجرای گراک و تصاویر جعلی بدون رضایت افراد
پیش‌تر، کاربران از سوءاستفاده از چت‌بات Grok متعلق به شرکت xAI برای ساخت تصاویر برهنه و دیپ‌فیک‌های جنسی شکایت کرده بودند. اپل نیز در اوایل سال جاری میلادی به xAI هشدار داده بود که اگر گروک همچنان اجازه تولید چنین تصاویری را بدهد، ممکن است از اپ استور حذف شود.
پس از آنکه xAI تدابیر حفاظتی جدیدی را برای محدود کردن این قابلیت‌ها اجرا کرد، اپل نسخه به‌روزشده برنامه را تأیید کرد. تغییرات تازه قوانین اپ استور نشان می‌دهد که اپل اکنون الزامات مربوط به این نوع محتوا را به‌صورت روشن‌تری در دستورالعمل‌های خود بیان کرده است.
ممنوعیت قابلیت‌های پنهان و برنامه‌های برهنه‌سازی
اپل علاوه بر قانون ۱.۲، دستورالعمل جدیدی با شماره ۲.۵.۱۹ اضافه کرده است. بر اساس این قانون، توسعه‌دهندگانی که پس از فرایند بررسی، قابلیت‌ها یا امکاناتی را به برنامه اضافه کنند که در نسخه ارسال‌شده برای بررسی وجود نداشته‌اند، ممکن است با حذف برنامه از اپ استور و حتی حذف از برنامه توسعه‌دهندگان اپل مواجه شوند.
این مقررات به‌طور ویژه به برنامه‌های موسوم به «برهنه‌سازی» اشاره دارد؛ ابزارهایی که تصاویر افراد واقعی را بدون رضایت آن‌ها به تصاویر برهنه یا جنسی تبدیل می‌کنند.
بر اساس توضیحات اپل، برخی برنامه‌ها ممکن است هنگام بررسی، هدف واقعی خود را پنهان کنند و پس از دریافت تأییدیه، قابلیت‌های آسیب‌زا را فعال سازند. این روش که به «طعمه و تغییر» (Bait-and-Switch) معروف است، با مقررات اپ استور مغایرت دارد.
به‌طور کلی، برنامه‌هایی که قابلیت‌های پنهان یا مستندنشده دارند، از جمله اپلیکیشن‌هایی که هدف واقعی خود را در زمان بررسی پنهان می‌کنند و پس از تأیید قابلیت‌های زیان‌بار اضافه می‌کنند، در اپ استور مجاز نیستند.
گسترش ممنوعیت قاچاق انسان و سوءاستفاده از کودکان
تغییرات اپل تنها به محتوای تولیدشده با هوش مصنوعی محدود نمی‌شود. این شرکت بخش پنجم دستورالعمل‌های خود را نیز به‌روزرسانی کرده تا ممنوعیت برنامه‌های تسهیل‌کننده قاچاق انسان یا سوءاستفاده از کودکان، روش‌های جایگزین توزیع اپلیکیشن را هم در بر بگیرد.
اپل در اطلاعیه مربوط به تغییرات قوانین توسعه‌دهندگان اعلام کرده است که در صورت نقض این دستورالعمل‌ها، در حذف برنامه‌ها و خاتمه همکاری با توسعه‌دهندگان متخلف تردید نخواهد کرد.
نظر شما چیست؟
قوانین جدید اپ استور مسئولیت توسعه‌دهندگان را در مقابله با دیپ‌فیک‌های جنسی، تصاویر برهنه جعلی و قابلیت‌های پنهان برنامه‌ها افزایش می‌دهند. اپل همچنین با گسترش ممنوعیت‌های مربوط به قاچاق انسان و سوءاستفاده از کودکان، دامنه اجرای برخی مقررات را به روش‌های جایگزین توزیع اپلیکیشن توسعه داده است.
همچنین بخوانید: اپل برای معرفی مک‌بوک‌های جدید خود دعوت‌نامه به رسانه‌ها ارسال کرده است؛ تاریخ رویداد ۶ آبان
به نظر شما، آیا سخت‌گیری اپل می‌تواند از سوءاستفاده از هوش مصنوعی برای ساخت تصاویر جعلی و آسیب‌زننده جلوگیری کند؟ دیدگاه خود را با ما به اشتراک بگذارید.
نوشته قوانین جدید اپ استور به جنگ تصاویر برهنه جعلی و سوءاستفاده از هوش مصنوعی می‌روند اولین بار در ترنجی پدیدار شد.