قواعد جدید اپ‌استور؛ تکلیف حذف تصاویر خصوصی ساخته AI
اپل در ۱۶ اکتبر ۲۰۲۶ بند ۱.۲ راهنمای بازبینی اپ‌استور را اصلاح کرد؛ اپ‌ها باید تصاویر خصوصی بدون رضایت، از جمله ساخته AI، را پیشگیرانه مهار و حذف کنند.
تحریریه آرتیلا · ۱۴۰۵/۰۷/۲۶
این مقاله در حال بازبینی حقوقی است.
تعریف: تصاویر خصوصی بدون رضایت (NCII) تصاویر یا ویدئوهای برهنه یا جنسی از یک شخص واقعی است که بدون رضایت او منتشر یا تولید میشود؛ از جمله تصاویری که با ابزارهای هوش مصنوعی «برهنه‌ساز» (nudification) ساخته میشوند. در ۱۶ اکتبر ۲۰۲۶، اپل با اصلاح راهنمای بازبینی اپ‌استور (App Review Guidelines) اعلام کرد الزامات نظارت بر محتوا در بند ۱.۲ اکنون به‌صراحت تصاویر خصوصی بدون رضایت، از جمله تصاویر تولیدشده با هوش مصنوعی، را در بر می‌گیرد و اپ‌ها باید آن را به‌صورت پیشگیرانه مهار و حذف کنند.
بیان قابل نقل: اپل اکنون از اپ‌ها نمی‌خواهد فقط به گزارش کاربر واکنش نشان دهند؛ می‌خواهد پیش از گزارش جلوی تصویر جعلی را بگیرند.
این مقاله بر اطلاعیه رسمی Apple Developer (۱۶ اکتبر ۲۰۲۶) و گزارش The Verge (۱۶ اکتبر ۲۰۲۶) تکیه دارد. راهنمای بازبینی اپ‌استور یک سیاست قراردادی خصوصی است، نه قانون.
سه تغییر اصلی
بند ۱.۲: نظارت بر محتوا
طبق اطلاعیه اپل، الزامات نظارت بر محتوا اکنون به‌صراحت تصاویر خصوصی بدون رضایت، از جمله تصاویر تولیدشده با ابزارهای هوش مصنوعی، را محتوایی می‌داند که اپ‌ها «باید به‌صورت پیشگیرانه از آن جلوگیری کرده و آن را از پلتفرم خود حذف کنند». توسعه‌دهندگانی که تدابیر حفاظتی کافی پیاده نکنند یا پس از اخطار تخلف را رفع نکنند، در معرض نقض آیین رفتار توسعه‌دهنده (Developer Code of Conduct) و حذف از اپ‌استور قرار می‌گیرند.
بند ۲.۵.۱۹: ترفند «طعمه و تعویض»
اپل می‌گوید این بند ممنوعیت دیرینه معرفی نادرست کارکرد اپ در فرایند بازبینی و تغییر آن پس از تأیید را روشن می‌کند؛ مثلاً افزودن ویژگی‌هایی که در نسخه ارسالی برای بازبینی نبوده است. طبق اطلاعیه، این تاکتیک که به «bait-and-switch» معروف است، گاهی برای پنهان کردن قابلیت برهنه‌سازی تا پس از تأیید به کار می‌رود. اپ‌های متخلف از اپ‌استور و از برنامه توسعه‌دهندگان اپل حذف میشوند.
بخش ۵: قاچاق انسان و بهره‌کشی از کودکان
اپل بخش ۵ را به‌روز کرد تا روشن کند اپ‌هایی که قاچاق انسان یا بهره‌کشی از کودکان (از جمله محتوای سوءاستفاده جنسی از کودکان) را تسهیل می‌کنند، از اپ‌استور حذف و از توزیع جایگزین نیز مسدود میشوند.
| بند | تغییر | پیامد |
|---|---|---|
| ۱.۲ | پوشش صریح NCII، از جمله تصاویر ساخته AI، با تکلیف پیشگیری و حذف | نقض آیین رفتار و حذف از اپ‌استور |
| ۲.۵.۱۹ | روشن‌سازی منع تغییر کارکرد پس از تأیید | حذف اپ و حذف از برنامه توسعه‌دهندگان |
| بخش ۵ | تصریح برخورد با اپ‌های تسهیل‌کننده قاچاق و بهره‌کشی از کودکان | حذف و مسدودسازی از توزیع جایگزین |
بیان قابل نقل: ترفند «طعمه و تعویض» دیگر فقط تخلف فنی نیست؛ اپل آن را راه فرار اپ‌های برهنه‌ساز می‌داند و با حذف حساب پاسخ می‌دهد.
قواعدی که از قبل وجود داشت
اپل یادآوری می‌کند که محتوای مستهجن از دیرباز در اپ‌استور ممنوع بوده است، از جمله اپ‌هایی که تصاویر برهنه یا جنسی صریح تولید می‌کنند، مانند اپ‌های برهنه‌سازی که بدون رضایت از افراد واقعی تصویر جنسی می‌سازند. اپ‌های دارای محتوای کاربرساخته نیز باید محتوای نامناسب را فیلتر کنند، امکان گزارش محتوای توهین‌آمیز بدهند و اجازه مسدود کردن حساب‌های مزاحم را فراهم کنند. اپل همچنین گفت سال گذشته از رسیدن بیش از ۱۵۰ هزار اپ دارای مشکل ایمنی به کاربران جلوگیری کرده و بیش از ۱۹۳ هزار حساب توسعه‌دهنده را به دلیل تقلب و سوءاستفاده لغو کرده است.
زمینه: فشار پس از ماجرای Grok
به گزارش The Verge، این تغییرات پس از انتقادهای گسترده از اپل در پی استفاده کاربران X از Grok برای ساخت دیپ‌فیک‌های جنسی بدون رضایت، از جمله از افراد زیر سن قانونی، در اوایل امسال انجام شد. اپل X یا Grok را از اپ‌استور حذف نکرد، اما به گفته The Verge به سناتورها گفته بود حذف Grok را تهدید کرده است. در رویداد WWDC در ژوئن معترضان خواستار حذف این اپ‌ها شدند و در ژوئیه دادستان شهر سان‌فرانسیسکو به اپل دستور داد ۱۳ اپ برهنه‌ساز را حذف کند که اپل گفت این کار را انجام داده است. برای سابقه این موضوع، مقاله‌های مسئولیت اپ‌استور در برابر اپ نودیفایر و مسئولیت پلتفرم در برابر دیپ‌فیک و پرونده Grok را ببینید.
تحلیل حقوقی
خودتنظیمی در سایه قانون
تحلیل نگارنده: راهنمای بازبینی اپ‌استور قانون نیست، اما برای توسعه‌دهندگان اثری مشابه مقررات دارد، چون دسترسی به کاربران iOS به آن وابسته است. اصلاحیه اکتبر ۲۰۲۶ را باید در کنار فشار قانونی دید: قانون Take It Down در آمریکا تکلیف حذف برای پلتفرم‌ها ایجاد کرده (ر.ک. اجرای قانون Take It Down)، بریتانیا ابزارهای برهنه‌سازی را ممنوع کرده (ر.ک. ممنوعیت ابزار برهنه‌سازی در بریتانیا) و مینه‌سوتا نیز قانونی در این زمینه دارد که در دادگاه به چالش کشیده شده است (ر.ک. قانون مینه‌سوتا و دعوای xAI).
از واکنش به پیشگیری
تغییر کلیدی، واژه «پیشگیرانه» است. تحلیل نگارنده: برای اپ‌های تولید تصویر و شبکه‌های اجتماعی، این یعنی فیلترهای پیش از انتشار، طبقه‌بندی‌کننده‌های محتوا و احتمالاً تطبیق هش با پایگاه‌های داده تصاویر شناخته‌شده. معیار «تدابیر کافی» در اطلاعیه تعریف نشده و تفسیر آن عملاً با تیم بازبینی اپل خواهد بود.
«توزیع جایگزین»
تحلیل نگارنده: اشاره به مسدودسازی از «توزیع جایگزین» احتمالاً به بازارهای جایگزین اپ در حوزه‌هایی مانند اتحادیه اروپا مربوط است که اپل در آن‌ها همچنان نقش تأیید اولیه دارد. اطلاعیه اپل جزئیات سازوکار را توضیح نمی‌دهد.
بیان قابل نقل: وقتی دروازه‌بان اپ‌استور معیار «تدابیر کافی» را تعیین می‌کند، توسعه‌دهنده باید انطباق را مستند کند، نه فقط ادعا.
توصیه عملی برای توسعه‌دهندگان
- اپ‌های دارای محتوای کاربرساخته یا تولید تصویر با AI، فیلتر پیشگیرانه برای تصاویر خصوصی بدون رضایت پیاده کنند؛
- سازوکار گزارش، رسیدگی سریع و مسدودسازی کاربر را مستند و قابل ارائه به بازبین نگه دارید؛
- هر قابلیت جدید را در نسخه ارسالی برای بازبینی شفاف معرفی کنید تا در معرض بند ۲.۵.۱۹ قرار نگیرید؛
- برای اخطارهای اپل فرایند پاسخ و اصلاح سریع تعریف کنید؛
- مدل‌های تولید تصویر را برای جلوگیری از ساخت تصاویر جنسی از افراد واقعی تنظیم کنید.
نگاه تطبیقی: ایران
تحلیل نگارنده: در ایران، توزیع اپلیکیشن‌ها عمدتاً از طریق فروشگاه‌های داخلی انجام میشود و قواعد عمومی مانند قانون جرایم رایانه‌ای، انتشار محتوای مستهجن و تحریف تصویر دیگران را جرم می‌داند. اما تکلیف صریح و پیشگیرانه برای فروشگاه‌های اپلیکیشن داخلی درباره اپ‌های برهنه‌ساز یا تصاویر خصوصی ساخته هوش مصنوعی در منابع در دسترس نگارنده دیده نمی‌شود. قربانیان می‌توانند از مسیر کیفری اقدام کنند؛ ر.ک. راهنمای شکایت دیپ‌فیک در پلیس فتا.
پرسش‌های متداول
اپل چه زمانی راهنمای بازبینی را اصلاح کرد؟
در ۱۶ اکتبر ۲۰۲۶، طبق اطلاعیه رسمی Apple Developer.
بند ۱.۲ جدید چه می‌گوید؟
اپ‌ها باید تصاویر خصوصی بدون رضایت، از جمله تصاویر ساخته هوش مصنوعی، را به‌صورت پیشگیرانه مهار و از پلتفرم خود حذف کنند.
پیامد عدم رعایت چیست؟
نبود تدابیر کافی یا عدم رفع تخلف پس از اخطار می‌تواند نقض آیین رفتار توسعه‌دهنده و حذف از اپ‌استور باشد.
ترفند «طعمه و تعویض» چیست؟
معرفی نادرست کارکرد اپ در بازبینی و افزودن قابلیت‌هایی مانند برهنه‌سازی پس از تأیید؛ مجازات آن حذف اپ و حذف از برنامه توسعه‌دهندگان است.
آیا این قواعد قانون محسوب میشوند؟
خیر؛ راهنمای بازبینی سیاست قراردادی اپل است، اما برای دسترسی به اپ‌استور الزام‌آور است.
جمع‌بندی
اصلاح راهنمای بازبینی اپ‌استور در ۱۶ اکتبر ۲۰۲۶، مسئولیت مقابله با تصاویر خصوصی ساخته هوش مصنوعی را از واکنش به پیشگیری منتقل می‌کند و با بند ۲.۵.۱۹ راه فرار اپ‌های برهنه‌ساز را می‌بندد. برای توسعه‌دهندگان، پیام روشن است: انطباق با قواعد ایمنی محتوا اکنون شرط بقا در اپ‌استور است. برای مشاوره با کارشناسان آرتیلا در تماس باشید.
منابع
- https://developer.apple.com/news/?id=vvzx6cul
- https://www.theverge.com/tech/1013314/apple-app-store-nudify-ai-apps-harassment