مسئولیت پلتفرم در قبال دیپ‌فیک: از پرونده Grok تا ایران

این مقاله در حال بازبینی حقوقی است.

تعریف: مسئولیت پلتفرم در قبال دیپ‌فیک به تکالیف و مسئولیت حقوقی شبکه‌های اجتماعی و ارائه‌دهندگان خدمات آنلاین در برابر محتوای جعلی ساخته‌شده با هوش مصنوعی گفته می‌شود. به‌طور سنتی، پلتفرم‌ها فقط «میزبان» محتوای کاربران تلقی می‌شدند؛ اما وقتی ابزار هوش مصنوعی خود پلتفرم محتوا را تولید می‌کند، این تمایز کم‌رنگ می‌شود. پرونده چت‌بات Grok در شبکه X که در ژانویه ۲۰۲۶ موجب تحقیقات رسمی آفکام بریتانیا و کمیسیون اروپا شد، برجسته‌ترین نمونه این بحث است.

در اوایل ۲۰۲۶، گزارش‌های گسترده‌ای منتشر شد که ابزار تولید تصویر Grok، چت‌بات یکپارچه با شبکه X، برای ساخت تصاویر جنسی بدون رضایت از افراد واقعی استفاده شده است. این پرونده پرسش قدیمی «مسئولیت پلتفرم» را در شکل تازه‌ای مطرح کرد. این مقاله این پرونده و چارچوب‌های حقوقی را بررسی می‌کند. برای مبانی کیفری دیپ‌فیک، مقاله جرم دیپ‌فیک را ببینید.

از «میزبان» به «تولیدکننده»

مدل سنتی

در بیشتر نظام‌های حقوقی، پلتفرمی که فقط محتوای کاربران را میزبانی می‌کند، تا زمانی که از محتوای غیرقانونی آگاه نشده، مسئولیت مستقیم ندارد؛ اما پس از آگاهی باید به سرعت آن را حذف کند. در اتحادیه اروپا این قاعده در قانون خدمات دیجیتال (DSA) آمده است.

چالش هوش مصنوعی مولد

وقتی کاربر از ابزار هوش مصنوعی خود پلتفرم درخواست ساخت تصویر می‌کند و ابزار آن را تولید می‌کند، آیا پلتفرم هنوز «میزبان بی‌طرف» است؟ بسیاری از حقوق‌دانان معتقدند در این وضعیت، پلتفرم به تولیدکننده محتوا نزدیک‌تر است و تکلیف بیشتری برای پیشگیری دارد.

بیان قابل نقل: وقتی ابزار هوش مصنوعی خود پلتفرم دیپ‌فیک تولید می‌کند، پلتفرم دیگر فقط میزبان محتوای کاربر نیست و تکلیف پیشگیری آن سنگین‌تر می‌شود.

پرونده Grok

بریتانیا: تحقیق آفکام

آفکام، تنظیم‌گر ارتباطات بریتانیا، در ۱۲ ژانویه ۲۰۲۶ تحقیقی رسمی بر اساس قانون ایمنی آنلاین (Online Safety Act) درباره شرکت X آغاز کرد. موضوع تحقیق این است که آیا X تکالیف خود را برای حمایت از کاربران در برابر محتوای غیرقانونی، از جمله تصاویر خصوصی بدون رضایت و محتوای سوءاستفاده جنسی از کودکان، و حمایت از کودکان در برابر محتوای مستهجن رعایت کرده است یا نه. این تحقیق تا زمان نگارش ادامه دارد و تصمیم نهایی درباره تخلف یا جریمه اعلام نشده است.

اتحادیه اروپا: رسیدگی بر اساس DSA

کمیسیون اروپا در ۲۶ ژانویه ۲۰۲۶ رسیدگی رسمی جدیدی بر اساس DSA علیه X آغاز کرد تا بررسی کند آیا این شرکت پیش از عرضه قابلیت‌های Grok، ریسک‌های آن، از جمله انتشار محتوای غیرقانونی مانند تصاویر جنسی دستکاری‌شده، را به‌درستی ارزیابی و کاهش داده است یا نه. کمیسیون همچنین تحقیق قبلی خود درباره سامانه‌های توصیه‌گر X را گسترش داد. این رسیدگی نیز ادامه دارد.

بیان قابل نقل: آفکام (۱۲ ژانویه ۲۰۲۶) و کمیسیون اروپا (۲۶ ژانویه ۲۰۲۶) درباره Grok تحقیق رسمی آغاز کرده‌اند؛ هر دو پرونده هنوز به تصمیم نهایی نرسیده‌اند.

سایر چارچوب‌های جهانی

آمریکا: قانون TAKE IT DOWN

قانون TAKE IT DOWN (قانون عمومی ۱۱۹-۱۲، مصوب مه ۲۰۲۵) انتشار تصاویر خصوصی بدون رضایت، از جمله جعل‌های دیجیتال ساخته‌شده با هوش مصنوعی، را جرم دانسته و پلتفرم‌ها را مکلف کرده محتوای گزارش‌شده را ظرف ۴۸ ساعت حذف کنند. مهلت پلتفرم‌ها برای ایجاد این فرایند تا ۱۹ مه ۲۰۲۶ بود.

بریتانیا: جرم‌انگاری ساخت

در بریتانیا، قانون داده (استفاده و دسترسی) ۲۰۲۵، ساختن تصاویر خصوصی جعلی بدون رضایت را جرم دانسته است.

قانون هوش مصنوعی اروپا

طبق ماده ۵۰ این قانون، از اوت ۲۰۲۶ ارائه‌دهندگان سامانه‌های تولید محتوا باید خروجی را به صورت قابل تشخیص ماشینی علامت‌گذاری کنند. مقاله واترمارک محتوای هوش مصنوعی را ببینید.

چرا این پرونده مهم است؟

پرونده Grok از چند جهت اهمیت دارد. نخست، یکی از نخستین آزمون‌های جدی قانون ایمنی آنلاین بریتانیا و DSA اروپا در برابر هوش مصنوعی مولد یکپارچه با شبکه اجتماعی است. دوم، پرسش «ارزیابی ریسک پیش از عرضه» را برجسته می‌کند: آیا پلتفرم باید پیش از راه‌اندازی یک ابزار، احتمال سوءاستفاده از آن را ارزیابی و کاهش دهد؟ سوم، این پرونده نشان می‌دهد تنظیم‌گران به‌جای تمرکز بر تک‌تک تصاویر، طراحی و حاکمیت محصول را بررسی می‌کنند. نتیجه این تحقیقات، احتمالاً معیار رفتار پلتفرم‌ها را در سال‌های آینده تعیین خواهد کرد.

حقوق ایران

ماده ۷۴۹: تکلیف ارائه‌دهندگان خدمات

طبق ماده ۷۴۹ قانون مجازات اسلامی (ماده ۲۱ قانون جرایم رایانه‌ای)، ارائه‌دهندگان خدمات دسترسی موظف‌اند طبق ضوابط فنی و فهرست تعیین‌شده توسط کارگروه، محتوای مجرمانه را پالایش کنند. خودداری عمدی موجب انحلال است و اگر از روی بی‌احتیاطی و بی‌مبالاتی زمینه دسترسی به محتوای غیرقانونی فراهم شود، در مرتبه اول و دوم جزای نقدی و در مرتبه سوم یک تا سه سال تعطیلی موقت در پی دارد. طبق تبصره ۲ همین ماده، پالایش محتوای مجرمانه موضوع شکایت خصوصی با دستور مقام قضایی رسیدگی‌کننده انجام می‌شود؛ یعنی قربانی دیپ‌فیک می‌تواند در جریان شکایت، از مقام قضایی دستور حذف یا پالایش محتوا را درخواست کند.

ماده ۷۵۰: کارگروه تعیین مصادیق

طبق ماده ۷۵۰، کارگروه تعیین مصادیق محتوای مجرمانه به ریاست دادستان کل کشور، مرجع تعیین فهرست محتوای مجرمانه است.

مسئولیت مدنی و کیفری

• قربانی دیپ‌فیک می‌تواند علیه سازنده و منتشرکننده طبق مواد ۷۴۴ تا ۷۴۶ قانون مجازات اسلامی شکایت کند.
• مسئولیت پلتفرم داخلی که پس از اطلاع، محتوا را حذف نکند، طبق قواعد عمومی مسئولیت مدنی قابل طرح است.

قانون ملی توسعه هوش مصنوعی

مسئولیت ارائه‌دهندگان ابزارهای هوش مصنوعی مولد در ایران باید در مقررات اجرایی قانون ملی توسعه هوش مصنوعی روشن شود. مقاله آیین‌نامه‌های قانون ملی هوش مصنوعی را ببینید.

توصیه‌ها

برای قربانیان

1. فوراً گزارش دهید: از سازوکار گزارش پلتفرم استفاده کنید.
2. ادله را حفظ کنید: لینک، تاریخ و اسکرین‌شات.
3. شکایت کنید: مراحل در مقاله شکایت دیپ‌فیک در پلیس فتا آمده است.

برای پلتفرم‌ها و توسعه‌دهندگان ایرانی

1. پیش از عرضه ابزار تولید تصویر یا ویدئو، ارزیابی ریسک انجام دهید.
2. ساخت تصاویر جنسی از افراد واقعی و هر محتوای مربوط به کودکان را به‌طور کامل مسدود کنید.
3. سازوکار گزارش و حذف سریع داشته باشید.
4. خروجی‌ها را علامت‌گذاری کنید.
5. سوابق را برای همکاری با مراجع قضایی نگه دارید.

برای ارزیابی حقوقی محصول، با وکلای متخصص آرتیلا مشورت کنید و مطالب بیشتر را در دانشنامه جرائم سایبری بخوانید.

پرسش‌های متداول

آیا پلتفرم مسئول دیپ‌فیک‌های کاربران است؟

در مدل سنتی، پلتفرم پس از اطلاع باید محتوای غیرقانونی را حذف کند. اما وقتی ابزار خود پلتفرم محتوا را تولید می‌کند، تکالیف پیشگیرانه سنگین‌تری مطرح می‌شود.

پرونده Grok چیست؟

تحقیقات آفکام بریتانیا (از ۱۲ ژانویه ۲۰۲۶) و کمیسیون اروپا (از ۲۶ ژانویه ۲۰۲۶) درباره استفاده از ابزار Grok در X برای ساخت تصاویر جنسی بدون رضایت و ارزیابی ریسک‌های آن. هر دو هنوز ادامه دارند.

قانون TAKE IT DOWN چه تکلیفی برای پلتفرم‌ها دارد؟

حذف تصاویر خصوصی بدون رضایت، از جمله جعل‌های هوش مصنوعی، ظرف ۴۸ ساعت پس از گزارش.

در ایران پلتفرم‌ها چه تکلیفی دارند؟

طبق ماده ۷۴۹ قانون مجازات اسلامی، ارائه‌دهندگان خدمات باید محتوای مجرمانه را طبق فهرست کارگروه تعیین مصادیق پالایش کنند.

قربانی دیپ‌فیک چه کاری می‌تواند انجام دهد؟

گزارش به پلتفرم، حفظ ادله و شکایت از طریق پلیس فتا یا دادسرا بر اساس مواد ۷۴۴ تا ۷۴۶ قانون مجازات اسلامی.

جمع‌بندی

هوش مصنوعی مولد مرز میان «میزبان» و «تولیدکننده» محتوا را کم‌رنگ کرده است. پرونده Grok آزمونی برای قوانین ایمنی آنلاین بریتانیا و DSA اروپاست و نتیجه آن بر مسئولیت پلتفرم‌ها در سراسر جهان اثر خواهد گذاشت. در ایران، تکالیف پالایش و قواعد عمومی مسئولیت، چارچوب فعلی است. این مقاله جنبه اطلاع‌رسانی دارد و جایگزین مشاوره حقوقی نیست.

منابع

• Ofcom, Investigation into X Internet Unlimited Company: https://www.ofcom.org.uk/online-safety/illegal-and-harmful-content/investigation-into-x-internet-unlimited-company-and-its-compliance-with-duties-to-protect-its-users-from-illegal-content-and-child-users-from-harmful-content
• European Commission, IP/26/203 (26 Jan 2026): https://ec.europa.eu/commission/presscorner/api/files/document/print/en/ip_26_203/IP_26_203_EN.pdf
• Congress.gov, TAKE IT DOWN Act (Public Law 119-12): https://www.congress.gov/bill/119th-congress/senate-bill/146/all-info
• UK Data (Use and Access) Act 2025 – Purported intimate images: https://www.legislation.gov.uk/ukpga/2025/18/part/7/crossheading/purported-intimate-images
• ماده ۷۴۹ قانون مجازات اسلامی، عدالت‌سرا: https://edalatsara.com/rules/قانون-مجازات-اسلامی/ماده-749
• AI Act, Article 50: https://artificialintelligenceact.eu/article/50/