مسئولیت پلتفرم‌ها در قبال محتوای تولیدشده با هوش مصنوعی

این مقاله در حال بازبینی حقوقی است.

مسئولیت پلتفرم‌ها در قبال محتوای تولیدشده با هوش مصنوعی به این پرسش می‌پردازد که وقتی در یک شبکه اجتماعی، پیام‌رسان، فروشگاه اینترنتی یا سرویس آنلاین، محتوای ساخته‌شده با هوش مصنوعی (مانند دیپ‌فیک، اخبار جعلی، تصاویر مستهجن یا متن افتراآمیز) منتشر می‌شود و به کسی آسیب می‌زند، آیا گرداننده پلتفرم هم باید پاسخگو باشد یا فقط کاربری که محتوا را ساخته یا منتشر کرده است. پاسخ به نقش پلتفرم بستگی دارد: آیا صرفاً میزبان محتوای کاربران است، یا خودش با ابزار هوش مصنوعی‌اش تولیدکننده محتواست؟ در ایران قانون خاصی برای این موضوع وجود ندارد و مسئولیت پلتفرم‌ها عمدتاً بر اساس مواد ۲۱ تا ۲۳ قانون جرایم رایانه‌ای و قواعد عمومی مسئولیت مدنی سنجیده می‌شود.

دو سناریوی متفاوت

سناریوی اول: کاربر محتوا را با هوش مصنوعی می‌سازد و در پلتفرم منتشر می‌کند

کاربری با یک ابزار خارجی دیپ‌فیک می‌سازد و آن را در یک شبکه اجتماعی یا کانال پیام‌رسان منتشر می‌کند. در اینجا پلتفرم نقش «میزبان» دارد؛ محتوا را نساخته، بلکه فقط بستر انتشار را فراهم کرده است.

سناریوی دوم: ابزار هوش مصنوعی خود پلتفرم محتوای زیان‌بار تولید می‌کند

پلتفرم یک چت‌بات یا ابزار تولید تصویر را در سرویس خود ارائه می‌دهد و این ابزار، مثلاً در پاسخ به پرسش یک کاربر، اتهامی دروغ به یک شخص واقعی نسبت می‌دهد یا تصویر جعلی از او می‌سازد. در اینجا پلتفرم دیگر صرفاً میزبان نیست؛ محتوا را سامانه خود او تولید کرده است.

این تفکیک اهمیت زیادی دارد، چون منطق مسئولیت در دو سناریو متفاوت است.

چارچوب قانونی در ایران

تکالیف ارائه‌دهندگان خدمات در قانون جرایم رایانه‌ای

قانون جرایم رایانه‌ای (که در قانون مجازات اسلامی به‌عنوان مواد ۷۲۹ تا ۷۸۲ تعزیرات درج شده) چند حکم کلیدی برای ارائه‌دهندگان خدمات دارد:

• ماده ۲۱ (ماده ۷۴۹ تعزیرات): ارائه‌دهندگان خدمات دسترسی مکلف‌اند طبق ضوابط فنی و فهرست تعیین‌شده توسط کارگروه، محتوای مجرمانه را پالایش (فیلتر) کنند و در صورت تخلف عمدی یا بی‌احتیاطی، مسئولیت دارند.
• ماده ۲۲ (ماده ۷۵۰): کارگروه تعیین مصادیق محتوای مجرمانه را پیش‌بینی می‌کند.
• ماده ۲۳ (ماده ۷۵۱): ارائه‌دهندگان خدمات میزبانی مکلف‌اند به محض دریافت دستور کارگروه یا مرجع قضایی رسیدگی‌کننده به پرونده، مبنی بر وجود محتوای مجرمانه، از ادامه دسترسی به آن جلوگیری کنند؛ و اگر عمداً از اجرای دستور خودداری کنند، مسئول‌اند.

منطق این مواد، مسئولیت پس از اطلاع است: میزبان اصولاً موظف به پایش پیشینی همه محتوا نیست، اما پس از دریافت دستور مرجع صالح، تکلیف به اقدام دارد.

مسئولیت کیفری اشخاص حقوقی

ماده ۱۴۳ قانون مجازات اسلامی به‌طور کلی شخص حقوقی را وقتی مسئول کیفری می‌داند که نماینده قانونی آن به نام یا در راستای منافع آن مرتکب جرم شود. در جرایم رایانه‌ای، ماده ۱۹ قانون جرایم رایانه‌ای (ماده ۷۴۷) شرط سخت‌تری دارد: جرم باید هم به نام شخص حقوقی و هم در راستای منافع آن ارتکاب یابد و یکی از حالت‌های این ماده هم وجود داشته باشد؛ مثلاً مدیر مرتکب جرم شود یا دستور آن را بدهد، یا کارمند با اطلاع مدیر یا در اثر عدم نظارت او مرتکب جرم شود. بنابراین شرکت گرداننده پلتفرم، علاوه بر مدیرانش، ممکن است در موارد خاص مسئولیت کیفری داشته باشد.

مسئولیت مدنی

ماده ۱ قانون مسئولیت مدنی هر کسی را که در نتیجه بی‌احتیاطی به حیثیت یا حقوق دیگری لطمه بزند، مسئول جبران خسارت می‌داند. اگر پلتفرمی با وجود اطلاع از محتوای زیان‌بار، مثلاً پس از گزارش مکرر قربانی، بی‌دلیل اقدامی نکند، می‌توان استدلال کرد که بی‌احتیاطی او در تداوم ضرر نقش داشته است. همچنین قواعد تسبیب در قانون مدنی می‌تواند مبنای مسئولیت باشد.

سناریوی دوم: وقتی هوش مصنوعی خود پلتفرم مقصر است

در اینجا استدلال برای مسئولیت پلتفرم قوی‌تر است. پلتفرم ابزار را طراحی کرده، آن را عرضه کرده و از آن سود می‌برد. اگر چت‌بات پلتفرم به شخص واقعی افترا بزند یا تصویر جعلی مستهجن از او بسازد، پلتفرم را نمی‌توان صرفاً «میزبان» دانست. از منظر مسئولیت مدنی، پلتفرم در جایگاهی شبیه «تولیدکننده محتوا» یا دست‌کم «سبب» قرار می‌گیرد. اینکه پلتفرم بگوید «الگوریتم خودش این را ساخت»، رافع مسئولیت نیست؛ همان‌طور که در مسئولیت هوش مصنوعی در پزشکی نیز هوش مصنوعی شخصیت حقوقی ندارد و مسئولیت متوجه انسان‌ها و شرکت‌هاست.

مسئولیت کیفری در این سناریو پیچیده‌تر است، چون اغلب جرایمی مانند افترا یا نشر اکاذیب به قصد نیاز دارند و الگوریتم قصد ندارد. اما اگر پلتفرم پس از اطلاع از تولید چنین محتوایی، اقدامی برای جلوگیری نکند یا ابزار را آگاهانه برای تولید محتوای مجرمانه طراحی کرده باشد، بحث مسئولیت کیفری قوی‌تر می‌شود.

قانون ملی توسعه هوش مصنوعی

قانون ملی توسعه هوش مصنوعی حکم مستقیمی درباره مسئولیت پلتفرم‌ها ندارد. این قانون ارزیابی دوره‌ای سامانه‌های داخلی و خارجی بر اساس سطح مخاطره و تدوین اسناد مربوط به مسئولیت‌های مدنی و کیفری را پیش‌بینی کرده است. بنابراین ممکن است در آینده الزاماتی برای پلتفرم‌ها تعیین شود.

نگاهی به تجربه اروپا

در اتحادیه اروپا، قانون خدمات دیجیتال (DSA) پلتفرم‌ها را به سازوکار «اعلام و اقدام» برای محتوای غیرقانونی و پلتفرم‌های بسیار بزرگ را به ارزیابی ریسک‌های سیستمی، از جمله دستکاری با محتوای جعلی، ملزم کرده است. ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا نیز علامت‌گذاری محتوای مصنوعی و اعلام دیپ‌فیک را الزامی کرده است. این ترکیب نشان می‌دهد جهت جهانی، افزایش تکالیف پلتفرم‌ها در برابر محتوای هوش مصنوعی است.

توصیه‌ها برای پلتفرم‌های ایرانی

1. سازوکار گزارش تخلف ساده و در دسترس طراحی کنید، به‌ویژه برای دیپ‌فیک و تصاویر خصوصی.
2. پاسخ سریع به گزارش‌ها و دستورهای قضایی؛ زمان پاسخ را ثبت کنید.
3. شرایط استفاده را درباره ممنوعیت محتوای جعلی زیان‌بار شفاف بنویسید.
4. برای ابزارهای هوش مصنوعی خود، محدودیت‌های ایمنی (مثلاً جلوگیری از تولید تصویر واقع‌نما از اشخاص واقعی) اعمال کنید.
5. خروجی‌های هوش مصنوعی خود را برچسب‌گذاری کنید؛ مقاله واترمارک محتوای هوش مصنوعی را ببینید.
6. سوابق گزارش‌ها و اقدامات را برای اثبات حسن نیت نگه دارید.

توصیه‌ها برای قربانیان

• محتوا را به خود پلتفرم گزارش دهید و شماره پیگیری بگیرید.
• مدارک را حفظ کنید و به پلیس فتا و دادسرا مراجعه کنید؛ راهنمای کامل در مقاله شکایت از دیپ‌فیک در پلیس فتا.
• اگر پلتفرم پس از اطلاع اقدامی نکرده، امکان طرح دعوای مسئولیت علیه آن را با وکیل بررسی کنید.

برای مشاوره درباره تدوین شرایط استفاده و سیاست محتوا، می‌توانید از آرتیلا کمک بگیرید.

نکات کلیدی

• مسئولیت پلتفرم به نقش آن بستگی دارد: میزبان محتوای کاربر یا تولیدکننده محتوا با ابزار هوش مصنوعی خود.
• طبق ماده ۲۳ قانون جرایم رایانه‌ای، میزبان پس از دریافت دستور مرجع قضایی یا کارگروه، موظف به قطع دسترسی به محتوای مجرمانه است.
• ایران قانون خاصی درباره مسئولیت پلتفرم‌ها در قبال محتوای هوش مصنوعی ندارد.
• اگر چت‌بات خود پلتفرم محتوای زیان‌بار تولید کند، استدلال برای مسئولیت مدنی پلتفرم قوی‌تر است.
• هوش مصنوعی شخصیت حقوقی ندارد و پلتفرم نمی‌تواند با استناد به «خطای الگوریتم» از مسئولیت فرار کند.
• شخص حقوقی گرداننده پلتفرم، طبق ماده ۱۴۳ قانون مجازات اسلامی، در شرایط خاص مسئولیت کیفری دارد.

سوالات متداول

آیا می‌توانم از پلتفرمی که دیپ‌فیک من در آن منتشر شده شکایت کنم؟

اصولاً شکایت اصلی علیه سازنده و منتشرکننده است. اما اگر پلتفرم پس از اطلاع یا دستور مرجع قضایی اقدام نکرده باشد، امکان طرح مسئولیت آن وجود دارد.

آیا پلتفرم موظف است همه محتوا را پیش از انتشار بررسی کند؟

قانون جرایم رایانه‌ای چنین تکلیف عامی برای میزبان پیش‌بینی نکرده و منطق آن بیشتر بر اقدام پس از دستور مرجع صالح استوار است.

اگر چت‌بات یک سایت به من تهمت بزند، چه کسی مسئول است؟

شرکتی که چت‌بات را ارائه می‌دهد، چون محتوا را سامانه خود او تولید کرده است. مطالبه خسارت بر اساس قواعد مسئولیت مدنی قابل طرح است.

آیا پلتفرم‌های خارجی هم در ایران مسئول‌اند؟

از نظر نظری ممکن است، اما در عمل به دلیل نبود حضور حقوقی در ایران، اجرای حکم علیه آن‌ها بسیار دشوار است.

پلتفرم‌ها چطور ریسک حقوقی خود را کاهش دهند؟

با سازوکار گزارش کارآمد، پاسخ سریع به دستورهای قضایی، محدودیت‌های ایمنی در ابزارهای هوش مصنوعی و برچسب‌گذاری محتوای مصنوعی.