واترمارک محتوای هوش مصنوعی: الزام حقوقی یا راهکار فنی؟

این مقاله در حال بازبینی حقوقی است.

واترمارک محتوای هوش مصنوعی نشانه یا اطلاعاتی است که در تصویر، ویدئو، صدا یا متن تولیدشده با هوش مصنوعی قرار می‌گیرد تا بتوان تشخیص داد آن محتوا توسط ماشین ساخته یا دستکاری شده است. این نشانه ممکن است آشکار باشد (مثل برچسب «تولیدشده با هوش مصنوعی» روی تصویر)، پنهان باشد (الگویی نامرئی در پیکسل‌ها یا امواج صوتی که فقط نرم‌افزار تشخیص می‌دهد) یا به‌صورت فراداده (اطلاعات منشأ فایل) ذخیره شود. در ایران هیچ قانون یا مقرره‌ای استفاده از واترمارک یا برچسب‌گذاری محتوای هوش مصنوعی را الزامی نکرده است، اما اتحادیه اروپا و چین چنین الزاماتی را وضع کرده‌اند و این روند بر کسب‌وکارهای ایرانی هم اثر می‌گذارد.

چرا واترمارک مهم شده است؟

با پیشرفت مدل‌های تولید تصویر و صدا، تشخیص محتوای واقعی از جعلی برای انسان روزبه‌روز سخت‌تر می‌شود. این وضعیت چند خطر جدی دارد:

• دیپ‌فیک و هتک حیثیت: ساخت ویدئوی جعلی از افراد.
• کلاهبرداری با صدای جعلی: تقلید صدای آشنایان برای گرفتن پول.
• اطلاعات نادرست: انتشار تصاویر ساختگی از رویدادهایی که هرگز رخ نداده‌اند.
• مشکل ادله: وقتی هر فایلی ممکن است جعلی باشد، اعتماد به ادله صوتی و تصویری در دادگاه هم کاهش می‌یابد.

واترمارک یکی از ابزارهایی است که می‌تواند منشأ محتوا را قابل ردیابی کند و به پلتفرم‌ها، دادگاه‌ها و کاربران در تشخیص کمک کند.

انواع روش‌های فنی

واترمارک آشکار

ساده‌ترین روش، برچسب یا نشانه قابل مشاهده است. مزیت آن فهم آسان برای کاربر است، اما با برش تصویر یا ویرایش ساده حذف می‌شود.

واترمارک نامرئی

الگوهایی در داده‌های تصویر یا صدا که چشم و گوش انسان متوجه آن نمی‌شود، اما ابزار تشخیص آن را می‌خواند. این روش مقاوم‌تر است، ولی با فشرده‌سازی شدید یا ویرایش‌های پیچیده ممکن است تضعیف شود.

اعتبارنامه محتوا و فراداده

استانداردهایی مانند C2PA اطلاعاتی درباره منشأ و تاریخچه ویرایش فایل را به شکل امضاشده همراه آن ذخیره می‌کنند. برخی شرکت‌های بزرگ فناوری و رسانه از این استاندارد حمایت می‌کنند. ضعف آن این است که فراداده ممکن است هنگام بارگذاری در برخی پلتفرم‌ها حذف شود.

واترمارک متن

علامت‌گذاری متن تولیدشده با مدل‌های زبانی دشوارتر است. روش‌هایی پیشنهاد شده که الگوهای آماری خاصی در انتخاب کلمات ایجاد می‌کنند، اما با بازنویسی یا ترجمه به‌راحتی از بین می‌روند. ابزارهای «تشخیص متن هوش مصنوعی» نیز خطای قابل توجهی دارند و نباید به‌تنهایی مبنای قضاوت درباره افراد، مثلاً در اتهام تقلب علمی، قرار گیرند.

وضعیت حقوقی در ایران

قانون خاصی وجود ندارد

نه قانون جرایم رایانه‌ای، نه قانون تجارت الکترونیکی و نه قانون ملی توسعه هوش مصنوعی هیچ‌کدام الزام صریحی به واترمارک یا برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی ندارند. قانون ملی توسعه هوش مصنوعی در ماده ۷، تدوین معیارها و دستورالعمل‌های امنیتی سامانه‌های هوش مصنوعی را بر عهده مرکز ارزیابی و تأیید امنیت گذاشته و در بند «ح» ماده ۱ نیز «شفافیت» را از چارچوب‌های سنجش سطح مخاطره دانسته است. بنابراین ممکن است در آیین‌نامه‌ها یا استانداردهای آینده، الزاماتی درباره برچسب‌گذاری پیش‌بینی شود، اما فعلاً چنین تکلیفی وجود ندارد.

استدلال از قواعد عمومی

در نبود قانون خاص، چند قاعده عمومی می‌تواند به‌طور غیرمستقیم اهمیت واترمارک را نشان دهد:

• فریب مصرف‌کننده: اگر کسب‌وکاری تصویر ساختگی محصول را واقعی جلوه دهد و مشتری فریب بخورد، قواعد حمایت از مصرف‌کننده و حتی کلاهبرداری مطرح می‌شود. برچسب‌گذاری، ریسک این اتهام را کاهش می‌دهد.
• نشر اکاذیب و هتک حیثیت: کسی که محتوای ساختگی را بدون اعلام ساختگی بودن منتشر کند و موجب اضرار یا هتک حیثیت شود، ممکن است مشمول مواد ۷۴۴ و ۷۴۶ تعزیرات (مواد ۱۶ و ۱۸ قانون جرایم رایانه‌ای) شود. برچسب واضح «ساختگی» می‌تواند در احراز قصد و عرف مؤثر باشد، هرچند همیشه رافع مسئولیت نیست.
• حذف واترمارک: حذف عمدی واترمارک به‌تنهایی در قانون ایران جرم مستقل نیست، اما اگر برای جعل یا فریب انجام شود، می‌تواند قرینه‌ای بر سوءنیت در جرایمی مانند جعل رایانه‌ای یا کلاهبرداری باشد.

واترمارک و مالکیت محتوا

واترمارک کاربرد دیگری هم دارد: اثبات منشأ و مالکیت. هنرمندان و عکاسان سال‌هاست برای جلوگیری از کپی غیرمجاز، روی آثار خود واترمارک می‌گذارند. در محتوای هوش مصنوعی، واترمارک می‌تواند نشان دهد کدام ابزار یا کدام شرکت محتوا را تولید کرده و در اختلافات مربوط به حق مؤلف و آموزش هوش مصنوعی به‌عنوان قرینه به کار رود. البته باید توجه داشت که واترمارک به‌خودی‌خود حقی ایجاد نمی‌کند؛ حق مؤلف از خلق اثر ناشی می‌شود و واترمارک فقط ابزار اثبات و ردیابی است.

نقش پلتفرم‌ها

حتی اگر سازنده محتوا برچسب نزند، پلتفرم‌ها می‌توانند با ابزارهای تشخیص، محتوای مصنوعی را شناسایی و برچسب‌گذاری کنند. برخی شبکه‌های اجتماعی بین‌المللی این کار را آغاز کرده‌اند. در ایران چنین تکلیفی برای پلتفرم‌ها وجود ندارد، اما این موضوع با بحث گسترده‌تر مسئولیت پلتفرم‌ها در قبال محتوای هوش مصنوعی پیوند دارد.

الزامات اتحادیه اروپا

ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) ارائه‌دهندگان سامانه‌هایی را که صدا، تصویر، ویدئو یا متن مصنوعی تولید می‌کنند، مکلف می‌کند خروجی‌ها را در قالبی قابل خواندن توسط ماشین علامت‌گذاری کنند تا ساختگی بودن آن‌ها قابل تشخیص باشد. به‌کارگیرندگانی که دیپ‌فیک تولید یا منتشر می‌کنند نیز باید ساختگی بودن محتوا را اعلام کنند، با استثناهایی برای آثار آشکارا هنری یا طنز. بر اساس منابعی که بررسی کردیم، تعهدات شفافیت ماده ۵۰ از ۲ اوت ۲۰۲۶ اجرایی شده و پس از اصلاحیه موسوم به «Digital Omnibus» برای برخی سامانه‌های مولد مهلت کوتاهی تا ۲ دسامبر ۲۰۲۶ در نظر گرفته شده است. این تعهدات به تعویق طولانی‌مدت قواعد سامانه‌های پرخطر مربوط نیست. جزئیات بیشتر در مقاله قانون هوش مصنوعی اتحادیه اروپا و کسب‌وکارهای ایرانی.

الزامات چین

چین نیز مقرراتی درباره برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی وضع کرده که از اول سپتامبر ۲۰۲۵ اجرایی شده است و برچسب آشکار و پنهان (در فراداده) را برای انواع محتوای مصنوعی الزامی می‌کند و پلتفرم‌ها را نیز به شناسایی و برچسب‌گذاری چنین محتوایی موظف می‌داند.

توصیه به کسب‌وکارهای ایرانی

حتی بدون الزام قانونی داخلی، برچسب‌گذاری محتوای هوش مصنوعی به سود کسب‌وکارهاست:

1. اعتماد مشتری: شفافیت درباره تصاویر تبلیغاتی ساختگی، از اتهام فریب جلوگیری می‌کند.
2. بازار خارجی: اگر محصول یا محتوای شما به کاربران اروپایی می‌رسد، ماده ۵۰ ممکن است مستقیماً بر شما اعمال شود.
3. کاهش ریسک حقوقی: برچسب‌گذاری، در صورت سوءاستفاده دیگران از محتوای شما، قرینه حسن نیت است.
4. سیاست داخلی: برای تولیدکنندگان محتوا در سازمان، دستورالعمل روشن درباره زمان و نحوه برچسب‌گذاری تدوین کنید.
5. حفظ فراداده: هنگام انتشار، تا حد امکان فراداده منشأ را حذف نکنید.

برای تدوین سیاست استفاده از هوش مصنوعی در سازمان، می‌توانید از آرتیلا مشاوره بگیرید.

نکات کلیدی

• واترمارک هوش مصنوعی نشانه‌ای آشکار، پنهان یا فراداده‌ای است که ساخته‌شدن محتوا توسط ماشین را نشان می‌دهد.
• در ایران هیچ قانونی واترمارک یا برچسب‌گذاری محتوای هوش مصنوعی را الزامی نکرده است.
• ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا علامت‌گذاری ماشین‌خوان خروجی‌های مصنوعی و اعلام دیپ‌فیک را الزامی می‌کند.
• چین از اول سپتامبر ۲۰۲۵ برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی را الزامی کرده است.
• واترمارک متن به‌سادگی با بازنویسی از بین می‌رود و ابزارهای تشخیص متن هوش مصنوعی خطای قابل توجهی دارند.

سوالات متداول

آیا در ایران باید روی تصاویر ساخته‌شده با هوش مصنوعی برچسب بزنم؟

الزام قانونی وجود ندارد، اما اگر تصویر می‌تواند مخاطب را درباره واقعیت فریب دهد، برچسب‌گذاری از ریسک اتهام فریب، نشر اکاذیب یا نقض حقوق مصرف‌کننده می‌کاهد.

آیا حذف واترمارک از تصویر هوش مصنوعی جرم است؟

در قانون ایران جرم مستقلی نیست، اما اگر برای فریب، جعل یا کلاهبرداری انجام شود، می‌تواند قرینه سوءنیت در آن جرایم باشد.

آیا واترمارک برای اثبات جعلی بودن دیپ‌فیک در دادگاه کافی است؟

واترمارک قرینه مهمی است، اما نبود آن دلیل واقعی بودن نیست. در اختلاف، نظر کارشناس فنی تعیین‌کننده است.

قانون اروپا بر کسب‌وکار ایرانی هم اعمال می‌شود؟

اگر سامانه یا خروجی آن در اتحادیه اروپا عرضه یا استفاده شود، ممکن است مشمول قانون هوش مصنوعی اروپا شوید، حتی اگر شرکت در ایران باشد.

آیا ابزارهای تشخیص متن هوش مصنوعی قابل اعتمادند؟

خیر، نه به‌طور کامل. این ابزارها هم متن انسانی را ماشینی تشخیص می‌دهند و هم برعکس؛ بنابراین نباید تنها مبنای قضاوت باشند.