مسئولیت عامل هوش مصنوعی: وقتی AI به جای شما معامله می‌کند

این مقاله در حال بازبینی حقوقی است.

تعریف: عامل هوش مصنوعی (AI Agent) نرم‌افزاری است که فقط پاسخ نمی‌دهد، بلکه با دسترسی به ابزارها، حساب‌ها و درگاه‌های پرداخت، از طرف کاربر اقدام می‌کند؛ مثلاً بلیت می‌خرد، سفارش ثبت می‌کند، ایمیل می‌فرستد یا قرارداد امضا می‌کند. موضوع مسئولیت عامل هوش مصنوعی این است که اگر چنین عاملی اشتباه کند یا فراتر از خواسته کاربر عمل کند، معامله نافذ است یا نه و چه کسی خسارت را جبران می‌کند. در حقوق ایران، پاسخ اصلی در ماده ۱۸ قانون تجارت الکترونیکی است: داده‌پیامی که توسط سیستم اطلاعاتی برنامه‌ریزی‌شده یا خودکار از جانب شخص ارسال شود، منسوب به همان شخص است.

سال‌های ۲۰۲۵ و ۲۰۲۶ را بسیاری «سال عامل‌های هوش مصنوعی» نامیده‌اند. دستیارهایی که مرورگر را کنترل می‌کنند، فرم پر می‌کنند و پرداخت انجام می‌دهند، به سرعت وارد زندگی روزمره و کسب‌وکارها شده‌اند. این مقاله توضیح می‌دهد قواعد فعلی حقوق ایران و استانداردهای بین‌المللی درباره این عامل‌ها چه می‌گویند. برای چارچوب کلی، مقاله حقوق هوش مصنوعی را ببینید.

عامل هوش مصنوعی شخص حقوقی نیست

در حقوق ایران، فقط اشخاص حقیقی و حقوقی اهلیت دارند و طرف حق و تکلیف قرار می‌گیرند. عامل هوش مصنوعی، هرچقدر پیشرفته، ابزار است، نه «وکیل» به معنای حقوقی. بنابراین پرسش این نیست که خود عامل مسئول است یا نه، بلکه این است که اقدام او به چه کسی منتسب می‌شود: کاربر، شرکت ارائه‌دهنده عامل یا طرف مقابل معامله.

بیان قابل نقل: عامل هوش مصنوعی در حقوق ایران شخصیت حقوقی ندارد؛ اقدامات آن به کاربر یا ارائه‌دهنده‌ای منتسب می‌شود که آن را به کار گرفته است.

انتساب اراده در قانون تجارت الکترونیکی

ماده ۱۸: اصل انتساب

طبق ماده ۱۸ قانون تجارت الکترونیکی، داده‌پیام در موارد زیر منسوب به اصل‌ساز است:

• الف: اگر توسط اصل‌ساز یا شخصی که از جانب او مجاز بوده ارسال شده باشد؛
• ب: اگر به وسیله سیستم اطلاعاتی برنامه‌ریزی‌شده یا تصدی خودکار از جانب اصل‌ساز ارسال شود.

بند «ب» دقیقاً برای وضعیتی نوشته شده که امروز در عامل‌های هوش مصنوعی می‌بینیم. اگر شما عاملی را راه‌اندازی کرده و به آن اجازه خرید داده‌اید، سفارشی که ثبت می‌کند اصولاً سفارش شما محسوب می‌شود.

ماده ۲۰: پیام اشتباه

قانون تجارت الکترونیکی همچنین در ماده ۲۰ وضعیتی را پیش‌بینی کرده که پیام از اصل‌ساز صادر نشده یا به اشتباه صادر شده باشد؛ در این حالت، فرض‌های انتساب ماده ۱۹ اعمال نمی‌شود. این حکم می‌تواند در دعاوی مربوط به خطای فاحش عامل هوش مصنوعی مورد استناد قرار گیرد، هرچند اثبات اشتباه و آگاهی طرف مقابل از آن بر عهده مدعی است.

قواعد عمومی قراردادها

طبق ماده ۱۹۰ قانون مدنی، قصد و رضا از شرایط اساسی صحت معامله است. وقتی کاربر به عامل اختیار عام داده («هر بلیتی زیر فلان مبلغ پیدا کردی بخر»)، قصد و رضای کلی او وجود دارد. اما اگر عامل از محدوده اختیار خارج شود، مثلاً بلیت درجه یک گران بخرد، این پرسش مطرح می‌شود که آیا معامله‌ای خارج از قصد کاربر واقع شده است. پاسخ به شرایط استفاده از عامل، تنظیمات اعطاشده و رفتار طرف مقابل بستگی دارد.

بیان قابل نقل: طبق ماده ۱۸ قانون تجارت الکترونیکی، پیامی که سیستم خودکار از جانب شخص ارسال می‌کند منسوب به همان شخص است؛ بنابراین معاملات عامل هوش مصنوعی اصولاً به کاربر منتسب می‌شود.

چه کسی خسارت خطای عامل را می‌پردازد؟

کاربر

اگر کاربر اختیار گسترده و بدون سقف به عامل داده یا هشدارهای سامانه را نادیده گرفته باشد، معمولاً تبعات را خود باید بپذیرد.

ارائه‌دهنده عامل

اگر خطا ناشی از نقص طراحی، اشکال نرم‌افزاری یا رفتار غیرقابل پیش‌بینی مدل باشد، کاربر ممکن است بر اساس ماده ۱ قانون مسئولیت مدنی یا تعهدات قراردادی، علیه ارائه‌دهنده طرح دعوا کند. البته بیشتر ارائه‌دهندگان در شرایط استفاده، مسئولیت خود را محدود کرده‌اند؛ اعتبار این شروط در برابر مصرف‌کننده محل بحث است.

طرف مقابل معامله

اگر فروشنده می‌دانسته یا باید می‌دانسته که سفارش ناشی از خطای آشکار است (مثلاً هزار عدد از یک کالا به جای یک عدد)، استناد او به معامله با حسن نیت سازگار نیست و ماده ۲۰ قانون تجارت الکترونیکی نیز می‌تواند مطرح شود.

استانداردهای بین‌المللی

قانون نمونه قراردادهای خودکار آنسیترال

کمیسیون حقوق تجارت بین‌الملل سازمان ملل (آنسیترال) در ۱۱ ژوئیه ۲۰۲۴ «قانون نمونه قراردادهای خودکار» (Model Law on Automated Contracting) را تصویب کرد. این سند چارچوبی برای استفاده از سیستم‌های خودکار، از جمله هوش مصنوعی و قراردادهای هوشمند، در قراردادهای تجاری بین‌المللی ارائه می‌کند و بر این اصل استوار است که اقدام سیستم خودکار به شخصی منتسب می‌شود که آن را به کار گرفته است. این قانون نمونه است و تنها در صورتی الزام‌آور می‌شود که کشوری آن را در قوانین خود بپذیرد.

اتحادیه اروپا

قانون هوش مصنوعی اتحادیه اروپا حکم خاصی برای «عامل‌ها» ندارد، اما تکالیف شفافیت (ماده ۵۰) و مقررات مدل‌های همه‌منظوره بر بسیاری از آن‌ها اعمال می‌شود. همچنین دستورالعمل جدید مسئولیت محصول (2024/2853) نرم‌افزار را «محصول» می‌داند و برای محصولاتی که از ۹ دسامبر ۲۰۲۶ به بازار عرضه شوند، امکان مسئولیت بدون تقصیر تولیدکننده در قبال نقص نرم‌افزار را فراهم می‌کند.

توصیه‌ها برای کاربران

1. سقف بگذارید: برای خرید و پرداخت، سقف مبلغ و تعداد تعیین کنید.
2. تأیید انسانی را فعال کنید: پیش از پرداخت یا امضا، عامل باید از شما تأیید بگیرد.
3. دسترسی حداقلی بدهید: کارت بانکی اصلی یا رمزهای حساس را در اختیار عامل قرار ندهید.
4. سوابق را نگه دارید: لاگ اقدامات عامل در اختلافات احتمالی، دلیل شماست.
5. مراقب تزریق دستور باشید: صفحات وب مخرب ممکن است با متن پنهان، عامل را به اقدام ناخواسته وادار کنند.

توصیه‌ها برای کسب‌وکارها

اگر عامل ارائه می‌دهید

• محدوده اختیارات و ریسک‌ها را شفاف به کاربر اطلاع دهید.
• سازوکار تأیید پیش از اقدامات مالی و برگشت‌ناپذیر طراحی کنید.
• شروط محدودیت مسئولیت را منصفانه و قابل دفاع بنویسید.

اگر از عامل‌ها سفارش دریافت می‌کنید

• برای سفارش‌های غیرعادی، تأیید ثانویه بگیرید.
• در شرایط فروش، تکلیف سفارش‌های ناشی از خطای آشکار را روشن کنید.

برای تنظیم شرایط استفاده و قراردادها، از خدمات حقوقی آرتیلا یا دستیار هوش مصنوعی حقوقی کمک بگیرید. درباره مسئولیت هوش مصنوعی در حوزه‌ای پرخطر، مقاله مسئولیت هوش مصنوعی در پزشکی را ببینید.

پرسش‌های متداول

اگر عامل هوش مصنوعی به جای من خرید کند، معامله معتبر است؟

اصولاً بله. طبق ماده ۱۸ قانون تجارت الکترونیکی، داده‌پیامی که سیستم خودکار از جانب شما ارسال می‌کند، منسوب به شماست.

اگر عامل اشتباه کند، می‌توانم معامله را برهم بزنم؟

ماده ۲۰ قانون تجارت الکترونیکی وضعیت پیام اشتباه را پیش‌بینی کرده است. موفقیت ادعا به اثبات اشتباه، تنظیمات اعطاشده و آگاهی طرف مقابل بستگی دارد.

آیا شرکت سازنده عامل مسئول خطاهای آن است؟

اگر خطا ناشی از نقص طراحی یا عملکرد نرم‌افزار باشد، طبق قواعد مسئولیت مدنی و قرارداد قابل طرح است، هرچند شرایط استفاده معمولاً مسئولیت را محدود می‌کند.

آیا قانون بین‌المللی برای قراردادهای خودکار وجود دارد؟

آنسیترال در ژوئیه ۲۰۲۴ قانون نمونه قراردادهای خودکار را تصویب کرده است که الگویی برای کشورهاست و خودبه‌خود الزام‌آور نیست.

عامل هوش مصنوعی شخصیت حقوقی دارد؟

خیر. عامل هوش مصنوعی ابزار است و اقدامات آن به کاربر یا ارائه‌دهنده‌ای منتسب می‌شود که آن را به کار گرفته است.

جمع‌بندی

عامل‌های هوش مصنوعی پرسش‌های تازه‌ای ایجاد می‌کنند، اما قانون تجارت الکترونیکی ایران با ماده ۱۸ پاسخ پایه را از پیش داده است: اقدام سیستم خودکار به شخصی منتسب است که آن را به کار گرفته. مدیریت ریسک، یعنی سقف‌گذاری، تأیید انسانی و قراردادهای شفاف، مهم‌ترین ابزار کاربران و کسب‌وکارهاست. این مقاله جنبه اطلاع‌رسانی دارد و جایگزین مشاوره حقوقی نیست.

منابع

• WIPO Lex, Electronic Commerce Law of Iran (2003): https://www.wipo.int/wipolex/en/legislation/details/7711
• ماده ۱۸ قانون تجارت الکترونیکی، وکیلیک: https://vakilik.com/laws/view/MTM2NzU
• ماده ۲۰ قانون تجارت الکترونیکی، عدالت‌سرا: https://edalatsara.com/rules/قانون-تجارت-الکترونیکی/ماده-20
• UNCITRAL Model Law on Automated Contracting (2024): https://uncitral.un.org/en/mlac
• UNIS Vienna, “UNCITRAL Model Law on Automated Contracting finalized”: https://unis.unvienna.org/unis/en/pressrels/2024/unisl362.html
• Directive (EU) 2024/2853 on liability for defective products, EUR-Lex: https://eur-lex.europa.eu/eli/dir/2024/2853/oj
• ماده ۱ قانون مسئولیت مدنی، وکیلیک: https://vakilik.com/laws/view/MTQ1OQ