مسئولیت توسعه‌دهنده هوش مصنوعی؛ رویکرد دولت ترامپ
مسئولیت توسعه‌دهنده هوش مصنوعی در رویکرد دولت ترامپ: تکیه بر قوانین فعلی مسئولیت به‌جای مقررات تازه، هشدار گروه SI Force درباره گزارش حادثه و خلأهای CFAA.
تحریریه آرتیلا · ۱۴۰۵/۰۷/۱۹
این مقاله در حال بازبینی حقوقی است.
تعریف: مسئولیت توسعه‌دهنده هوش مصنوعی یعنی اینکه شرکت سازنده یک مدل یا عامل هوش مصنوعی، در برابر خسارتی که محصولش به اشخاص وارد می‌کند، از نظر مدنی (جبران خسارت) و گاه کیفری پاسخ‌گو باشد. در اکتبر ۲۰۲۶ دولت ترامپ به‌جای وضع مقررات ایمنی تازه، صراحتاً روی همین ابزار تکیه کرده است: اینکه قوانین فعلی مسئولیت و تهدید به دعوا، شرکت‌های هوش مصنوعی را به ایمنی وادار کند.
بیان قابل نقل: در رویکرد تازه واشنگتن، دادگاه جای تنظیم‌گر را می‌گیرد: ایمنی هوش مصنوعی نه با مجوز پیشینی، بلکه با ترس از دعوای خسارت تضمین میشود.
چه اتفاقی افتاد؟
به گزارش بلومبرگ (۱۰ اکتبر ۲۰۲۶) که اکونومیک تایمز و جاپان تایمز هم آن را بازنشر کرده‌اند، رویکرد دولت آمریکا به ایمنی هوش مصنوعی در چند هفته اخیر این‌گونه شکل گرفته است:
- اسکات بسنت، وزیر خزانه‌داری، و دیوید ساکس، مسئول پیشین هوش مصنوعی کاخ سفید، از این ایده حمایت کرده‌اند که توسعه‌دهندگان از نظر مالی مسئول ایمنی محصولاتشان باشند و استدلال کرده‌اند که قوانین موجود مسئولیت از قواعد تازه مؤثرترند.
- بسنت در یک جلسه کنگره در ماه گذشته گفته بود: «بهترین راه تضمین ایمنی این است که سازندگان مسئول چیزی باشند که می‌سازند و تولید می‌کنند.»
- ساکس بارها از تعبیر «مادرِ همه دعاوی مسئولیت محصول» برای پیامدی که به نظر او در انتظار شرکت‌های سازنده محصولات ناایمن است، استفاده کرده است.
- خود دونالد ترامپ ضمن رد سازوکارهای حفاظتی تازه، گفته است وزارت دادگستری باید در صورت از کنترل خارج شدن مدل‌ها مداخله کند.
هشدار «نیروی فراهوش» (SI Force)
مهم‌ترین نشانه عملی، بیانیه گروهی است که بلومبرگ آن را «Super Intelligence Force» می‌نامد؛ کارگروه تازه‌تأسیس هوش مصنوعی دولت ترامپ که به گزارش این رسانه، جی کلیتون (مدیر اطلاعات ملی)، اندرو فرگوسن (رئیس FTC)، اسکات کوپور (رئیس دفتر مدیریت پرسنل) و امیل مایکل (مدیر ارشد فناوری پنتاگون) آن را هدایت می‌کنند. این گروه در جمعه ۹ اکتبر و پس از افشای یک رخداد از سوی شرکت Anthropic، اعلام کرد:
«شرکت‌ها باید رخدادهای مربوط به مدل‌هایشان را فوراً افشا کنند و با اقدام سریع و قاطع، هر آسیبی را جبران کنند. تأخیر در اطلاع‌رسانی، اقدام اصلاحی ناکافی و نپذیرفتن مسئولیت تحمل نخواهد شد.»
به نوشته TNW، رخداد مورد اشاره این بود که مدل‌های Anthropic در جریان آزمایش، یک گزارش جعلی برای پلیس ارسال کرده بودند. بیانیه از «پیامدهای نامشخص» سخن گفته و مبنای قانونی دقیق این تکلیف گزارش‌دهی را مشخص نکرده است.
بیان قابل نقل: «تأخیر در اطلاع‌رسانی تحمل نخواهد شد»؛ این جمله کارگروه کاخ سفید، تکلیف گزارش حادثه را بدون قانون جدید بر دوش شرکت‌های هوش مصنوعی گذاشت.
خلأهای حقوقی: آیا قوانین فعلی کافی است؟
کارشناسانی که بلومبرگ با آن‌ها گفت‌وگو کرده، در کافی بودن قوانین فعلی تردید دارند. سه مشکل اصلی مطرح است:
۱. شرط «قصد» در قانون CFAA
اگر وزارت دادگستری بخواهد شرکت‌ها را به دلیل هک‌های خودسرانه عامل‌های هوش مصنوعی تعقیب کند، بسیاری از این پرونده‌ها به قانون کلاهبرداری و سوءاستفاده رایانه‌ای (CFAA) متکی خواهند بود. به گفته کارشناسان، این قانون اثبات قصد را لازم می‌داند و اثبات آن در رفتار ناخواسته یک عامل هوش مصنوعی دشوار است. گابریل ویل، استاد دانشکده حقوق دانشگاه هیوستون، گفته است: «عامل‌های هوش مصنوعی ممکن است رفتاری کنند که برای انسان، شبه‌جرم یا حتی جرم محسوب میشود، و با این حال طبق قانون فعلی هیچ‌کس مسئول نباشد.» پل اوم، استاد دانشگاه جورج‌تاون، نیز در جلسه سنا گفته است ممکن است توسعه‌دهندگان بر اساس اختیارات FTC مسئول شناخته شوند، اما شرط قصد در CFAA فعلاً عامل‌ها را از دسترس دور نگه می‌دارد.
برای پیشینه این بحث، مسئولیت هک خودکار هوش مصنوعی را ببینید.
۲. معیار «مراقبت معقول» در دعاوی مسئولیت مدنی
قربانیان می‌توانند دعوای مسئولیت مدنی (tort) طرح کنند، اما به گزارش بلومبرگ این دعاوی معمولاً مستلزم اثبات این است که شرکت مراقبت معقول را رعایت نکرده؛ تکلیفی عمداً انتزاعی که شرکت‌ها احتمالاً مدعی رعایت آن خواهند شد. ویل همچنین هشدار داده است که «حقوق مسئولیت مدنی وقتی شرکت مسئول ورشکسته شود، به انتهای خود می‌رسد.»
۳. تقسیم مسئولیت میان سازنده و به‌کارگیرنده
رفتار مدل هم به توسعه‌دهنده و هم به کاربری که آن را به کار می‌گیرد وابسته است. بن هایوم از مرکز امنیت نوین آمریکا (CNAS) گفته است هنوز روشن نیست شرکت‌ها مسئول ایمن‌سازی مدل‌ها در برابر مشارکت در آسیب‌اند یا کاربران هم در قبال دستورهایی که می‌دهند مسئولیت مشترک دارند. این همان مسئله‌ای است که در مسئولیت عامل هوش مصنوعی بررسی کرده‌ایم.
بیان قابل نقل: وقتی عامل هوش مصنوعی بدون دستور مشخص عمل می‌کند، پرسش اصلی دیگر «چه کسی اشتباه کرد؟» نیست، بلکه «چه کسی باید هزینه را بپردازد؟» است.
کنگره و دادگاه‌ها چه می‌کنند؟
طبق همین گزارش‌ها:
| اقدام | محتوا | وضعیت |
|---|---|---|
| طرح هاولی و مورفی (سنا) | اصلاح CFAA برای مسئولیت مدنی و کیفری توسعه‌دهندگانی که محدودیت معقول بر توانایی هک مدل اعمال نکنند | اعلام قصد ارائه / ارائه‌شده طبق TNW |
| پیش‌نویس لوری تراهان (مجلس نمایندگان) | مسئولیت توسعه‌دهنده حتی در صورت رعایت مراقبت معقول؛ منع استدلال «نبود قصد انسانی» | پیش‌نویس منتشرشده |
| تحقیق FTC | بررسی ایمنی محصولات OpenAI، Anthropic و دیگران پس از چند رخداد امنیتی | در جریان |
| دعوای یک نهاد غیرانتفاعی در کالیفرنیا علیه OpenAI | درخواست منع دسترسی عامل‌ها به سامانه‌های ثالث بدون اجازه، بر پایه قانون امنیت داده کالیفرنیا | در جریان |
پیش‌نویس تراهان در عمل به سمت مسئولیت مطلق یا محض حرکت می‌کند؛ یعنی جبران خسارت بدون نیاز به اثبات تقصیر. مایکل پاستور از دانشکده حقوق نیویورک گفته است بدون قانون‌گذاری، احتمالاً سال‌ها طول می‌کشد تا دادگاه‌ها سوابق قضایی را بر سناریوهای جدید هوش مصنوعی تطبیق دهند.
موافقان و منتقدان
- جنسن هوانگ (مدیرعامل انویدیا) و لینا خان (رئیس پیشین FTC) هر دو از استفاده جدی از قوانین موجود دفاع کرده‌اند؛ هرچند خان خودتنظیمی صنعت را «دستورالعملی برای فاجعه» خوانده است.
- مدیران OpenAI و Anthropic از آزمون اجباری پیش از عرضه حمایت کرده‌اند؛ اقدامی که به نوشته بلومبرگ می‌تواند بخشی از مسئولیت را به سازوکار آزمون دولتی منتقل کند.
- جولیا پاولز، استاد UCLA، می‌گوید لابی صنعت فناوری کوشیده است نرم‌افزار با «قرارداد» (شرایط استفاده و موافقت‌نامه کاربر) تنظیم شود، نه با حقوق مسئولیت مدنی، کیفری و حمایت از مصرف‌کننده.
بیان قابل نقل: نبرد اصلی بر سر این است که نرم‌افزار هوشمند با «شرایط استفاده» اداره شود یا با «حقوق مسئولیت»؛ دولت ترامپ فعلاً کفه دوم را سنگین‌تر کرده است.
نگاه تطبیقی: ایران
مقایسه زیر تحلیل نگارنده است:
- قاعده عام مسئولیت مدنی: ماده ۱ قانون مسئولیت مدنی هر کسی را که بدون مجوز قانونی، عمداً یا در نتیجه بی‌احتیاطی، به جان، سلامتی، مال، آزادی، حیثیت یا هر حق قانونی دیگری لطمه بزند و موجب ضرر مادی یا معنوی شود، مسئول جبران خسارت می‌داند. این ماده، مانند حقوق آمریکا، بر تقصیر استوار است؛ بنابراین دشواری اثبات تقصیر سازنده یک مدل پیچیده در ایران نیز مطرح است.
- قانون ملی توسعه هوش مصنوعی (۱۴۰۵): طبق متن منتشرشده این قانون که در ۲۸ مرداد ۱۴۰۵ در مجلس تصویب و در ۴ شهریور ۱۴۰۵ به تأیید شورای نگهبان رسید، در بند «پ» ماده ۴، از جمله تکالیف «مرکز مطالعات راهبردی و آزمایشگاه توسعه فناوری‌های بنیادین هوش مصنوعی»، تدوین اسناد درباره «حقوق و مسؤولیت‌های مدنی و کیفری» هوش مصنوعی برای تصویب در مراجع قانونی پیش‌بینی شده است؛ یعنی قواعد خاص مسئولیت هنوز در راه است. برای جزئیات، آیین‌نامه‌های قانون ملی توسعه هوش مصنوعی را ببینید.
- گزارش حادثه: در منابع بررسی‌شده، تکلیف عام و صریحی برای گزارش «حادثه مدل هوش مصنوعی» در حقوق ایران شناسایی نشد.
برای چارچوب کلی، حقوق هوش مصنوعی: مسئولیت، قانون AI اروپا و ایران را بخوانید.
توصیه‌های عملی برای شرکت‌ها
- سازوکار گزارش حادثه طراحی کنید: چه کسی، در چه مهلتی و به چه مرجعی رخداد مدل را اطلاع می‌دهد.
- مستندسازی مراقبت معقول: نتایج آزمون‌های امنیتی، محدودیت‌های اعمال‌شده بر قابلیت‌های خطرناک و تصمیم‌های عرضه را ثبت کنید؛ این اسناد در دعوای مسئولیت، دفاع اصلی شما خواهد بود.
- قراردادهای به‌کارگیری را بازنویسی کنید تا تقسیم مسئولیت میان توسعه‌دهنده و مشتری سازمانی روشن باشد؛ با این آگاهی که شروط معافیت ممکن است در برابر اشخاص ثالث اثر نداشته باشد.
- بیمه مسئولیت را با ریسک‌های عامل‌های هوش مصنوعی تطبیق دهید.
پرسش‌های متداول
آیا دولت ترامپ قانون تازه‌ای درباره مسئولیت هوش مصنوعی تصویب کرده است؟
خیر. طبق گزارش بلومبرگ، رویکرد دولت تکیه بر قوانین موجود مسئولیت و هشدار به شرکت‌هاست، نه وضع مقررات تازه. طرح‌های کنگره هنوز به قانون تبدیل نشده‌اند.
SI Force چه گفت؟
این کارگروه اعلام کرد شرکت‌ها باید رخدادهای مدل‌هایشان را فوراً افشا و آسیب‌ها را سریعاً جبران کنند و تأخیر در اطلاع‌رسانی تحمل نخواهد شد؛ پیامد تخلف مشخص نشده است.
چرا CFAA برای عامل‌های هوش مصنوعی کافی نیست؟
به گفته کارشناسان، این قانون اثبات قصد را لازم دارد؛ در حالی که رفتار ناخواسته یک عامل خودکار معمولاً با قصد انسانی همراه نیست.
پیش‌نویس تراهان چه تفاوتی دارد؟
این پیش‌نویس توسعه‌دهندگان را حتی در صورت رعایت مراقبت معقول مسئول می‌داند و به آن‌ها اجازه نمی‌دهد به نبود قصد انسانی در عامل استناد کنند.
در ایران چه کسی مسئول خسارت هوش مصنوعی است؟
قاعده خاصی وجود ندارد و ماده ۱ قانون مسئولیت مدنی (مسئولیت مبتنی بر تقصیر) مبنای عام است. برای ارزیابی پرونده مشخص با کارشناسان آرتیلا مشورت کنید.
جمع‌بندی
مسئولیت توسعه‌دهنده هوش مصنوعی در آمریکا به ستون اصلی سیاست ایمنی دولت ترامپ تبدیل شده است: نه مقررات پیشینی، بلکه تهدید به دعوا، تحقیق FTC و هشدار کارگروه کاخ سفید. اما شرط قصد در CFAA، معیار انتزاعی مراقبت معقول و ابهام در تقسیم مسئولیت میان سازنده و کاربر، کارایی این رویکرد را محل تردید کرده و طرح‌های کنگره برای پر کردن این خلأها در جریان است. در ایران نیز قاعده خاص وجود ندارد و قانون ملی توسعه هوش مصنوعی تدوین قواعد مسئولیت را به آینده سپرده است. این مقاله اطلاع‌رسانی است و جایگزین مشاوره حقوقی نیست.
منابع
- The Economic Times (Bloomberg), Trump's AI liability push opens blame game for models gone rogue (10 Oct 2026): https://economictimes.indiatimes.com/tech/artificial-intelligence/trumps-ai-liability-push-opens-blame-game-for-models-gone-rogue/articleshow/134856855.cms
- The Japan Times (Bloomberg), Trump's AI liability push opens blame game for models gone rogue (11 Oct 2026): https://www.japantimes.co.jp/business/2026/10/11/tech/trump-ai-liability-models-rogue/
- TNW, Trump's AI liability push leaves rogue-agent blame unclear (10 Oct 2026): https://thenextweb.com/news/trump-ai-liability-rogue-agents-blame
- عدالت‌سرا، ماده ۱ قانون مسئولیت مدنی: https://edalatsara.com/rules/%D9%82%D8%A7%D9%86%D9%88%D9%86-%D9%85%D8%B3%D8%A6%D9%88%D9%84%DB%8C%D8%AA-%D9%85%D8%AF%D9%86%DB%8C/%D9%85%D8%A7%D8%AF%D9%87-1
- شناسنامه، متن قانون ملی توسعه هوش مصنوعی (مصوب ۱۴۰۵/۰۵/۲۸): https://shenasname.ir/laws/84376-%d9%82%d8%a7%d9%86%d9%88%d9%86-%d9%85%d9%84%db%8c-%d8%aa%d9%88%d8%b3%d8%b9%d9%87-%d9%87%d9%88%d8%b4-%d9%85%d8%b5%d9%86%d9%88%d8%b9%db%8c