پیش‌نویس قانون Anthropic؛ توقف مدل AI فقط با حکم دادگاه
Anthropic در اکتبر ۲۰۲۶ پیش‌نویس قانون فدرال هوش مصنوعی پیشرفته را به کنگره داد؛ توقف مدل فقط با حکم دادگاه و خطر فوری بیش از ۵۰ مرگ یا یک میلیارد دلار زیان.
تحریریه آرتیلا · ۱۴۰۵/۰۷/۲۷
این مقاله در حال بازبینی حقوقی است.
تعریف: پیش‌نویس قانون هوش مصنوعی پیشرفته Anthropic متن قانونی کاملی است که شرکت Anthropic، سازنده دستیار Claude، برای تنظیم ایمنی و امنیت مدل‌های مرزی (frontier models) نوشته و میان شماری از دفاتر کنگره آمریکا توزیع کرده است. نخستین گزارش آن را POLITICO در ۱۶ اکتبر ۲۰۲۶ منتشر کرد. به گزارش Reuters و AFP، دولت فدرال طبق این متن فقط در صورتی می‌تواند انتشار یا استفاده از یک مدل را متوقف کند که آن مدل خطر قابل پیش‌بینی و فوری کشته یا مجروح شدن شدید بیش از ۵۰ نفر یا بیش از یک میلیارد دلار خسارت ایجاد کند؛ آن هم فقط با حکم قاضی.
بیان قابل نقل: Anthropic پیشنهاد می‌کند دولت همه چیز را درباره خطر مدل بداند، اما تصمیم توقف مدل را فقط یک قاضی فدرال بگیرد.
این مقاله بر گزارش Reuters (به نقل از POLITICO، ۱۶ اکتبر ۲۰۲۶)، گزارش AFP منتشرشده در The Hindu (۱۷ اکتبر ۲۰۲۶) و تحلیل پایگاه AI Policy Landscape از متن پیش‌نویس تکیه دارد. این متن هنوز در کنگره ثبت نشده و حامی رسمی ندارد.
پیش‌نویس از کجا آمد؟
به گزارش Reuters، نمایندگان Anthropic بی‌سروصدا این پیش‌نویس را به قانون‌گذاران کنگره عرضه کرده‌اند. سخنگوی شرکت به Reuters گفت این متن همان پیشنهادهای «چارچوب هوش مصنوعی پیشرفته» (Advanced AI Framework) شرکت است که اوایل امسال منتشر شد. به گزارش AFP، Anthropic روز جمعه ۱۶ اکتبر وجود این پیش‌نویس را تأیید کرد. AI Policy Landscape می‌نویسد متن پیش‌نویس تاریخ ۲۹ سپتامبر دارد و دو عنوان کاری برای آن ذکر شده است: AEGIS Act و Advanced Artificial Intelligence Accountability Act of 2026.
AFP یادآوری می‌کند کنگره هنوز قانون فدرال هوش مصنوعی تصویب نکرده و تا پس از انتخابات میان‌دوره‌ای ماه آینده تعطیل است. بنابراین این پیش‌نویس در کوتاه‌مدت به رأی گذاشته نمی‌شود.
سازوکار اصلی: ارزیابی مستقل و توقف قضایی
ارزیاب‌های مستقل ثبت‌شده
به گزارش Reuters، ارزیاب‌های مستقل باید نزد وزارت بازرگانی آمریکا ثبت شوند و به‌طور دوره‌ای آزمایشگاه و مدل‌های مرزی آن را ارزیابی کنند. شرکت‌ها می‌توانند دستمزد ارزیاب را بپردازند، به شرط آنکه پرداخت به نتیجه ارزیابی وابسته نباشد. اگر ارزیاب به «خطر فوری احصاشده» برسد، باید ظرف ۷۲ ساعت پس از پایان ارزیابی به وزارت بازرگانی گزارش دهد.
توقف فقط با حکم دادگاه
طبق همین گزارش، وزارت بازرگانی پس از احراز خطر می‌تواند از قاضی بخواهد مدل را متوقف کند و دادگاه منطقه‌ای فدرال در واشنگتن دی‌سی می‌تواند دستور تعلیق مدل را صادر کند. متن صراحتاً هر وزارتخانه، نهاد یا مقام دیگر دولت آمریکا را از تعلیق توسعه، استقرار یا استفاده داخلی مدل منع می‌کند.
AI Policy Landscape جزئیات بیشتری از متن نقل می‌کند: دستور توقف برای ۴۵ روز صادر میشود، وزارت بازرگانی باید خطر را با معیار غلبه دلیل (preponderance of the evidence) ثابت کند و نشان دهد هیچ اقدام کم‌محدودیت‌تری کافی نیست.
بیان قابل نقل: در این طرح، ارزیاب فقط هشدار می‌دهد، وزارت بازرگانی فقط درخواست می‌کند و تنها قاضی می‌تواند مدل را متوقف کند.
مسیرهای خطر
گزارش Reuters از سه منشأ خطر نام می‌برد: ساخت یا انتشار سلاح زیستی، فرار مدل از کنترل توسعه‌دهنده و حمله سایبری. AI Policy Landscape مسیر چهارمی هم ذکر می‌کند: پژوهش خودکار هوش مصنوعی که این خطرها را تشدید کند.
تکالیف توسعه‌دهندگان
بر اساس خلاصه AI Policy Landscape از متن:
| موضوع | حکم پیش‌نویس (طبق گزارش) |
|---|---|
| دامنه | مدل پایه آموزش‌دیده با بیش از ۱۰ به توان ۲۵ عملیات، شامل تنظیم دقیق و RL |
| توسعه‌دهنده بزرگ | بیش از ۵۰۰ میلیون دلار درآمد AI یا بیش از یک میلیارد دلار هزینه توسعه AI |
| گزارش شفافیت | در هر استقرار جدید عمومی |
| حوادث ایمنی | گزارش ظرف ۱۵ روز؛ در خطر فوری جانی ظرف ۲۴ ساعت |
| گزارش خطر | هر ۱۸۰ روز، شامل مدل‌های داخلی پرخطرتر |
| ارزیاب مستقل | هر ۱۸۰ روز |
| جریمه | بیشترِ یک میلیون دلار یا درصدی از درآمد جهانی که در متن خالی مانده |
به گفته همین منبع، توسعه‌دهندگان بزرگ باید چارچوب ایمنی منتشر کنند، سالانه انطباق را گواهی کنند و برنامه امنیتی وزن‌های مدل را با حسابرسی مستقل نگه دارند. حمایت از افشاگران، شامل منع قرارداد عدم افشا و داوری اجباری، نیز در متن آمده است. سخنگوی Anthropic به Reuters و AFP گفت این طرح توسعه‌دهندگان را ملزم می‌کند قوی‌ترین مدل‌ها را آزمایش کنند، یافته‌ها را شفاف منتشر کنند، آن‌ها را به ارزیابی مستقل بسپارند و برنامه امنیتی قوی داشته باشند.
پیش‌دستی بر قوانین ایالتی
به گزارش AFP، این طرح برخی قوانین ایالتی، از جمله قوانین کالیفرنیا، را کنار می‌گذارد؛ در حالی که Anthropic در ژوئن ۲۰۲۶ نوشته بود در نبود قانون فدرال قوی، ایالت‌ها باید اختیار کامل قانون‌گذاری داشته باشند. AI Policy Landscape می‌نویسد پیش‌دستی شامل تکالیف ایالتی درباره افشای خطر، ارزیابی شخص ثالث و گزارش حوادث است، اما مسئولیت مدنی ایالتی، حمایت از کودکان و قواعد استقرار و استفاده را حفظ می‌کند. به گفته همان منبع، مسئول امور فدرال Anthropic در ۱۸ اکتبر گفت زبان پیش‌دستی محدودتر خواهد شد.
برای مقایسه با قوانین ایالتی، مقاله‌های ثبت‌نام مدل‌های مرزی طبق قانون RAISE نیویورک و ثبت ممیزان هوش مصنوعی در کالیفرنیا را ببینید.
واکنش‌ها
به نقل AFP، چارلی بولاک از اندیشکده Institute for Law & AI این طرح را «نسبتاً معقول» و «بیش از آنچه دیگر آزمایشگاه‌های مرزی انجام داده‌اند» توصیف کرد، اما آن را از FRONTIER Act، لایحه رقیبی که تابستان امسال در مجلس نمایندگان معرفی شد، ضعیف‌تر دانست. AI Policy Landscape از منتقدان دیگری نیز نام می‌برد که می‌گویند معیار توقف بیش از حد سخت‌گیرانه است و ارزیاب‌هایی که دستمزدشان را توسعه‌دهنده می‌پردازد، مستقل واقعی نیستند.
تحلیل حقوقی
مدل «نظارت اطلاعاتی، مداخله قضایی»
تحلیل نگارنده: این طرح تقریباً هر آنچه طرفداران ایمنی درباره «اطلاعات» خواسته‌اند می‌پذیرد، اما «قدرت اقدام» را به‌شدت محدود می‌کند. انتقال تصمیم توقف از دستگاه اجرایی به دادگاه، از منظر حقوق اداری تضمین دادرسی منصفانه برای شرکت است؛ اما در موقعیت اضطراری، معیار غلبه دلیل و الزام اثبات نبود راه کم‌محدودیت‌تر ممکن است واکنش را کند کند.
آستانه‌های عددی
آستانه «بیش از ۵۰ مرگ یا یک میلیارد دلار» به گزارش AI Policy Landscape در FRONTIER Act نیز به‌عنوان معیار خطر فاجعه‌بار آمده است؛ تفاوت در این است که چه کسی و با چه معیار اثباتی آن را احراز می‌کند. تحلیل نگارنده: آستانه عددی قابلیت پیش‌بینی ایجاد می‌کند، اما خطرهای پراکنده و تجمعی، مانند آسیب‌های تدریجی به کودکان، را پوشش نمی‌دهد؛ این خطرها طبق گزارش در حوزه قوانین ایالتی حفظ‌شده باقی می‌مانند. برای سابقه رویکرد دولت، ر.ک. رویکرد ترامپ به مسئولیت هوش مصنوعی.
تعارض منافع در نگارش قانون
تحلیل نگارنده: نگارش قانون توسط شرکتی که خود مشمول آن است، پدیده تازه‌ای نیست، اما وقتی متن کامل و آماده عرضه شود، خطر «تسخیر مقررات‌گذار» جدی‌تر میشود. ارزش این پیش‌نویس بیشتر در این است که یک آزمایشگاه مرزی پذیرفته ارزیاب مستقل با دسترسی واقعی و گزارش علنی لازم است.
بیان قابل نقل: مهم‌ترین امتیاز پیش‌نویس Anthropic این است که یک آزمایشگاه مرزی، ارزیابی مستقل الزامی را پذیرفته است؛ مهم‌ترین ضعفش این است که توقف مدل را بسیار دشوار می‌کند.
توصیه عملی
- شرکت‌های فعال در بازار آمریکا متن نهایی هر لایحه فدرال را دنبال کنند؛ این پیش‌نویس هنوز حامی رسمی ندارد؛
- سازوکار ثبت و گزارش حوادث ایمنی را از هم‌اکنون مستند کنند، چون در قوانین ایالتی نیز تکرار میشود؛
- قراردادهای ارزیابی شخص ثالث را طوری بنویسند که دستمزد به نتیجه وابسته نباشد؛
- در قراردادهای کار، بندهای عدم افشا را با قواعد حمایت از افشاگران تطبیق دهند؛
- اثر احتمالی پیش‌دستی فدرال بر تکالیف ایالتی را در برنامه انطباق لحاظ کنند.
نگاه تطبیقی: ایران
تحلیل نگارنده: قانون ملی توسعه هوش مصنوعی ایران، که در شهریور ۱۴۰۵ ابلاغ شد، طبق گزارش زومیت سامانه‌های هوش مصنوعی را در چهار سطح خطر طبقه‌بندی می‌کند و مرکز ارزیابی را موظف می‌کند سامانه‌های داخلی و خارجی را دوره‌ای ارزیابی و نتایج را هر شش ماه، با رعایت ملاحظات امنیتی، منتشر کند. اما به گزارش همان منبع، این قانون برای تخلف توسعه‌دهندگان مجازات مستقیمی تعیین نکرده و سازوکاری شبیه «دستور توقف قضایی» ندارد. برای جزئیات، ر.ک. آیین‌نامه‌های قانون ملی هوش مصنوعی ایران.
پرسش‌های متداول
پیش‌نویس Anthropic چه زمانی افشا شد؟
POLITICO نخستین بار در ۱۶ اکتبر ۲۰۲۶ از آن خبر داد و Anthropic وجود آن را تأیید کرد.
چه کسی می‌تواند مدل را متوقف کند؟
طبق گزارش‌ها فقط دادگاه منطقه‌ای فدرال واشنگتن دی‌سی، به درخواست وزارت بازرگانی؛ دیگر نهادهای فدرال از تعلیق مدل منع شده‌اند.
آستانه خطر برای توقف چیست؟
خطر قابل پیش‌بینی و فوری کشته یا مجروح شدن شدید بیش از ۵۰ نفر یا بیش از یک میلیارد دلار خسارت.
ارزیاب مستقل چه تکلیفی دارد؟
باید نزد وزارت بازرگانی ثبت شود و در صورت یافتن خطر فوری، ظرف ۷۲ ساعت گزارش دهد.
آیا این طرح قانون شده است؟
خیر؛ پیش‌نویسی است که میان دفاتر کنگره توزیع شده و هنوز به‌طور رسمی معرفی نشده است.
جمع‌بندی
پیش‌نویس Anthropic نشان می‌دهد بحث قانون‌گذاری فدرال درباره مدل‌های مرزی آمریکا از «آیا» به «چگونه» رسیده است: ارزیابی مستقل، گزارش حوادث و شفافیت پذیرفته شده، اما اختلاف اصلی بر سر این است که چه کسی و با چه معیاری می‌تواند مدل خطرناک را متوقف کند. برای مشاوره درباره انطباق با مقررات هوش مصنوعی با کارشناسان آرتیلا در تماس باشید.
منابع
- https://www.investing.com/news/stock-market-news/anthropic-quietly-pitches-its-own-ai-safety-bill-to-lawmakers-politico-reports-4954941
- https://www.politico.com/news/2026/10/16/anthropic-ai-safety-01124654
- https://www.thehindu.com/news/international/anthropic-proposes-law-regulating-ai-to-us-lawmakers/article71595557.ece
- https://aipolicy.tech/proposals/anthropic-draft
- https://www.zoomit.ir/iran-news/467113-iran-national-ai-development-law-explained/