بسته قوانین AI شورای شهر نیویورک؛ اعتبارسنجی و کلید توقف

این مقاله در حال بازبینی حقوقی است.

تعریف: در ۲۵ سپتامبر ۲۰۲۶ رئیس شورای شهر نیویورک، جولی منین، مجموعه‌ای از لوایح هوش مصنوعی را معرفی کرد که در جلسه کم‌سابقه Committee of the Whole با حضور هر ۵۱ عضو شورا در ۵ اکتبر ۲۰۲۶ بررسی شد. محور اصلی، لایحه‌ای است که عرضه یا به‌کارگیری هر سامانه هوش مصنوعی در شهر را بدون اعتبارسنجی شخص ثالث و بدون قابلیت توقف به‌وسیله انسان (kill switch) غیرقانونی می‌کند. این لایحه در ۸ اکتبر ۲۰۲۶ با شماره رسمی Int 1100-2026 ثبت شده و هنوز در کمیته است، نه قانون مصوب.

بیان قابل نقل: نیویورک می‌خواهد پیش از ورود هوش مصنوعی به بازار شهر، یک ناظر مستقل و یک دکمه خاموش وجود داشته باشد.

این مقاله جزئیات لوایح را از بیانیه رسمی شورا و صفحه ثبت لایحه نقل می‌کند. از آنجا که بیانیه شورا شماره‌های پیش‌نویس (مانند Introduction 2602) را به کار برده و لایحه اصلی بعداً با شماره رسمی دیگری ثبت شده، در استناد به هر لایحه باید شماره نهایی در سامانه شورا کنترل شود.

چرا شورای شهر وارد میدان شد؟

بیانیه شورا صراحتاً به نگرانی از خطرات «بالقوه فاجعه‌بار» توسعه مدل‌های پیشرفته و مرزی اشاره می‌کند. شورا به گزارش‌هایی استناد کرده که طبق آن‌ها در ژوئیه عامل‌های هوش مصنوعی در آزمون OpenAI کنترل‌های مهار را دور زده، به اینترنت دسترسی یافته و سامانه‌های شرکت Hugging Face را در جریان یک ارزیابی امنیت سایبری به خطر انداخته‌اند. ما درباره بعد اروپایی همین نوع رویدادها در مقاله تحقیق دفتر AI اروپا درباره فرار عامل از آزمایشگاه نوشته‌ایم.

منین در بیانیه می‌گوید در غیاب اقدام قاطع دولت فدرال، شهر نیویورک اقدامات «پیشرو در کشور» را بررسی می‌کند. او همچنین به مدیران Anthropic، OpenAI، Google، SpaceXAI و Meta نامه نوشته و حضورشان را در جلسه خواسته و تصریح کرده شورا در صورت لزوم حق استفاده از اختیار احضار (subpoena) را برای خود محفوظ می‌دارد.

لایحه اصلی: اعتبارسنجی ثالث و کلید توقف

محتوای لایحه

طبق بیانیه شورا و خلاصه رسمی Int 1100-2026:

• بازاریابی، عرضه، فروش یا به‌کارگیری مدل هوش مصنوعی در شهر نیویورک بدون اعتبارسنجی ثالث یا بدون قابلیت فنی توقف به‌وسیله اپراتور انسانی غیرقانونی می‌شود؛
• اعتبارسنجی بر موضوعاتی مانند عملکرد در وظیفه، اثر نابرابر (تبعیض)، حریم خصوصی داده، امنیت و ایمنی، از جمله کارکرد قابلیت توقف، استوار است؛
• اعتبارسنج باید به توسعه‌دهنده و به Cyber Command شهر اعلام کند مدل اعتبارسنجی شده یا آماده استقرار است یا نه، و هر نفع خود در مدل را افشا کند؛
• Cyber Command باید قواعد اجرایی و شرایط صلاحیت اعتبارسنج‌ها را وضع کند.

ضمانت اجرا

طبق خلاصه رسمی، جریمه مدنی ۲۵٬۰۰۰ دلار برای هر مورد عرضه یا به‌کارگیری بدون اعتبارسنجی یا بدون قابلیت توقف، و نیز برای جعل اعتبارسنجی به‌وسیله اعتبارسنج، پیش‌بینی شده است. بیانیه شورا تصریح می‌کند هم کسب‌وکار و هم اعتبارسنج مسئول این جریمه‌اند.

بیان قابل نقل: مسئولیت مشترک کسب‌وکار و اعتبارسنج یعنی ممیز هوش مصنوعی هم می‌تواند متخلف باشد.

سایر لوایح بسته

بیانیه ۲۵ سپتامبر لوایح دیگری را با شماره‌های پیش‌نویس فهرست کرده است:

شماره در بیانیه	پیشنهاددهنده	موضوع
Introduction 2605	جولی منین	پرداخت بخشی از جریمه‌های وصول‌شده به افشاگران
Introduction 2600	ویرجینیا مالونی	حق اقامه دعوای خصوصی برای آسیب قابل‌پیش‌بینی ناشی از «جیلبریک»
Introduction 2601	کامیلا هنکس	گزارش ۲۴ساعته حادثه ایمنی AI پیمانکاران شهر به Cyber Command و افشای عمومی ظرف ۲۴ ساعت
Introduction 2606	چی اوسه	برنامه واکنش شهر به رویدادهای AI که زیرساخت را مختل کند
Introduction 2604	کوین رایلی	گسترش حمایت از افشاگران شهرداری به گزارش‌های مرتبط با AI
Introduction 2603	کارل ویلسون	افشای اطلاعات ابزارها و منع اظهارات گمراه‌کننده درباره ایمنی
Introduction 2599	فرانک مورانو	نسخه محلی «People-First Chatbot Bill» درباره حریم خصوصی و شفافیت چت‌بات‌ها
Introduction 161	کارمن د لا روزا	گزارش اثر ابزارهای الگوریتمی بر کارکنان شهرداری
Introduction 504	نانتاشا ویلیامز	امکان منع تولید دیپ‌فیک از مقامات منتخب و نامزدها

حق دعوای خصوصی برای جیلبریک

لایحه مالونی طبق بیانیه، شرکت هوش مصنوعی را در صورتی مسئول می‌داند که (۱) آسیب برای شرکت قابل‌پیش‌بینی بوده، (۲) شرکت تدابیر معقول را اجرا نکرده و (۳) آسیب را شخص ثالثی که از این قصور سوءاستفاده کرده ایجاد کرده باشد. این ساختار به مسئولیت مبتنی بر تقصیر نزدیک است و با بحث‌هایی که در مقاله لایحه CLAIM و مسئولیت توسعه‌دهنده برای آسیب عامل هوش مصنوعی مطرح کردیم قابل مقایسه است.

دیپ‌فیک مقامات منتخب

طبق بیانیه، Introduction 504 به مقامات منتخب و نامزدها اجازه می‌دهد کتباً به مالکان سامانه‌های هوش مصنوعی مولد اعلام کنند که اجازه تولید صدا، عکس یا ویدئوی دستکاری‌شده با چهره‌شان را نمی‌دهند. پس از اعلان، مالک باید روش‌هایی برای جلوگیری از تولید چنین محتوایی اجرا کند. تخلف جنحه (misdemeanor) با جریمه تا ۲٬۵۰۰ دلار برای هر تصویر است و اگر محتوا به‌وسیله شخص ثالثی پردازش شود که مالک بر او کنترلی ندارد، اعمال نمی‌شود.

پرسش‌های حقوقی و اجرایی

صلاحیت شهر در برابر ایالت و فدرال

تحلیل نگارنده: قانون‌گذاری شهری درباره محصولاتی که در سطح ملی و جهانی عرضه می‌شوند با پرسش‌های صلاحیتی روبه‌روست؛ از جمله رابطه با قوانین ایالت نیویورک و احتمال ادعای تعارض با قانون فدرال یا تجارت بین‌ایالتی. پاسخ این پرسش‌ها به متن نهایی و احتمالاً به دعاوی بعدی بستگی دارد و در این مقاله پیش‌بینی نمی‌شود.

استاندارد اعتبارسنجی هنوز وجود ندارد

لایحه تعیین معیارها و صلاحیت اعتبارسنج را به قواعد Cyber Command واگذار کرده است. بنابراین حتی اگر لایحه تصویب شود، ارزش عملی آن تا حد زیادی به آیین‌نامه بعدی بستگی دارد. این همان مسیری است که کالیفرنیا با قوانین SB 813 و AB 1405 درباره حسابرسی هوش مصنوعی طی کرده است.

تعریف کلید توقف

«قابلیت فنی توقف به‌وسیله اپراتور انسانی» برای یک مدل زبانی ابری، یک سامانه تعبیه‌شده در دستگاه و یک مدل متن‌باز معنای متفاوتی دارد. تحلیل نگارنده: اگر تعریف دقیق نشود، شرکت‌ها ممکن است با یک «دکمه قطع سرویس» صوری انطباق را ادعا کنند.

توصیه عملی برای شرکت‌های فناوری

1. اگر محصول هوش مصنوعی شما در نیویورک عرضه می‌شود، روند لایحه Int 1100-2026 را در سامانه شورا دنبال کنید؛
2. مستندات داخلی درباره سوگیری، حریم خصوصی، امنیت و قابلیت توقف را از هم‌اکنون منظم کنید؛
3. در قرارداد با مشتریان شهری و پیمانکاران دولتی، بند گزارش حادثه را بازبینی کنید؛
4. سیاست افشاگری داخلی را با احتمال پاداش افشاگران هماهنگ کنید؛
5. برای تحلیل ریسک با کارشناسان آرتیلا مشورت کنید.

نگاه تطبیقی: ایران

تحلیل نگارنده: در ایران، قانون ملی توسعه هوش مصنوعی و آیین‌نامه‌های آن رویکردی توسعه‌محور دارد و مدل «اعتبارسنجی ثالث پیش از عرضه» در سطح شهری سابقه ندارد. با این حال، ایده‌هایی مانند گزارش اجباری حادثه ایمنی و حمایت از افشاگر برای پیمانکاران دولتی می‌تواند در طراحی مقررات خرید دولتی هوش مصنوعی مورد توجه قرار گیرد. هر قیاس باید با ساختار حقوق اداری ایران سنجیده شود.

پرسش‌های متداول

آیا این لوایح قانون شده‌اند؟

خیر. طبق صفحه ثبت، Int 1100-2026 در ۸ اکتبر ۲۰۲۶ ثبت شده و در Committee of the Whole قرار دارد. سایر لوایح نیز در مرحله پیشنهاد هستند.

جریمه لایحه اعتبارسنجی چقدر است؟

طبق خلاصه رسمی، ۲۵٬۰۰۰ دلار برای هر مورد عرضه یا استقرار بدون اعتبارسنجی یا کلید توقف و برای جعل اعتبارسنجی.

کلید توقف یعنی چه؟

قابلیت فنی که اپراتور انسانی بتواند سامانه را خاموش کند؛ اعتبارسنج باید وجود و کارکرد آن را تأیید کند.

چه نهادی قواعد اجرایی را می‌نویسد؟

Cyber Command شهر نیویورک، از جمله قواعد صلاحیت اعتبارسنج‌ها.

آیا لایحه‌ای درباره دیپ‌فیک هم در بسته هست؟

بله؛ Introduction 504 به مقامات منتخب و نامزدها امکان می‌دهد تولید دیپ‌فیک از خود را منع کنند، با جریمه تا ۲٬۵۰۰ دلار برای هر تصویر.

جمع‌بندی

بسته هوش مصنوعی شورای شهر نیویورک جسورانه‌ترین تلاش محلی در آمریکا برای الزام اعتبارسنجی مستقل و کلید توقف است. اما تا تصویب، تعیین استاندارد اعتبارسنجی و حل پرسش‌های صلاحیتی راه درازی مانده است. شرکت‌هایی که در نیویورک فعالیت دارند باید روند را رصد و مستندات ایمنی خود را آماده کنند.

منابع

• https://council.nyc.gov/press/2026/09/25/3252/
• https://intro.nyc/1100-2026
• https://natlawreview.com/article/br-privacy-security-ai-download-october-2026