مسئولیت هوش مصنوعی در پزشکی: خطای تشخیص با کیست؟

این مقاله در حال بازبینی حقوقی است.

تعریف: مسئولیت هوش مصنوعی در پزشکی به قواعدی گفته می‌شود که تعیین می‌کنند وقتی ابزار هوشمند تشخیص، تفسیر تصویر یا پیشنهاد درمان موجب آسیب به بیمار شود، کدام شخص (پزشک، مرکز درمانی، سازنده نرم‌افزار یا تأمین‌کننده داده) باید خسارت را جبران کند یا پاسخ‌گوی کیفری باشد. در حقوق ایران، هوش مصنوعی شخصیت حقوقی ندارد و مسئولیت همیشه به انسان یا شخص حقوقی برمی‌گردد.

ابزارهای هوش مصنوعی امروز در خواندن تصاویر رادیولوژی، تفسیر نوار قلب، غربالگری بیماری‌ها و پیش‌نویس گزارش‌های بالینی به کار می‌روند. پرسش حقوقی اصلی ساده است اما پاسخ آن پیچیده: اگر پزشک به پیشنهاد نادرست نرم‌افزار اعتماد کند و بیمار آسیب ببیند، چه کسی مسئول است؟ این مقاله پاسخ را بر اساس قوانین فعلی ایران و تحولات بین‌المللی بررسی می‌کند. برای آشنایی با مبانی کلی، مقاله حقوق هوش مصنوعی: مسئولیت، قانون AI اروپا و ایران را نیز ببینید.

مبنای قانونی مسئولیت پزشک در ایران

ماده ۴۹۵ قانون مجازات اسلامی

مهم‌ترین مبنای مسئولیت پزشک در حقوق ایران ماده ۴۹۵ قانون مجازات اسلامی است. طبق این ماده، هرگاه پزشک در معالجاتی که انجام می‌دهد موجب تلف یا صدمه بدنی شود، ضامن دیه است، مگر آنکه عمل او مطابق مقررات پزشکی و موازین فنی باشد یا پیش از معالجه برائت گرفته و مرتکب تقصیری هم نشده باشد. تبصره ۱ این ماده تصریح می‌کند در صورت عدم قصور یا تقصیر پزشک در علم و عمل، برای وی ضمانی وجود ندارد، هرچند برائت نگرفته باشد.

معنای این ماده در عصر هوش مصنوعی

عبارت «مطابق مقررات پزشکی و موازین فنی» کلید تحلیل است. پزشکی که از ابزار هوشمند استفاده می‌کند، با دو پرسش روبه‌رو می‌شود:

• آیا استفاده از این ابزار خودش با موازین فنی سازگار بوده است؟ استفاده از نرم‌افزاری که مجوز لازم را ندارد یا خارج از کاربرد تعیین‌شده به کار رفته، می‌تواند نشانه تقصیر باشد.
• آیا پزشک نظارت متعارف داشته است؟ پذیرش بی‌چون‌وچرای خروجی الگوریتم، بدون بررسی بالینی، ممکن است «تقصیر در عمل» تلقی شود.

بیان قابل نقل: در حقوق فعلی ایران، هوش مصنوعی ابزار پزشک است نه جانشین او؛ بنابراین مسئولیت تصمیم بالینی همچنان بر عهده پزشک است.

نقش‌آفرینان و مسئولیت هر کدام

پزشک

پزشک مسئول تصمیم نهایی است. اگر خروجی الگوریتم با یافته‌های بالینی تعارض داشته باشد و پزشک بدون بررسی بیشتر بر اساس آن عمل کند، تبرئه او بر اساس تبصره ۱ ماده ۴۹۵ دشوار می‌شود. در مقابل، اگر پزشک طبق موازین عمل کرده و خطا ناشی از نقص پنهان نرم‌افزار بوده باشد، ممکن است مسئولیتی متوجه او نباشد.

مرکز درمانی

بیمارستان یا کلینیکی که ابزار هوشمند را خریداری و در فرایند درمان مستقر می‌کند، در انتخاب ابزار مجاز، آموزش کارکنان و نگهداری سامانه نقش دارد. بر اساس ماده ۱ قانون مسئولیت مدنی، هر کس بدون مجوز قانونی، عمداً یا در نتیجه بی‌احتیاطی به جان یا سلامتی دیگری لطمه بزند، مسئول جبران ضرر مادی و معنوی است؛ این قاعده می‌تواند مبنای دعوای مدنی علیه مرکز درمانی نیز باشد.

سازنده یا تأمین‌کننده نرم‌افزار

اگر خطا ناشی از طراحی معیوب الگوریتم، داده آموزشی ناقص یا نبود هشدار کافی درباره محدودیت‌های ابزار باشد، سازنده نیز می‌تواند بر اساس قواعد عمومی مسئولیت مدنی مسئول شناخته شود. اثبات این نوع تقصیر معمولاً به کارشناسی فنی و دسترسی به مستندات سازنده نیاز دارد.

مجوز ابزارهای هوش مصنوعی پزشکی

استفاده بالینی از نرم‌افزارهای هوشمند، فقط با مجوز نهاد ناظر ایمن است. برای نمونه، شیوه‌نامه استفاده از هوش مصنوعی مصوب ۲۳ آذر ۱۴۰۴ دانشگاه علوم پزشکی گلستان، استفاده از ابزارهای هوش مصنوعی در تشخیص پزشکی، ارائه طرح درمان، تفسیر نتایج آزمایشگاه و تصاویر پزشکی و پردازش ژنومی را بدون تأییدیه سازمان غذا و دارو یا نهاد ناظر وزارت بهداشت غیرمجاز دانسته است. این سند یک مقرره دانشگاهی است، نه قانون ملی، اما نشان می‌دهد مراکز درمانی و آموزشی به سمت الزام به مجوز رسمی حرکت می‌کنند.

در سطح ملی، قانون ملی توسعه هوش مصنوعی (۱۴۰۵) مرکزی برای «ارزیابی و تأیید امنیت سامانه‌های هوش مصنوعی» پیش‌بینی کرده که باید سطوح مخاطره را تعیین کند (ماده ۷) و تدوین اسناد مربوط به «حقوق و مسؤولیت‌های مدنی و کیفری» هوش مصنوعی را به آینده سپرده است (بند «پ» ماده ۴). جزئیات این آیین‌نامه‌ها را در مقاله آیین‌نامه‌های قانون ملی توسعه هوش مصنوعی دنبال کنید.

رضایت آگاهانه و برائت در استفاده از هوش مصنوعی

ماده ۴۹۵ به «برائت» اشاره می‌کند؛ یعنی اعلام رضایت بیمار پیش از درمان. اما برائت، پزشک را از مسئولیت تقصیر معاف نمی‌کند؛ متن ماده شرط کرده که پزشک «مرتکب تقصیری هم نشود». در عمل، توصیه می‌شود:

• در فرم رضایت، استفاده از ابزار هوشمند در فرایند تشخیص یا درمان ذکر شود.
• محدودیت‌های شناخته‌شده ابزار به زبان ساده برای بیمار توضیح داده شود.
• تصمیم نهایی و دلیل پذیرش یا رد پیشنهاد الگوریتم در پرونده پزشکی ثبت شود.

رویکرد بین‌المللی

رهنمود سازمان جهانی بهداشت

سازمان جهانی بهداشت در ژانویه ۲۰۲۴ رهنمود «اخلاق و حاکمیت هوش مصنوعی برای سلامت: مدل‌های چندوجهی بزرگ» را منتشر کرد که بیش از ۴۰ توصیه برای دولت‌ها، شرکت‌های فناوری و ارائه‌دهندگان خدمات سلامت دارد. از جمله، WHO توصیه می‌کند دولت‌ها یک نهاد تنظیم‌گر موجود یا جدید را برای ارزیابی و تأیید این مدل‌ها تعیین کنند و ممیزی و ارزیابی اثر پس از عرضه را برای استقرار گسترده الزامی کنند. این رهنمود بر رهنمود ژوئن ۲۰۲۱ WHO و شش اصل آن، از جمله حفظ خودمختاری انسان و تضمین شفافیت، استوار است.

اتحادیه اروپا

در قانون هوش مصنوعی اتحادیه اروپا، سامانه‌هایی که جزء ایمنی محصولات مشمول قوانین هماهنگ‌شده اتحادیه (مانند تجهیزات پزشکی) هستند، در دسته پرریسک پیوست I قرار می‌گیرند. پس از اصلاحیه موسوم به Digital Omnibus، تکالیف این دسته از ۲ اوت ۲۰۲۸ اعمال می‌شود. همچنین دستورالعمل جدید مسئولیت محصول (۲۰۲۴/۲۸۵۳) نرم‌افزار و سامانه‌های AI را «محصول» می‌داند و برای محصولاتی که از ۹ دسامبر ۲۰۲۶ عرضه شوند، مسئولیت بدون تقصیر تولیدکننده را پیش‌بینی می‌کند.

چک‌لیست حقوقی برای پزشکان و مراکز درمانی

1. فقط از ابزارهای دارای مجوز نهاد ناظر وزارت بهداشت یا سازمان غذا و دارو استفاده کنید.
2. کاربرد تعیین‌شده (intended use) ابزار را بشناسید و از آن خارج نشوید.
3. خروجی الگوریتم را همیشه با معاینه و یافته‌های بالینی تطبیق دهید.
4. پذیرش یا رد پیشنهاد الگوریتم و دلیل آن را در پرونده ثبت کنید.
5. در قرارداد خرید نرم‌افزار، تعهد سازنده به جبران خسارت ناشی از نقص، به‌روزرسانی و نگهداری لاگ را درج کنید.
6. بیمه مسئولیت حرفه‌ای را از نظر پوشش خطاهای مرتبط با ابزارهای دیجیتال بررسی کنید.
7. اطلاعات بیماران را بدون مجوز وارد چت‌بات‌های عمومی نکنید.

پرسش‌های متداول

اگر هوش مصنوعی تشخیص اشتباه بدهد، پزشک مسئول است؟

اصولاً بله، اگر پزشک بدون بررسی متعارف بالینی به خروجی اعتماد کرده باشد. طبق ماده ۴۹۵ قانون مجازات اسلامی، پزشک فقط در صورتی ضامن نیست که مطابق مقررات پزشکی و موازین فنی عمل کرده و تقصیری نداشته باشد.

آیا می‌توان از سازنده نرم‌افزار پزشکی شکایت کرد؟

بله، اگر خطا ناشی از نقص طراحی، داده آموزشی معیوب یا نبود هشدار کافی باشد، دعوای مسئولیت مدنی بر اساس ماده ۱ قانون مسئولیت مدنی قابل طرح است؛ اثبات آن معمولاً به کارشناسی فنی نیاز دارد.

آیا امضای فرم رضایت، پزشک را از مسئولیت خطای هوش مصنوعی معاف می‌کند؟

خیر. برائت فقط در صورتی مؤثر است که پزشک مرتکب تقصیر نشده باشد. استفاده بدون نظارت از ابزار هوشمند می‌تواند تقصیر محسوب شود.

آیا استفاده از ChatGPT برای تشخیص بیماری مجاز است؟

ابزارهای عمومی برای تشخیص بالینی طراحی و تأیید نشده‌اند. برخی مقررات دانشگاهی، استفاده بالینی از ابزارهای فاقد تأییدیه سازمان غذا و دارو یا نهاد ناظر وزارت بهداشت را غیرمجاز دانسته‌اند.

قانون هوش مصنوعی اروپا درباره ابزارهای پزشکی چه می‌گوید؟

سامانه‌های AI که جزء ایمنی تجهیزات پزشکی هستند، در دسته پرریسک قرار می‌گیرند و پس از اصلاحیه ۲۰۲۶، تکالیف آن‌ها از ۲ اوت ۲۰۲۸ اعمال می‌شود.

جمع‌بندی

در حقوق ایران، ماده ۴۹۵ قانون مجازات اسلامی و ماده ۱ قانون مسئولیت مدنی چارچوب اصلی مسئولیت در خطاهای پزشکی مرتبط با هوش مصنوعی را تشکیل می‌دهند. پزشک مسئول تصمیم نهایی است، اما مرکز درمانی و سازنده نرم‌افزار نیز ممکن است در کنار او مسئول باشند. قواعد اختصاصی مسئولیت AI در قانون ملی توسعه هوش مصنوعی به آینده سپرده شده است. برای بررسی پرونده‌های قصور پزشکی، راهنمای قصور پزشکی و دیه درمان آرتیلا و شبکه متخصصان حقوقی آرتیلا را ببینید. این مقاله جنبه اطلاع‌رسانی دارد و جایگزین مشاوره حقوقی یا پزشکی نیست.

منابع

• ماده ۴۹۵ قانون مجازات اسلامی، عدالت‌سرا: https://edalatsara.com/rules/قانون-مجازات-اسلامی/ماده-۴۹۵
• ماده ۱ قانون مسئولیت مدنی، وکیلیک: https://vakilik.com/laws/view/MTQ1OQ
• شیوه‌نامه استفاده از هوش مصنوعی در فعالیت‌های علمی، دانشگاه علوم پزشکی گلستان (۱۴۰۴): https://goums.ac.ir/files/deputy_research/files/hoshmasnoei.pdf
• متن قانون ملی توسعه هوش مصنوعی (۱۴۰۵): https://shenasname.ir/laws/84376
• WHO, Ethics and governance of AI for health: Guidance on large multi-modal models: https://www.who.int/publications/i/item/9789240084759/
• WHO news release (18 Jan 2024): https://www.who.int/tokelau/news/detail-global/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models
• European Commission, AI Act Service Desk – Timeline: https://ai-act-service-desk.ec.europa.eu/en/ai-act/timeline/timeline-implementation-eu-ai-act
• Directive (EU) 2024/2853, EUR-Lex: https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=celex:32024L2853