مسئولیت هوش مصنوعی در پزشکی: خطای تشخیص با کیست؟

این مقاله در حال بازبینی حقوقی است.

مسئولیت هوش مصنوعی در پزشکی یعنی تعیین اینکه وقتی یک سامانه هوشمند (مثلاً نرم‌افزار تحلیل تصاویر رادیولوژی یا سامانه پیشنهاد دارو) در تشخیص یا درمان اشتباه می‌کند و به بیمار آسیب می‌رسد، چه کسی باید خسارت را جبران کند یا پاسخگوی کیفری باشد. در حقوق فعلی ایران، خود هوش مصنوعی «شخص» حقوقی نیست و نمی‌تواند مسئول شناخته شود؛ بنابراین مسئولیت میان انسان‌ها و نهادهایی تقسیم می‌شود که آن را ساخته، فروخته، نصب کرده یا به کار برده‌اند: پزشک، مرکز درمانی و تولیدکننده یا عرضه‌کننده نرم‌افزار.

چرا این موضوع اکنون اهمیت دارد؟

ابزارهای هوش مصنوعی به‌سرعت وارد بیمارستان‌ها و مطب‌ها می‌شوند: از خواندن عکس‌های ریه و ماموگرافی گرفته تا پیش‌بینی خطر سکته و چت‌بات‌هایی که به پرسش‌های بیماران پاسخ می‌دهند. این ابزارها می‌توانند دقت و سرعت را بالا ببرند، اما هیچ‌کدام بی‌خطا نیستند. داده‌های آموزشی ناقص، تفاوت جمعیت بیماران ایرانی با داده‌های خارجی، به‌روزنشدن نرم‌افزار یا استفاده نادرست از آن، همه می‌توانند به تشخیص اشتباه منجر شوند.

نکته مهم این است که ایران تاکنون قانون ویژه‌ای برای مسئولیت ناشی از هوش مصنوعی در پزشکی تصویب نکرده است. قانون ملی توسعه هوش مصنوعی که در سال ۱۴۰۵ ابلاغ شد، بیشتر به ساختار نهادی، سطح‌بندی مخاطره و تأمین مالی می‌پردازد و تدوین اسناد مربوط به «حقوق و مسئولیت‌های مدنی و کیفری» هوش مصنوعی را به آینده سپرده است. پس فعلاً باید با قواعد عمومی مسئولیت پزشکی و مسئولیت مدنی پاسخ داد.

قواعد پایه مسئولیت پزشک در حقوق ایران

مسئولیت پزشک بر اساس قانون مجازات اسلامی

قانون مجازات اسلامی مصوب ۱۳۹۲ در ماده ۴۹۵ مقرر می‌کند که اگر پزشک در معالجاتی که انجام می‌دهد موجب تلف یا صدمه بدنی شود، ضامن دیه است، مگر آنکه عمل او مطابق مقررات پزشکی و موازین فنی باشد یا پیش از درمان از بیمار یا ولی او برائت گرفته باشد و مرتکب تقصیری هم نشود. ماده ۴۹۶ نیز پزشک را در معالجاتی که دستور انجام آن را به بیمار یا پرستار می‌دهد، در صورت ایجاد صدمه، ضامن می‌داند.

معنای عملی این مواد برای هوش مصنوعی روشن است: استفاده از یک نرم‌افزار، تصمیم نهایی را از دوش پزشک برنمی‌دارد. اگر پزشک بدون بررسی بالینی کافی، صرفاً به خروجی سامانه اعتماد کند و این کار خلاف موازین علمی باشد، ممکن است مقصر شناخته شود.

مفهوم تقصیر

در جرایم غیرعمدی، ماده ۱۴۵ قانون مجازات اسلامی تحقق جرم را منوط به احراز تقصیر می‌داند و تقصیر را اعم از بی‌احتیاطی و بی‌مبالاتی می‌داند؛ عدم مهارت و عدم رعایت نظامات دولتی از مصادیق آن‌ها به شمار می‌رود. در پرونده‌های هوش مصنوعی، پرسش‌های کلیدی این‌هاست: آیا پزشک می‌دانست ابزار برای این نوع بیمار تأیید نشده است؟ آیا هشدارهای نرم‌افزار را نادیده گرفت؟ آیا مرکز درمانی آموزش لازم را داده بود؟

سه بازیگر اصلی و سهم هرکدام

۱. پزشک یا کادر درمان

پزشک همچنان «تصمیم‌گیرنده نهایی» است. اگر هوش مصنوعی صرفاً ابزار کمکی باشد، معیار سنجش رفتار پزشک همان معیار «پزشک متعارف و محتاط» است. اگر یک پزشک متعارف با دیدن همان تصویر یا علائم، خطای سامانه را تشخیص می‌داد، اعتماد کورکورانه به نرم‌افزار می‌تواند تقصیر محسوب شود. برعکس، اگر خطا پنهان و فنی بوده و هیچ پزشک محتاطی متوجه آن نمی‌شد، انتساب تقصیر به پزشک دشوار است.

۲. بیمارستان یا مرکز درمانی

مرکزی که نرم‌افزار را خریده و در فرایند درمان گنجانده، وظیفه دارد ابزار معتبر و مجاز انتخاب کند، آن را به‌روز نگه دارد و کارکنان را آموزش دهد. ماده ۱ قانون مسئولیت مدنی هر کسی را که بدون مجوز قانونی، عمداً یا در نتیجه بی‌احتیاطی، به جان، سلامتی یا حقوق دیگری لطمه بزند، مسئول جبران خسارت می‌داند. همچنین ماده ۱۲ همان قانون کارفرمایان مشمول قانون کار را مسئول خساراتی می‌داند که کارکنانشان در حین کار یا به مناسبت آن وارد می‌کنند. بنابراین بیمارستان ممکن است هم به‌دلیل تقصیر سازمانی خود و هم به‌عنوان کارفرما پاسخگو باشد.

۳. تولیدکننده یا عرضه‌کننده نرم‌افزار

اگر خطا ناشی از نقص طراحی، داده آموزشی معیوب یا باگ نرم‌افزار باشد، تولیدکننده محور اصلی بحث است. قانون حمایت از حقوق مصرف‌کنندگان مصوب ۱۳۸۸ عرضه‌کنندگان کالا و خدمات را مسئول صحت و سلامت کالا و خدمات عرضه‌شده می‌داند. همچنین قواعد عمومی قانون مدنی درباره تسبیب (ماده ۳۳۱) و اتلاف (ماده ۳۲۸) می‌تواند پایه مطالبه خسارت باشد. البته اثبات اینکه خطا دقیقاً از الگوریتم بوده، معمولاً به کارشناسی فنی پیچیده نیاز دارد و ماهیت «جعبه سیاه» برخی مدل‌ها این کار را سخت‌تر می‌کند.

اثبات خطا: چالش جعبه سیاه

در پرونده‌های قصور پزشکی معمولاً کمیسیون پزشکی قانونی یا سازمان نظام پزشکی نظر کارشناسی می‌دهد. اما وقتی پای هوش مصنوعی در میان است، کارشناس باید به پرسش‌هایی پاسخ دهد که فقط پزشکی نیستند:

• سامانه با چه داده‌هایی آموزش دیده و آیا برای بیماران مشابه اعتبارسنجی شده است؟
• آیا نسخه نرم‌افزار به‌روز بوده است؟
• گزارش‌ها و لاگ‌های سامانه چه خروجی‌ای را در لحظه تصمیم نشان می‌دهند؟
• پزشک چه مقدار به این خروجی تکیه کرده است؟

به همین دلیل، نگهداری سوابق (لاگ) و مستندسازی نقش هوش مصنوعی در پرونده بیمار، هم برای مراکز درمانی و هم برای بیماران اهمیت حیاتی دارد.

رضایت آگاهانه و حق دانستن بیمار

اصل رضایت آگاهانه در پزشکی ایجاب می‌کند بیمار از روش‌های تشخیص و درمان و خطرات اصلی آن‌ها آگاه باشد. هرچند قانون ایران صراحتاً اطلاع‌دادن درباره استفاده از هوش مصنوعی را الزامی نکرده، اما از منظر اصول کلی، شفافیت درباره نقش تعیین‌کننده یک سامانه خودکار در تشخیص، هم اعتماد را افزایش می‌دهد و هم موقعیت حقوقی پزشک را تقویت می‌کند. برائت‌نامه‌ای که بیمار امضا می‌کند، طبق ماده ۴۹۵ فقط در صورت نبود تقصیر اثر دارد و پزشک را از پیامد بی‌احتیاطی معاف نمی‌کند.

هوش مصنوعی و داده‌های سلامت

سامانه‌های پزشکی با حساس‌ترین داده‌ها کار می‌کنند. ماده ۵۸ قانون تجارت الکترونیکی ذخیره، پردازش و توزیع داده‌پیام‌های شخصی راجع به وضعیت جسمانی و روانی اشخاص را بدون رضایت صریح آن‌ها غیرقانونی می‌داند. بنابراین ارسال پرونده بیماران به یک سرویس خارجی هوش مصنوعی بدون رضایت و ملاحظات امنیتی، می‌تواند خود منشأ مسئولیت مستقل باشد. برای جزئیات بیشتر، مقاله حمایت از داده‌های شخصی و لایحه حمایت از داده‌ها را ببینید.

توصیه‌های عملی

برای پزشکان: خروجی هوش مصنوعی را «نظر دوم» بدانید نه حکم نهایی؛ دلایل پذیرش یا رد پیشنهاد سامانه را در پرونده ثبت کنید.

برای مراکز درمانی: فقط از ابزارهای دارای مجوزهای لازم استفاده کنید، قرارداد روشنی درباره تقسیم مسئولیت و بیمه با فروشنده ببندید و آموزش کارکنان را مستند کنید.

برای بیماران: اگر آسیب دیده‌اید، سوابق کامل درمان را درخواست کنید و از وکیل یا کارشناس بخواهید نقش نرم‌افزار را هم بررسی کند. در آرتیلا می‌توانید درباره مسیر شکایت راهنمایی بگیرید.

نکات کلیدی

• در حقوق ایران، هوش مصنوعی شخصیت حقوقی ندارد و خودش مسئول خطای پزشکی شناخته نمی‌شود.
• استفاده از نرم‌افزار هوشمند، مسئولیت پزشک در قبال تصمیم نهایی درمان را از بین نمی‌برد.
• طبق ماده ۴۹۵ قانون مجازات اسلامی، برائت‌گرفتن از بیمار فقط در صورت نبود تقصیر، پزشک را از ضمان معاف می‌کند.
• اگر خطا از نقص طراحی نرم‌افزار باشد، تولیدکننده و عرضه‌کننده نیز می‌توانند مسئول جبران خسارت باشند.
• ایران هنوز قانون ویژه‌ای برای مسئولیت هوش مصنوعی در پزشکی ندارد و دادگاه‌ها از قواعد عمومی استفاده می‌کنند.

سوالات متداول

اگر هوش مصنوعی اشتباه کند، می‌توانم از سازنده آن شکایت کنم؟

بله، در صورتی که بتوانید نشان دهید آسیب ناشی از نقص طراحی یا عملکرد نرم‌افزار بوده است. مبنای چنین دعوایی قواعد عمومی مسئولیت مدنی، تسبیب و قانون حمایت از حقوق مصرف‌کنندگان است، و معمولاً به کارشناسی فنی نیاز دارد.

آیا پزشک می‌تواند بگوید «نرم‌افزار اشتباه کرد» و خود را تبرئه کند؟

نه به‌طور خودکار. پزشک باید ثابت کند مطابق موازین علمی رفتار کرده و یک پزشک محتاط نیز در همان شرایط متوجه خطا نمی‌شد. اعتماد بی‌قیدوشرط به خروجی سامانه ممکن است بی‌احتیاطی تلقی شود.

آیا قانون ملی توسعه هوش مصنوعی درباره خطای پزشکی حکمی دارد؟

خیر، این قانون حکم مستقیمی درباره مسئولیت خطای پزشکی ندارد و تدوین اسناد مربوط به مسئولیت‌های مدنی و کیفری هوش مصنوعی را به نهادهای مربوط سپرده است.

برای شکایت از قصور پزشکی ناشی از هوش مصنوعی به کجا مراجعه کنم؟

مسیرهای معمول شکایت از قصور پزشکی، یعنی دادسرا و دادگاه، و همچنین سازمان نظام پزشکی برای جنبه انتظامی، در این موارد هم قابل استفاده است. در شکایت، استفاده از هوش مصنوعی را صریحاً ذکر کنید تا کارشناسی فنی هم انجام شود.

آیا بیمارستان باید به من بگوید از هوش مصنوعی استفاده می‌کند؟

قانون ایران به‌صراحت چنین تکلیفی ندارد، اما اصل رضایت آگاهانه و حمایت از داده‌های سلامت، شفافیت را توصیه می‌کند؛ به‌ویژه وقتی داده‌های شما به سرویس دیگری منتقل می‌شود.