چت‌بات همدم و کودکان: قوانین جدید حمایت از نوجوانان

این مقاله در حال بازبینی حقوقی است.

تعریف: چت‌بات همدم (Companion Chatbot) سامانه هوش مصنوعی‌ای است که برای گفت‌وگوی شبه‌انسانی، دوستانه یا عاطفی و ایجاد رابطه مستمر با کاربر طراحی شده است. نگرانی اصلی درباره چت‌بات همدم و کودکان این است که نوجوانان ممکن است به این سامانه‌ها وابستگی عاطفی پیدا کنند، در معرض محتوای جنسی یا آسیب‌زا قرار گیرند یا در بحران روانی، به‌جای کمک واقعی، پاسخ نامناسب دریافت کنند. کالیفرنیا نخستین قانون اختصاصی این حوزه (SB 243) را از ۱ ژانویه ۲۰۲۶ اجرا کرده است.

گزارش‌ها و دعاوی متعدد در سال‌های اخیر درباره نقش چت‌بات‌ها در آسیب به نوجوانان، این موضوع را به یکی از داغ‌ترین مباحث حقوق فناوری تبدیل کرده است. این مقاله قوانین و اقدامات نظارتی جدید را مرور می‌کند و چارچوب حقوق ایران را توضیح می‌دهد. برای مبانی کلی، مقاله حقوق هوش مصنوعی را ببینید.

چرا چت‌بات‌های همدم خطرناک‌اند؟

• وابستگی عاطفی: طراحی برای «همیشه در دسترس بودن» و تأیید مداوم کاربر می‌تواند جایگزین روابط واقعی شود.
• محتوای نامناسب: برخی سامانه‌ها گفت‌وگوهای جنسی یا خشونت‌آمیز را با کاربران کم‌سن ادامه داده‌اند.
• پاسخ نادرست در بحران: کاربری که از خودآزاری یا افکار خودکشی سخن می‌گوید، ممکن است به‌جای ارجاع به کمک تخصصی، تأیید یا بی‌توجهی دریافت کند.
• جمع‌آوری داده: گفت‌وگوهای صمیمی، حساس‌ترین اطلاعات روحی و خانوادگی کودک را در اختیار شرکت قرار می‌دهد.

بیان قابل نقل: خطر چت‌بات همدم برای نوجوانان فقط محتوای نامناسب نیست؛ وابستگی عاطفی و پاسخ نادرست در بحران روانی، مهم‌ترین نگرانی قانون‌گذاران است.

کالیفرنیا: قانون SB 243

قانون SB 243 که در ۱۳ اکتبر ۲۰۲۵ به امضای فرماندار کالیفرنیا رسید و از ۱ ژانویه ۲۰۲۶ اجرایی شده، این تکالیف را بر گردانندگان سکوهای چت‌بات همدم گذاشته است:

• اگر کاربر معقول ممکن است گمان کند با انسان صحبت می‌کند، باید اعلان روشن داده شود که چت‌بات مصنوعی است و انسان نیست.
• چت‌بات نباید با کاربران تعامل کند مگر اینکه گرداننده پروتکلی برای جلوگیری از تولید محتوای مرتبط با خودکشی و خودآزاری داشته باشد؛ از جمله ارجاع کاربر به خطوط کمک بحران. جزئیات این پروتکل باید در وب‌سایت منتشر شود.
• برای کاربری که گرداننده می‌داند نابالغ است:
• اعلام اینکه با هوش مصنوعی در تعامل است؛
• یادآوری پیش‌فرض دست‌کم هر سه ساعت برای استراحت و یادآوری مصنوعی بودن چت‌بات؛
• اقدامات معقول برای جلوگیری از تولید محتوای تصویری جنسی یا ترغیب نابالغ به رفتار جنسی.
• اعلام اینکه چت‌بات‌های همدم ممکن است برای برخی نابالغان مناسب نباشند.
• از ۱ ژوئیه ۲۰۲۷، گزارش سالانه به نهاد مربوط الزامی است.

ایالات متحده: تحقیق FTC

کمیسیون تجارت فدرال آمریکا (FTC) در سپتامبر ۲۰۲۵ با صدور دستورهای موضوع بخش 6(b)، از هفت شرکت شامل Alphabet، Character Technologies، Instagram، Meta، OpenAI، Snap و xAI خواست درباره نحوه سنجش و کاهش آثار منفی چت‌بات‌های همدم بر کودکان و نوجوانان، محدودیت‌های سنی و رویه‌های داده اطلاعات ارائه کنند.

اروپا: جریمه Replika

سازمان حفاظت از داده ایتالیا (Garante) در سال ۲۰۲۵ شرکت Luka Inc.، گرداننده چت‌بات Replika، را به دلیل نداشتن مبنای قانونی برای پردازش داده، نقص در اطلاع‌رسانی حریم خصوصی و نبود سازوکار مؤثر تأیید سن به پرداخت ۵ میلیون یورو جریمه محکوم کرد. قانون هوش مصنوعی اتحادیه اروپا نیز از ۲ اوت ۲۰۲۶، طبق ماده ۵۰، اطلاع‌رسانی به کاربران درباره تعامل با سامانه هوش مصنوعی را الزامی کرده است.

بیان قابل نقل: تأیید سن، اعلام مصنوعی بودن و پروتکل بحران، سه محور اصلی قوانین جدید حمایت از کودکان در برابر چت‌بات‌های همدم است.

حقوق ایران

قانون حمایت از اطفال و نوجوانان (۱۳۹۹)

ایران قانون خاصی برای چت‌بات‌ها ندارد، اما قانون حمایت از اطفال و نوجوانان مصوب ۱۳۹۹ مبنای مهمی است. طبق ماده ۱۰ این قانون، از جمله:

• در دسترس قرار دادن یا ارائه محتوای مستهجن یا مبتذل به طفل یا نوجوان جرم است (بند ۶)؛
• برقراری ارتباط با طفل و نوجوان در فضای مجازی به منظور آزار جنسی یا ارتباط جنسی نامشروع جرم است (بند ۹).

پرسش حقوقی تازه این است که آیا شرکتی که چت‌بات آن چنین محتوایی تولید می‌کند، مشمول این احکام می‌شود. با توجه به لزوم احراز عنصر روانی در جرائم، مسئولیت کیفری شرکت به بی‌احتیاطی یا علم مدیران بستگی دارد؛ اما مسئولیت مدنی طبق ماده ۱ قانون مسئولیت مدنی قابل طرح است.

قانون ملی توسعه هوش مصنوعی

طبق بند «ح» ماده ۱ قانون ملی توسعه هوش مصنوعی، سامانه‌ها به سطوح کم‌مخاطره، مخاطره محدود، پرمخاطره و بسیار پرمخاطره قابل دسته‌بندی‌اند و مصادیق این سطوح باید در مقررات اجرایی تعیین شود. اینکه چت‌بات‌های همدمِ در دسترس کودکان در کدام سطح قرار می‌گیرند، از پرسش‌های مهمی است که مقررات اجرایی باید به آن پاسخ دهد. مقاله آیین‌نامه‌های قانون ملی توسعه هوش مصنوعی را ببینید.

چرا قواعد عمومی کافی نیست؟

قواعد سنتی حمایت از کودکان برای رفتار انسان‌ها نوشته شده‌اند: کسی که محتوای مستهجن را عمداً به کودک نشان می‌دهد یا با او ارتباط مجرمانه برقرار می‌کند. در چت‌بات همدم، محتوا را مدل زبانی در لحظه تولید می‌کند و هیچ انسانی تک‌تک پاسخ‌ها را نمی‌بیند. به همین دلیل، قوانین جدید به‌جای تمرکز بر یک پیام خاص، بر طراحی سامانه تمرکز کرده‌اند: آیا سازوکار تأیید سن وجود دارد؟ آیا پروتکل بحران تعریف شده است؟ آیا یادآوری مصنوعی بودن در فواصل معین نمایش داده می‌شود؟ این رویکرد «ایمنی از طریق طراحی» مسئولیت را از سطح محتوا به سطح محصول منتقل می‌کند و برای قانون‌گذار ایرانی نیز الگوی قابل توجهی است.

راهنمای والدین

1. بدانید فرزندتان از کدام اپلیکیشن‌ها استفاده می‌کند: بسیاری از چت‌بات‌ها درون بازی‌ها و شبکه‌های اجتماعی تعبیه شده‌اند.
2. درباره ماهیت هوش مصنوعی صحبت کنید: به کودک توضیح دهید که چت‌بات دوست واقعی نیست و احساس ندارد.
3. تنظیمات سنی و کنترل والدین را فعال کنید.
4. به نشانه‌های وابستگی توجه کنید: گوشه‌گیری، استفاده شبانه طولانی یا ناراحتی شدید هنگام قطع دسترسی.
5. در بحران، کمک تخصصی بگیرید: اگر نشانه‌ای از افکار خودآزاری دیدید، فوراً با مشاور یا اورژانس اجتماعی تماس بگیرید.
6. در صورت محتوای مجرمانه، گزارش دهید: به پلیس فتا. مقاله شکایت دیپ‌فیک در پلیس فتا مراحل شکایت را توضیح می‌دهد.

توصیه به توسعه‌دهندگان ایرانی

• سازوکار تأیید سن و حالت ویژه نوجوانان طراحی کنید.
• پروتکل ارجاع به خطوط کمک در گفت‌وگوهای مربوط به خودآزاری داشته باشید.
• محتوای جنسی را برای کاربران نابالغ به‌طور کامل مسدود کنید.
• داده گفت‌وگوها را حداقلی جمع کنید و رمزنگاری کنید. مقاله حریم خصوصی بیومتریک درباره مصوبه حریم خصوصی فضای مجازی را ببینید.

برای ارزیابی حقوقی محصول، از وکلای متخصص آرتیلا مشاوره بگیرید.

پرسش‌های متداول

چت‌بات همدم چیست؟

سامانه هوش مصنوعی‌ای که برای گفت‌وگوی شبه‌انسانی و ایجاد رابطه عاطفی یا دوستانه مستمر با کاربر طراحی شده است.

قانون SB 243 کالیفرنیا چه تکالیفی دارد؟

اعلام مصنوعی بودن چت‌بات، داشتن پروتکل پیشگیری از محتوای خودکشی و خودآزاری، یادآوری استراحت هر سه ساعت برای نابالغان و جلوگیری از محتوای جنسی برای آنان؛ این قانون از ۱ ژانویه ۲۰۲۶ اجرایی است.

آیا در ایران قانونی درباره چت‌بات و کودکان وجود دارد؟

قانون خاصی وجود ندارد، اما ماده ۱۰ قانون حمایت از اطفال و نوجوانان ارائه محتوای مستهجن به کودک و ارتباط مجازی با هدف آزار جنسی را جرم دانسته است.

چرا Replika در ایتالیا جریمه شد؟

به دلیل نداشتن مبنای قانونی پردازش داده، نقص در اطلاع‌رسانی و نبود تأیید سن مؤثر، به ۵ میلیون یورو جریمه محکوم شد.

والدین چه کاری می‌توانند انجام دهند؟

شناخت اپلیکیشن‌ها، گفت‌وگو درباره ماهیت هوش مصنوعی، فعال کردن کنترل والدین و توجه به نشانه‌های وابستگی و بحران.

جمع‌بندی

چت‌بات‌های همدم از ابزار سرگرمی به موضوع جدی حمایت از کودکان تبدیل شده‌اند. کالیفرنیا با SB 243، FTC با تحقیق گسترده و ایتالیا با جریمه Replika مسیر تنظیم‌گری را نشان داده‌اند. در ایران، قانون حمایت از اطفال و نوجوانان و قانون ملی توسعه هوش مصنوعی مبنای حمایت است. این مقاله جنبه اطلاع‌رسانی دارد و جایگزین مشاوره حقوقی یا روان‌شناختی نیست.

منابع

• California Legislature, SB-243 Companion chatbots (Chapter 677, Statutes of 2025): https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB243
• SB-243 Bill History: https://leginfo.legislature.ca.gov/faces/billHistoryClient.xhtml?bill_id=202520260SB243
• FTC, “FTC Launches Inquiry into AI Chatbots Acting as Companions” (Sept 2025): https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-launches-inquiry-ai-chatbots-acting-companions
• Garante Privacy, comunicato stampa su Replika (Luka Inc.): https://garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/10132048
• ماده ۱۰ قانون حمایت از اطفال و نوجوانان (۱۳۹۹)، داودآبادی: https://davoudabadi.ir/page/6514392/
• هوشیو، «قانون ملی توسعه هوش مصنوعی چیست و چه می‌گوید؟»: https://hooshio.com/what-is-iran-national-ai-development-law/
• AI Act, Article 50: https://artificialintelligenceact.eu/article/50/