آیا هوش مصنوعی می‌تواند مجرم شناخته شود؟ بررسی مسئولیت کیفری هوش مصنوعی در قانون ایران

هوش مصنوعی در حال ورود به حوزه‌هایی است که تصمیم‌های آن می‌تواند بر مال، سلامت، حیثیت و امنیت اشخاص اثر بگذارد. از تولید محتوای جعلی و کلاهبرداری تا خطای الگوریتم پزشکی یا تصادف خودروهای مجهز به سامانه‌های خودکار، هر روز بر تعداد موقعیت‌هایی افزوده می‌شود که در آن رفتار یک سامانه هوشمند ممکن است زیان‌بار باشد. پرسش اصلی این است که اگر چنین رفتاری واجد وصف مجرمانه باشد، آیا هوش مصنوعی می‌تواند مجرم شناخته شود یا مسئولیت متوجه اشخاصی است که از آن استفاده کرده‌اند؛ یا پدیدآورندگان هوش مصنوعی؟ تا زمان تاریخ نگارش این مقاله در بلاگ پلتفرم حقوقی ترازو، هیچ نظام حقوقی شناخته‌شده‌ای هوش مصنوعی را به‌عنوان «شخص دارای مسئولیت کیفری» نپذیرفته است. با این‌حال، این پاسخ مساله را حل نمی‌کند؛ بلکه آن را به پرسش مهم‌تری تبدیل می‌کند: مسئولیت ناشی از عملکرد زیان‌بار یا مجرمانه هوش مصنوعی به توسعه‌دهنده، کاربر، مالک یا بهره‌بردار سامانه منتقل می‌شود؟

مسئولیت کیفری چیست و چرا هوش مصنوعی آن را ندارد؟

مسئولیت کیفری زمانی شکل می‌گیرد که رفتار ممنوع، قابل انتساب به مرتکب باشد و مرتکب نیز از شرایط لازم برای تحمل پاسخ کیفری برخوردار باشد. در نظام‌های حقوقی مختلف، اصطلاحات و جزئیات متفاوت است، اما ۳ عنصر زیر در تحلیل مسئولیت کیفری نقش اساسی دارند:

۱- فعل مجرمانه یا عنصر مادی: رفتار خارجی ممنوع، مانند ربودن مال، انتشار محتوای مجرمانه، ورود غیرمجاز به سامانه یا ایراد صدمه. هوش مصنوعی می‌تواند خروجی ایجاد کند یا فرمانی را در یک سامانه اجرا کند؛ اما انتساب حقوقی این رفتار همچنان باید به شخص یا سازمان مسئول انجام شود.

۲- قصد مجرمانه یا عنصر روانی: علم، قصد، عمد، بی‌احتیاطی یا وضعیت روانی لازم برای تحقق جرم. یک مدل هوش مصنوعی ممکن است بر اساس داده‌ها، الگوهای آماری و دستورهای محاسباتی، خروجی زیان‌بار تولید کند؛ اما این فرایند، به‌خودی‌خود قصد مجرمانه حقوقی محسوب نمی‌شود.

۳- اهلیت و قابلیت انتساب کیفری: مرتکب باید بتواند مخاطب امر و نهی قانونی قرار گیرد و مجازات درباره او معنا داشته باشد. در حقوق ایران، ماده ۱۴۰ قانون مجازات اسلامی تحقق مسئولیت کیفری را در حدود، قصاص و تعزیرات، منوط به عاقل، بالغ و مختار بودن مرتکب دانسته است. هوش مصنوعی نه شخص حقیقی است و نه تاکنون به‌عنوان شخص حقوقی مستقل به‌ رسمیت شناخته شده است.

چرا «قصد» برای هوش مصنوعی معنایی ندارد؟

هوش مصنوعی می‌تواند رفتاری پیچیده، پیش‌بینی‌ناپذیر یا حتی زیان‌بار داشته باشد، اما در هیچ چارچوب حقوقی شناخته‌شده‌ای «اراده»، «علم به خلاف» یا «قصد مجرمانه» به آن نسبت داده نمی‌شود. مدل هوش مصنوعی خروجی را بر اساس معماری، داده‌های آموزشی، دستور کاربر و قواعد بهینه‌سازی تولید می‌کند؛ این امر با تصمیم آگاهانه انسانی برای ارتکاب جرم یکسان نیست.

از این منظر، مقایسه هوش مصنوعی با حیوان یا ماشین‌آلات صنعتی ممکن است. حیوان ممکن است به دیگری آسیب بزند، اما مجرم شناخته نمی‌شود؛ مسئولیت احتمالی متوجه مالک یا نگهدارنده است. ماشین صنعتی نیز ممکن است بر اثر نقص فنی موجب مرگ یا خسارت شود، اما موضوع مسئولیت، طراحی، تولید، نگهداری یا بهره‌برداری از آن است، نه خود ماشین.

جرایم ناشی از هوش مصنوعی

گسترش هوش مصنوعی، در کنار مزایای فراوان، امکان سوءاستفاده از این فناوری برای ارتکاب برخی جرایم و رفتارهای زیان‌بار را نیز افزایش داده است. تولید محتوای جعلی، شبیه‌سازی صدا و تصویر اشخاص، فریب کاربران، حملات سایبری و حتی استفاده از سامانه‌های خودکار در تصمیم‌های حساس، از جمله مواردی هستند که می‌توانند با مسائل حقوقی و کیفری همراه شوند.

البته «جرم هوش مصنوعی» تعبیر دقیقی برای توصیف مجرم بودن خود سامانه نیست. هوش مصنوعی در بیشتر این موارد، ابزار یا وسیله ارتکاب رفتار مجرمانه است و مسئولیت کیفری اصولا متوجه شخصی است که آگاهانه از آن برای انجام جرم استفاده کرده است. در مقابل، اگر عملکرد نادرست یا پیش‌بینی‌نشده یک سامانه موجب ورود خسارت شود، موضوع مسئولیت ممکن است نیازمند بررسی نقش طراح، تولیدکننده، مالک، بهره‌بردار یا کاربر سامانه باشد.

بنابراین، صرف استفاده از هوش مصنوعی نه جرم است و نه به‌ تنهایی موجب مسئولیت کیفری می‌شود؛ بلکه باید نوع رفتار، نحوه استفاده از فناوری و شرایط قانونی هر مورد بررسی شود. مهم‌ترین نمونه‌های این موضوع عبارت‌ است از:

کلاهبرداری و فریب با محتوای تولید شده توسط هوش مصنوعی

هوش مصنوعی می‌تواند برای تولید پیام‌های جعلی، ایمیل‌های متقاعدکننده، تصاویر ساختگی یا شبیه‌سازی صدای اشخاص مورد استفاده قرار گیرد و از این طریق، زمینه فریب قربانیان و ارتکاب کلاهبرداری فراهم شود. اگر فردی با استفاده از این ابزار و با هدف بردن مال دیگری، اقداماتی را انجام دهد که سایر عناصر قانونی جرم کلاهبرداری نیز در آن وجود داشته باشد، مسئولیت کیفری متوجه شخص مرتکب خواهد بود، نه سامانه یا مدل هوش مصنوعی مورد استفاده. 

تولید دیپ‌فیک و نقض حیثیت اشخاص

تولید یا انتشار تصاویر، صداها و ویدئوهای جعلی با استفاده از هوش مصنوعی، بسته به محتوا و نحوه استفاده، می‌تواند با عناوینی مانند هتک حیثیت، افترا، تهدید، مزاحمت، اخاذی یا نقض حریم خصوصی مرتبط باشد. صرف تولید محتوای جعلی لزوما جرم مستقلی محسوب نمی‌شود؛ بلکه هدف از تولید، نحوه انتشار، محتوای آن و آثار ایجاد شده، در تعیین مسئولیت قانونی اهمیت دارد. 

حملات سایبری و تولید بدافزار

هوش مصنوعی می‌تواند برای شناسایی آسیب‌پذیری‌های امنیتی، تولید کدهای مخرب یا خودکارسازی حملات سایبری استفاده شود. در چنین شرایطی، اگر شخصی آگاهانه از این ابزار برای اقداماتی مانند ورود غیرمجاز به سامانه‌ها، تخریب یا تغییر داده‌ها یا ایجاد اختلال در خدمات استفاده کند، مسئولیت کیفری احتمالی متوجه رفتار او خواهد بود. استفاده از هوش مصنوعی، به‌ خودی‌ خود موجب رفع مسئولیت ناشی از اقدامات مجرمانه کاربر نمی‌شود. 

تصمیم‌های تبعیض‌آمیز یا زیان‌بار در خدمات حساس

استفاده از سامانه‌های هوش مصنوعی برای تصمیم‌گیری در حوزه‌هایی مانند استخدام، اعطای تسهیلات، بیمه یا خدمات درمانی ممکن است به تصمیم‌های نادرست یا تبعیض‌آمیز منجر شود. با این‌حال، هر تصمیم نادرست یا زیان‌بار لزوما جرم محسوب نمی‌شود. برای تحقق مسئولیت کیفری باید عنوان مجرمانه، عناصر لازم جرم، از جمله قصد یا تقصیر در موارد مقتضی، و رابطه سببیت میان رفتار و نتیجه احراز شود. در غیر این صورت، موضوع ممکن است در حوزه مسئولیت مدنی یا انتظامی قابل بررسی باشد. 

صدمه ناشی از سامانه‌های خودکار

خودروهای خودران، ربات‌های صنعتی و سامانه‌های پزشکی مبتنی بر هوش مصنوعی ممکن است بدون دخالت مستقیم انسان، تصمیمی بگیرند که موجب ورود خسارت یا آسیب به دیگری شود. در این موارد، تعیین مسئولیت نیازمند بررسی منشا خطا است؛ برای مثال، باید مشخص شود مشکل ناشی از طراحی سامانه، نرم‌افزار، داده‌های مورد استفاده، نقص فنی، نحوه نگهداری یا بهره‌برداری، یا دستور و عملکرد کاربر بوده است. 

در تمامی این موارد، صرف استفاده از هوش مصنوعی به‌ معنای تحقق جرم یا مسئولیت قانونی نیست و برای تعیین مسئولیت باید نقش افراد، نحوه استفاده از سامانه، نوع خسارت یا رفتار انجام‌شده و شرایط هر پرونده به‌طور دقیق بررسی شود. 

در جرایم مرتبط با هوش مصنوعی، چه کسی مسئول است؟ 

۱- نظریه مسئولیت سازنده یا توسعه‌دهنده

اگر نقص در طراحی، آموزش، آزمون، کنترل خروجی یا هشدارهای ایمنی یک سامانه هوش مصنوعی موجب ورود خسارت شود، ممکن است مسئولیت سازنده یا توسعه‌دهنده مطرح شود. در حقوق ایران، قواعد عام مسئولیت مدنی، از جمله مقررات مربوط به اتلاف و تسبیب و ماده یک قانون مسئولیت مدنی، می‌توانند حسب مورد مبنای مطالبه خسارت قرار گیرند.

با این‌حال، وجود نقص در یک سامانه هوش مصنوعی به‌تنهایی برای تحقق مسئولیت کیفری توسعه‌دهنده کافی نیست. برای انتساب مسئولیت کیفری، باید رفتار او با یک عنوان مجرمانه قانونی و عناصر لازم آن جرم، از جمله تقصیر یا قصد موردنیاز، رابطه سببیت و سایر شرایط قانونی، قابل انطباق باشد.

 ۲- نظریه مسئولیت کاربر یا بهره‌بردار

اگر کاربر آگاهانه از هوش مصنوعی برای هدف مجرمانه استفاده کند، اصل بر مسئولیت کاربر است. برای نمونه، شخصی که از Chat GPT برای تنظیم ایمیل فریبنده و اخاذی  از قربانی استفاده می‌کند، نمی‌تواند مسئولیت خود را به ابزار منتقل کند. هوش مصنوعی در این مثال، ابزار ارتکاب است؛ همان‌گونه که رایانه، تلفن یا دستگاه چاپ، ممکن است برای ارتکاب جرم مورد استفاده قرار گیرند و به‌خودی‌خود فاعل جرم محسوب نمی‌شود.

نظریه مسئولیت شرکتی که هوش مصنوعی را در بانک، بیمارستان، شرکت بیمه یا پلتفرم عمومی به‌کار می‌گیرد، ممکن است جدا از توسعه‌دهنده مسئول بررسی شود. انتخاب سامانه نامناسب، بی‌توجهی به هشدارها، نبود نظارت انسانی، استفاده خارج از حوزه طراحی‌شده و فقدان ساز و کار مناسب ثبت خطا می‌تواند مسئولیت حرفه‌ای یا مدنی ایجاد کند. اگر بهره‌بردار یک شرکت باشد، مسئولیت احتمالی آن باید مطابق قواعد مسئولیت اشخاص حقوقی بررسی شود. این مسئولیت، مانع شناسایی مسئولیت مدیر، کارمند یا تصمیم‌گیر انسانی نخواهد بود.

۳- نظریه «شخصیت حقوقی الکترونیک»

در سال ۲۰۱۷، پارلمان اروپا در قطعنامه‌ای درباره قواعد حقوق مدنی رباتیک، بررسی ایجاد وضعیت حقوقی خاص برای پیشرفته‌ترین ربات‌های خودمختار و امکان اعطای عنوان «شخص الکترونیک» را پیشنهاد کرد. این پیشنهاد بیشتر ناظر به جبران خسارت در آینده بود و به‌معنای تصویب شخصیت کیفری برای ربات‌ها یا هوش مصنوعی نبود.

این ایده با مخالفت‌ها و تردیدهای جدی مواجه شد و به اجماع عمومی نرسید. بنابراین، شخصیت حقوقی هوش مصنوعی در حال حاضر یک بحث پژوهشی است، نه قاعده حقوق موضوعه یا مبنای شناسایی مجرمیت هوش مصنوعی.

وضعیت حقوق ایران؛ خلأ قانونی یا سکوت قانون؟

در حقوق ایران تاکنون قانون مستقلی برای مسئولیت کیفری هوش مصنوعی تصویب نشده است. با این‌ حال، این سکوت به‌معنای فقدان کامل ابزارهای حقوقی نیست؛ قواعد عام مسئولیت کیفری، مسئولیت مدنی، مسئولیت اشخاص حقوقی و مقررات جرایم رایانه‌ای می‌توانند حسب مورد اعمال شوند. به عنوان مثال:

• ماده ۲۰ قانون مجازات اسلامی: ضمانت اجراهای مسئولیت کیفری شخص حقوقی را بیان می‌کند؛ از جمله جزای نقدی، ممنوعیت فعالیت، انحلال یا انتشار حکم محکومیت. اعمال این ماده منوط به مسئول شناخته شدن شخص حقوقی بر اساس ماده ۱۴۳ است. هوش مصنوعی خود شخص حقوقی نیست، اما شرکت مالک یا بهره‌بردار آن ممکن است مشمول این مقررات شود.
• ماده ۱۴۳ قانون مجازات اسلامی: اصل را بر مسئولیت شخص حقیقی قرار داده و مسئولیت شخص حقوقی را در صورتی پذیرفته است که نماینده قانونی آن، به نام یا در راستای منافع شخص حقوقی مرتکب جرم شود.
• ماده یک قانون مسئولیت مدنی:  می‌تواند ورود خسارت عمدی یا ناشی از بی‌احتیاطی به جان، سلامت، مال، آزادی، حیثیت یا سایر حقوق قانونی اشخاص را در صورت تحقق ضرر، مبنای مطالبه خسارت قرار دهد. این ماده برای دعاوی مدنی علیه توسعه‌دهنده، مالک یا بهره‌بردار از هوش مصنوعی قابل توجه است. 
• سکوت قانون‌گذار: تا زمان تاریخ نگارش این مقاله، قانون اختصاصی درباره شخصیت حقوقی هوش مصنوعی یا مسئولیت کیفری مستقل آن در ایران تصویب نشده است. بنابراین، خلأ قانونی هوش مصنوعی در ایران بیشتر به‌معنای نبود چارچوب اختصاصی و جامع است، نه نبود هرگونه قاعده قابل اعمال.

مقایسه رویکرد چند نظام حقوقی

 رویکرد نظام‌های حقوقی به مسئولیت ناشی از هوش مصنوعی یکسان نیست و کشورها با توجه به ساختار حقوقی و سطح توسعه فناوری، راهکارهای متفاوتی را دنبال کرده‌اند. در برخی کشورها، مسئولیت با تکیه بر قواعد موجود مانند مسئولیت محصول، تقصیر و مسئولیت کاربر بررسی می‌شود و در برخی دیگر، مقررات اختصاصی برای خدمات و سامانه‌های هوش مصنوعی شکل گرفته است. مقایسه این رویکردها می‌تواند تصویر روشن‌تری از وضعیت فعلی قانون‌گذاری و نحوه مواجهه نظام‌های حقوقی با مسئولیت ناشی از هوش مصنوعی ارائه دهد. 

سناریوهای واقعی؛ مسئولیت در عمل

۱- تصادف خودروهای مجهز به سامانه خودکار: در تصادف‌های مرتبط با سامانه‌های کمک‌راننده تسلا در آمریکا، تعیین مسئولیت به سطح خودکارسازی، رفتار راننده و وجود نقص در طراحی یا هشدارهای سیستم بستگی دارد. در سامانه‌های سطح ۲، راننده همچنان مسئول نظارت بر مسیر و آمادگی برای مداخله است. در چنین پرونده‌ای، مسئولیت ممکن است متوجه راننده، مالک خودرو، تولیدکننده خودرو یا شرکت نرم‌افزاری شود. اگر نقص از استفاده نادرست ناشی شده باشد، وضعیت حقوقی با زمانی که نقص قابل پیش‌بینی در طراحی یا هشدارهای ایمنی وجود داشته، متفاوت خواهد بود.

۲- تصمیم اشتباه الگوریتم پزشکی: در کاربردهای پزشکی، هوش مصنوعی معمولا نقش توصیه‌دهنده دارد و تصمیم نهایی همچنان با پزشک یا مرکز درمانی است. اگر پزشک بدون بررسی لازم توصیه الگوریتم را تایید کند، مسئولیت حرفه‌ای او و مرکز درمانی را به دنبال خواهد داشت. در مقابل، اگر خطا ناشی از نقص جدی نرم‌افزار، داده آموزشی نامناسب یا هشدارهای گمراه‌کننده باشد، مسئولیت توسعه‌دهنده نیز قابل بررسی است. برای تحقق مسئولیت کیفری، باید رفتار انجام‌شده جرم باشد و تقصیر و رابطه آن با نتیجه زیان‌بار نیز احراز شود.

۳- تولید محتوای جعلی با هوش مصنوعی: در یک پرونده در ایالت مریلند آمریکا، صدای جعلی مدیر یک مدرسه با استفاده از ابزارهای هوش مصنوعی تولید و منتشر شد. رسیدگی کیفری متوجه فردی شد که در تولید و انتشار فایل نقش داشت و اتهام‌هایی مانند تعقیب، انتقام‌گیری و ایجاد اختلال در فعالیت‌های مدرسه مطرح شد. این نمونه نشان می‌دهد که استفاده از هوش مصنوعی، مانع انتساب جرم به شخص انسانی نیست. موضوع اصلی، تصمیم به تولید، انتشار و استفاده از محتوای جعلی و آثار قابل پیش‌بینی آن است.

۴- هوش مصنوعی خودمختار که بدون دستور کاربر تصمیم زیان‌بار می‌گیرد: این سناریو دشوارترین وضعیت است. اگر یک سامانه خودمختار بدون دستور مستقیم کاربر تصمیمی زیان‌بار بگیرد، باید زنجیره طراحی، آموزش، تنظیمات، نظارت و بهره‌برداری بررسی شود. حتی در این حالت نیز راه‌حل فعلی، مجرم شناختن هوش مصنوعی نیست؛ بلکه باید شخص یا سازمانی شناسایی شود که خطر را ایجاد کرده، از آن آگاه بوده یا می‌توانسته از نتیجه جلوگیری کند.

 آنچه قانون‌گذاران باید حل کنند

گسترش استفاده از هوش مصنوعی، پرسش‌های حقوقی جدیدی را ایجاد کرده که پاسخ به آن‌ها با قواعد سنتی همیشه ساده نیست. قانون‌گذاران باید در کنار تعیین مسئولیت، درباره نحوه پیشگیری از آسیب و حمایت از زیان‌دیدگان نیز تصمیم‌گیری کنند. مهم‌ترین این چالش‌ها  عبارت است از: 

• تعریف «عامل هوشمند» و تعیین جایگاه آن در نظام حقوقی
• تعیین سطح استقلال هوش مصنوعی و مرز انتقال مسئولیت از توسعه‌دهنده به بهره‌بردار
• ایجاد سازوکار بیمه یا صندوق جبران خسارت برای زیان‌دیدگان
• الزام به ثبت سوابق عملکرد، داده‌های ورودی و تصمیم‌های هوش مصنوعی در حوزه‌های حساس مانند پزشکی، مالی و قضایی
• تعیین معیارهای تقصیر در سامانه‌های یادگیرنده و پاسخ به این پرسش که آیا یادگیری الگوی زیان‌بار می‌تواند، حتی به‌صورت محدود، در ارزیابی تقصیر انسانی مؤثر باشد یا خیر

سخن پایانی

هوش مصنوعی در حقوق فعلی مجرم نیست و نمی‌تواند به‌ عنوان شخص کیفری مستقل محکوم شود. این موضوع به‌معنای فرار از مسئولیت نیست؛ توسعه‌دهنده، کاربر، مالک یا بهره‌بردار تجاری، حسب مورد و بر اساس نقش خود پاسخ‌گو خواهد بود. در ایران نیز تا زمان تصویب مقررات اختصاصی، قواعد عام مسئولیت کیفری، مدنی و مسئولیت اشخاص حقوقی مبنای تحلیل قرار می‌گیرند.

اگر در پروژه‌های هوش مصنوعی با پرسش‌هایی درباره مسئولیت حقوقی، تنظیم یا بررسی اسناد مواجه هستید، از دستیار حقوقی ترازو کمک بگیرید و موضوع خود را با توجه به قوانین ایران بررسی کنید.