فهرست نشریات علمی دسترسی آزاد ایران

مقدمه: پس از ظهور هوش مصنوعی در عرصۀ فناوری جهانی، به‌کارگیری آن در تسلیحات نظامی که به جای تکیه بر مدل برنامه‌نویسی گذشته، می‌تواند از طریق یادگیری ماشینی یعنی آموزش و بازخورد پس از استفاده کاربر، یاد بگیرد چگونه وظیفه‌ای را به انجام رساند، علی‌رغم مزایای متعدد، کنترل انسانی را به‌عنوان اصل بنیادی حقوق بین‌الملل بشردوستانه که در پی تنظیم رفتار طرف‌های درگیر در مخاصمات مسلحانه و کاستن از رنج‌های غیرضروری (در عین توجه به ضرورت تضعیف دشمن) است به چالش می‌کشد. از آنجا که وجود قابلیت «یادگیری» دائمی از محیط در سامانه یادگیرنده ماشینی، رفتار آن و چگونگی پردازش ورودی‌های جدید را غیرقابل پیش‌بینی و فهم می‌کند، امکان کنترل‌گری انسانی برای چنین سامانه‌هایی با رفتار غیرقابل پیش‌بینی و فرآیندهای تصمیم‌گیری غیرشفاف محل پرسش جدی است و از آن بالاتر این سؤال مطرح می‌شود که آیا اساساً سیستم‌های یادگیری ماشین برای رعایت IHL نیازمند کنترل انسانی هستند؟روش‌ها: این مقاله ابتدا در ضمن مروری تکنولوژیک بر سامانه‌های یادگیرنده خودکار، به توضیح توانایی این سامانه‌ها در یادگیری و تحلیل و تطبیق مداوم تجربیات و فرآیندهای تصمیم‌گیری غیرشفاف و نتایج غیرقابل پیش‌بینی و در نتیجه دشوار شدن کنترل معنادار انسانی بر آن‌ها می‌پردازد و سپس با تحلیل قدرت سامانه در پردازش سریع حجم عظیم داده‌ها و به‌کارگیری آن‌ها در اتخاذ تصمیمات استراتژیک و دقیق، پتانسیل بالا برای افزایش رعایت IHL توسط این سامانه‌ها را اثبات خواهد کرد.یافته‌ها: امروزه یادگیری ماشینی با کاهش نرخ کنش و واکنش‌های اشتباه در محیط‌های پیچیده، در طیف گسترده‌ای از فعالیت‌های نظامی به‌کار گرفته می‌شود. این سامانه‌ها با ابتنا بر دو نوع یادگیری عمیق و تقویتی از مرز توانایی‌های انسانی در حل مسائل پیچیده جنگی عبور کرده و به دلیل عدم محدودیت به ظرفیت‌ها و پیش‌فرض‌های انسانی، در ایجاد راه‌حل‌های نوآورانه‌ بسیار کارآمدتر هستند که البته این ویژگی رفتار ماشین‌ها را در مراحل قبل و بعد از وقوع غیرقابل پیش‌بینی و غیرقابل فهم می‌سازد و ممکن است رعایت الزامات احتیاطی حقوق بین‌الملل بشردوستانه ازجمله تکلیف مراقبت دائمی را با دشواری مواجه سازد که در مورد نقش کنترل انسانی در ایفای این تکلیف، سه نظریه «کنترل انسانی معنادار»، «شرورت دخالت انسانی پیش از تصمیم‌گیری در حملات» و «امکان حذف دخالت انسانی پیشینی» مطرح است. در نظریه سوم با توجه به ابتنای تصمیم‌گیری سامانه‌های یادگیرنده در شرایط حساس بر داده‌های کلان و فرآیندهای غیرقابل فهم انسانی باید گفت نظارت یا دخالت انسان عملاً بی‌معنی است و البته حتی با وجود غیرقابل‌فهم بودن و عدم کنترل انسانی، ممکن است این سامانه‌ها قادر باشند تصمیمات هدف‌گیری منطبق بر IHL را بهتر از سامانه‌های تحت کنترل انسانی اتخاذ کنند. این توانایی ممکن است ناشی از قابلیت پردازش و تحلیل حجم بسیار بیشتری از داده‌ها با دقت و سرعتی فراتر از انسان باشد. بنابراین، نباید صرفاً به دلیل عدم امکان نظارت معنادار انسانی، استفاده از آن‌ها ممنوع شود، مگر اینکه دلیلی قطعی بر ضرورت نظارت انسانی اقامه شود.نتیجه‌گیری: پیاده‌سازی سامانه‌های خودکار مبتنی بر یادگیری ماشینی در میدان‌های نبرد، ضرورت بازتعریف مفهوم «کنترل انسانی معنادار» را آشکار می‌سازد. یافته‌ها نشان می‌دهد که این سامانه‌ها در برخی شرایط می‌توانند بدون نظارت مستقیم انسانی با اصول حقوق بین‌الملل بشردوستانه (IHL) منطبق عمل کنند و در عین حال، در شرایط خاص، اعمال کنترل انسانی برای تضمین رعایت IHL ضروری است. رویکرد متداول «هرچه کنترل انسانی بیشتر، بهتر» نیازمند بازنگری است. تمرکز باید بر «قابلیت پیش‌بینی قابل قبول» سامانه‌ها باشد، به‌گونه‌ای که عملکرد آن‌ها با استانداردهای IHL منطبق و قابل ارزیابی باشد. این چارچوب، مسیر طراحی، آزمون و تأیید سامانه‌ها را روشن کرده و نظارت انسانی را در مرحله‌ای اعمال می‌کند که بیشترین اثرگذاری را دارد.در نهایت، با طراحی و بهره‌گیری مسئولانه از سامانه‌های یادگیرنده، می‌توان ضمن رعایت اصول اساسی IHL، از جمله ضرورت نظامی و کاهش خسارات غیرضروری، از ظرفیت‌های فناورانه برای کاهش تلفات غیرنظامیان بهره برد. رویکرد پیشنهادی، تعادل میان قابلیت‌های فناورانه و مسئولیت انسانی را برقرار ساخته و امکان استفاده بهینه از فناوری‌های نوین در چارچوب حقوق بین‌الملل بشردوستانه را فراهم می‌آورد.