هوش مصنوعی و کنترل معنادار بشری: سازوکارهای واکنشپذیر به دلایلِ نسبت-به-عامل-خنثی و امکانِ ردگیری عامل(های) مسئول
نویسندگان
1 استادیار، مؤسسه تحقیقات سیاست علمی کشور، تهران، ایران.
doi
10.22091/jptr.2025.11378.3139چکیده
بخشی از مسائل اخلاقی مرتبط با هوش مصنوعی به خصلت خودگردانی و مسئله شکاف مسئولیت مرتبط است. سیستمهای خودگردانِ مجهز به هوش مصنوعی قادر به ایجاد رویدادهایی هستند که اگر انسان آنها را ایجاد کرده بود به آنها «تصمیم» گفته میشد؛ و اگر این «تصمیمها» خسارتی به بار میآورد، انسانی مسئول آن میشد. اما وقتی تغییرات را ابزارهای تکنولوژیک خودگردان ایجاد میکنند، هرچند همچنان نیاز به پذیرشِ مسئولیت وجود دارد، اما ممکن است چیزی مسئول آن قلمداد نشود. لذا پیشنهاد شده که تکنولوژیهای خودگردان در صورتی تحتِ مسئولیت انسان باقی بمانند که دو الزام را برآورده کنند: (1) این قابلیت که دلایل انسانی را «ردیابی» کنند؛ و (2) با دنبال کردن زنجیرۀ دلایل انسانی یک عاملِ انسانی «ردگیری» شود. این شروط برای مصنوعات تکنولوژیک و هوش مصنوعی خودگردان ابهامات متعددی را ایجاد خواهد کرد. از آن جمله این است که دلایلِ اخلاقیای که باید ردیابی شوند غالباً نسبت به عامل(ها) خنثی هستند، اما ردگیری یک عاملِ انسانی تنها از طریق دلایل وابسته-به-عامل امکانپذیر است. در این مقاله با تحلیل تعبیرهایی که از دو شرط مطرحشده ارائه میشود از یک تعبیر که پیش از این پیشنهاد نشده به عنوان کممسئلهترین تعبیر از جهت حل مسئلۀ ذکرشده دفاع خواهد شد. برای این کار استدلال میشود که شکاف مسئولیت زمانی پر میشود که تاریخچه رویدادهایی که توسط سامانههای خودگردان ایجاد میشود شامل فرایندی باشد که طی آن عامل مجموعهای از دلایل هنجاری را به عنوان دلایل قابلقبول خود بپذیرید. اگر دلایلی که مطابق آنها سیستم به صورت خودگردان رفتار میکند متعلق به یک عامل بشری باشد، آنگاه مسئولیت رویدادهایی که ایجاد میشود نیز متعلق به آن عامل خواهد بود.