آخرالزمانِ ماشین‌ها بدون نیاز به «ابر هوش»؛ چگونه خطاهای شناختی انسان با هوش مصنوعی ترکیب می‌شوند؟
محققان هشدار می‌دهند که هوش مصنوعی نیازی به اختیار شلیک سلاح هسته‌ای یا اراده شرورانه ندارد؛ بلکه تنها با تشدید نقاط کور شناختی انسان و بمباران اطلاعاتیِ تصمیم‌گیران، می‌تواند جهان را به سمت فاجعه اتمی سوق دهد.
به گزارش اطلس دیپلماسی، مقاله‌ای تحلیلی با عنوان «هوش مصنوعی برای شروع جنگ هسته‌ای نیازی به اَبَرهوش یا نیت شیطانی ندارد» به قلم پل اسلوویک و هربرت لین (Paul Slovic and Herbert Lin) در بولتن دانشمندان اتمی (Bulletin of the Atomic Scientists) منتشر شده است. این مقاله با بررسی ترکیب خطرناک خطاهای روان‌شناختی انسان با سرعت و حجم اطلاعات تولیدشده توسط هوش مصنوعی، استدلال می‌کند که برای وقوع یک فاجعه هسته‌ای، نیازی به رسیدن به مرحله کنترل ماشین بر انسان نیست. در ادامه، چکیده مطلب آمده است.
نگرانی از اینکه هوش مصنوعی روزی کنترل تسلیحات را به دست گرفته و نسل بشر را نابود کند، همواره وجود داشته است؛ اما خطر واقعی و کنونی، ساده‌تر و در دسترس‌تر از این سناریوهای علمی‌تخیلی است. سیستم‌های فعلی هوش مصنوعی می‌توانند با بهره‌برداری از آسیب‌پذیری‌های قضاوت انسانی، به‌ویژه در شرایط بحرانی، تصیم‌گیرندگان را به اشتباهات مرگباری سوق دهند؛ حتی اگر این انسان‌ها باشند که در نهایت دکمه پرتاب را فشار می‌دهند.
یکی از بزرگ‌ترین نقاط ضعف شناختی انسان، «بی‌حسی روانی» (Psychic Numbing) است. ذهن انسان نمی‌تواند رنج میلیون‌ها نفر را به‌درستی درک کند و با افزایش اعداد، احساس همدلی او کاهش می‌یابد. در یک نظرسنجی از شهروندان آمریکایی درباره حمله فرضی به ایران، میزان حمایت از یک حمله اتمی که منجر به مرگ ۱۰۰ هزار غیرنظامی می‌شد با حمله‌ای که ۲ میلیون کشته بر جای می‌گذاشت، تقریباً یکسان بود (۳۱.۶ درصد در برابر ۲۷.۶ درصد). این نشان می‌دهد که فراتر از یک مقیاس خاص، افزایش تلفات دیگر در محاسبات احساسی انسان ثبت نمی‌شود. احساسات اخلاقی و تمرکز بر اهداف کوتاه‌مدتی نظیر «حفاظت از نیروهای خودی» می‌تواند به راحتی چشم‌انداز فاجعه‌بار و بلندمدت جنگ هسته‌ای را به حاشیه براند.
اضافه‌شدن هوش مصنوعی به این معادله، این خطرات را به‌شدت تقویت می‌کند. هوش مصنوعی می‌تواند هشدارها، تصاویر و تفسیرها را بسیار سریع‌تر از توان هضم انسان ارسال کند. به عنوان مثال، در یک مانور فرضی، هوش مصنوعی حرکت پرتابگرهای موشک دشمن را تشخیص می‌دهد (اطلاعات دقیق). فرمانده، با احساس ناامنی، سطح هشدار نظامی را بالا می‌برد. دشمن با مشاهده این آمادگی، اقدامات متقابلی انجام می‌دهد که هوش مصنوعی آن‌ها را ثبت کرده و به عنوان تأیید تهدید اولیه گزارش می‌کند. این چرخه که در علوم سیاسی «معمای امنیت» (Security Dilemma) نامیده می‌شود، با سرعت پردازش هوش مصنوعی در زمان واقعی و بدون نیاز به اطلاعات جعلی، به یک مارپیچ تشدید تنش تبدیل می‌گردد.
علاوه بر این، فشار زمانی ناشی از پردازش این حجم انبوه از اطلاعات توسط هوش مصنوعی، اضطراب تصمیم‌گیران را افزایش داده و پدیده «شکاف همدلی سرد-گرم» را فعال می‌کند. رهبرانی که در شرایط آرام طرفدار خویشتن‌داری هستند، در دل بحران و تحت تأثیر ترس، خشم و نگرانی برای بقای فوری، ممکن است استفاده از سلاح هسته‌ای را یک ضرورت پیش‌دستانه ببینند.
نویسندگان در پایان تأکید می‌کنند که صرفِ الزام به صدور مجوز انسانی برای شلیک سلاح هسته‌ای، راه‌حل کاملی نیست؛ چرا که انسانِ بمباران‌شده با اطلاعات هوش مصنوعی و تحت فشار شدید روانی، مستعد خطاست. برای جلوگیری از این فاجعه، باید «حفاظ‌های نهادی» قدرتمندی ایجاد شود که رهبران را در برابر بدترین انگیزه‌هایشان محافظت کند و هوش مصنوعی تنها به عنوان ابزاری پشتیبان در قالب این چارچوب‌های سخت‌گیرانه عمل کند، نه به‌عنوان یک پیشرانِ مستقل در مارپیچ تصمیم‌گیری./ منبع