قمار هسته‌ای با هوش مصنوعی: خطری که نمی‌توان نادیده گرفت

جهان امروز با رشته‌های هوش مصنوعی به‌طور فزاینده‌ای درهم تنیده شده است؛ از چینش خبرها در شبکه‌های اجتماعی گرفته تا مدیریت بازارهای مالی و حتی کمک به جراحی‌های حساس. اما همزمان با این گسترش، بشریت در آستانه خطری بزرگ قرار گرفته است: سپردن تصمیمی حیاتی مانند شلیک سلاح‌های هسته‌ای به سامانه‌ای غیرانسانی. این روند نتیجه یک رقابت تسلیحاتی خاموش میان واشنگتن، پکن و مسکو است که بر ادغام هوش مصنوعی در همه ابعاد جنگ مدرن تمرکز دارند. در اسناد وزارت دفاع آمریکا نیز به‌روشنی از بهره‌گیری از «جنگ الگوریتمی» برای حفظ برتری نظامی سخن گفته شده است. هدف اعلام‌شده، دستیابی به تصمیم‌گیری عقلانی‌تر و کاهش خطای انسانی است، اما به گفته اندیشکده رَند، چنین اقدامی می‌تواند مسیرهای پیش‌بینی‌نشده‌ای برای تشدید درگیری و حتی آغاز جنگی فاجعه‌بار بگشاید.

نمونه تاریخی مهم در این زمینه ماجرای استانیسلاو پتروف، افسر شوروی در سال ۱۹۸۳ است که در مواجهه با هشدار اشتباه سیستم‌ها درباره حمله هسته‌ای آمریکا، برخلاف ماشین‌ها به غریزه انسانی خود اعتماد کرد و از واکنش بازدارنده جلوگیری نمود. اما در شرایط مشابه، سامانه‌های هوش مصنوعی ممکن است داده‌های نادرست را واقعی تلقی کرده و به‌سرعت فرمان حمله صادر کنند. توانایی پردازش میلیاردها داده در کسری از ثانیه می‌تواند برتری محسوب شود، اما مشکل اصلی همان «جعبه سیاه» است؛ یعنی فرآیند تصمیم‌گیری الگوریتمی حتی برای سازندگانش نیز شفاف نیست. چهره‌هایی چون جفری هینتون هشدار داده‌اند که اعتماد به چنین سیستم‌هایی در تصمیمات هسته‌ای به معنای واگذاری اختیار مطلق به الگوریتم‌هایی ناشناخته است.

خطر دیگر، آسیب‌پذیری در برابر تهدیدات بیرونی و دستکاری اطلاعات است. کارشناسان مرکز بلفر در دانشگاه هاروارد هشدار داده‌اند که دشمنان بالقوه می‌توانند داده‌های جعلی وارد سامانه‌ها کنند. برای نمونه، تولید تصاویر ماهواره‌ای ساختگی از آماده‌سازی پرتاب موشک می‌تواند سیستم را به واکنش فوری وادارد. بنابراین پیچیدگی بیشتر به‌جای افزایش امنیت، راه را برای فریب دیجیتال هموار می‌سازد. بدترین سناریو، آن چیزی است که تحلیلگر امنیتی پل شَرِر آن را «جنگ آنی» می‌نامد: درگیری میان دو قدرت هسته‌ای مجهز به هوش مصنوعی که با سرعت ماشین‌ها رخ داده و در عرض چند دقیقه به جنگ هسته‌ای جهانی منجر می‌شود، پیش از آنکه انسانی فرصت مداخله داشته باشد. این نگرانی به‌اندازه‌ای جدی است که سال‌هاست موضوع سلاح‌های خودکار مرگبار در سازمان ملل مطرح بوده و بسیاری خواستار ممنوعیت پیش‌دستانه آن شده‌اند.

افزون بر تهدیدهای فنی و امنیتی، یک معضل اخلاقی بنیادین نیز مطرح است. استفاده از سلاح هسته‌ای سنگین‌ترین مسئولیت اخلاقی برای انسان به‌شمار می‌رود و نیازمند قضاوت، همدلی و پاسخگویی است. کمیته بین‌المللی صلیب سرخ نیز بر ضرورت حفظ کنترل انسانی برای پایبندی به حقوق بشردوستانه تأکید کرده است. آیا می‌توان قضاوتی چنین عظیم را به الگوریتمی سپرد که احتمال را می‌شناسد اما درد و رنج را درک نمی‌کند؟

زمان اقدام فرارسیده است. قدرت‌های هسته‌ای باید پیمانی بین‌المللی تدوین کنند که متناسب با عصر هوش مصنوعی باشد و دست‌کم تعهد حقوقی الزام‌آوری ایجاد کند تا اختیار نهایی استفاده از سلاح‌های هسته‌ای همیشه در دست انسان باقی بماند. در غیر این صورت، بشریت با خطر انجام نابخردانه‌ترین اقدام تاریخ، یعنی واگذاری دکمه هسته‌ای به ماشین‌ها روبه‌رو خواهد شد./ منبع