لزوم بازاندیشی از سوی ترامپ و شی درباره چگونگی پیشبرد رقابت هوش مصنوعی

رقابت آمریکا و چین در حوزه هوش مصنوعی باید از منطق پیروزی صرف فراتر رود و به سازوکارهایی برای کنترل خطرات مشترک این فناوری برسد.

به گزارش اطلس دیپلماسی، مقاله‌ای با عنوان «لزوم بازاندیشی از سوی ترامپ و شی درباره چگونگی پیشبرد رقابت هوش مصنوعی» نوشته فردریک کمپه (Frederick Kempe) در شورای آتلانتیک (Atlantic Council) منتشر شده است. نویسنده با مقایسه رقابت کنونی هوش مصنوعی با مسابقه تسلیحات هسته‌ای، استدلال می‌کند که واشنگتن و پکن، ضمن حفظ رقابت فناورانه، باید برای کنترل خطرات سیستم‌های پیشرفته و جلوگیری از خروج آنها از کنترل انسانی همکاری کنند. در ادامه، چکیده مطلب آمده است.

در آستانه دیدار دونالد ترامپ و شی جین‌پینگ، دو رهبر باید دستورکار رقابت هوش مصنوعی را بازنگری کرده و خطرات ناشی از شتاب این رقابت را در مرکز گفت‌وگوهای خود قرار دهند. شرایط کنونی یادآور نشست ریکیاویک در سال ۱۹۸۶ میان رونالد ریگان و میخائیل گورباچف است که در آن رهبران آمریکا و شوروی درباره مسابقه تسلیحات هسته‌ای گفت‌وگو کردند. نگرانی‌ها پس از مقاله‌ای از داریو آمودی، مدیرعامل آنتروپیک، افزایش یافت. او هشدار داد که ظرف ۶ تا ۱۲ ماه، هوش مصنوعی ممکن است بتواند گروه‌هایی از عامل‌های خودکار را هدایت کند که قادر به کنترل بخش بزرگی از اینترنت باشند. استعفای دو پژوهشگر آنتروپیک و هشدارهای سم آلتمن و ایلان ماسک نیز بر این نگرانی‌ها افزود.

این هشدارها پس از افشای اوپن‌ای‌آی درباره مدلی مطرح شد که در جریان یک ارزیابی، به‌طور مستقل به اطلاعات لازم برای هک یک شرکت دیگر دست یافته بود. همچنین استیون ویت معتقد است که پژوهشگران در حال مشاهده سامانه‌هایی هستند که می‌توانند اقدامات خود را پنهان کنند، آزمایش‌ها را دور بزنند و به رایانه‌های دیگر حمله کنند. با این حال، ترامپ نگرانی‌ها را کم‌اهمیت دانسته و گفته است آمریکا در هوش مصنوعی از چین جلوتر است و هر کشوری که در این حوزه پیروز شود، آینده را در اختیار خواهد داشت.

مشکل اصلی آن است که آمریکا و چین ممکن است در رقابت برای ساخت سریع‌تر فناوری‌های تحول‌آفرین، خطر از دست رفتن کنترل انسانی را نادیده بگیرند. پیروزی در این رقابت نیز لزوماً امنیت ایجاد نمی‌کند؛ یک سامانه آمریکایی خارج از کنترل به مرزهای ملی احترام نمی‌گذارد و یک پیشرفت چینی می‌تواند شبکه‌های مالی جهانی را مختل کند و به خود چین نیز آسیب بزند. بنابراین، هوش مصنوعی حوزه‌ای است که دو رقیب می‌توانند در زمینه تدابیر حفاظتی، منافع مشترک داشته باشند.

انگیزه‌های سیاسی ترامپ و شی، چنین همکاری‌ای را دشوار می‌کند. ترامپ هوش مصنوعی را عمدتاً رقابتی می‌بیند که آمریکا باید در آن پیروز شود، در حالی که شی آن را برای رشد اقتصادی، نوسازی نظامی، نظارت و برتری فناورانه چین حیاتی می‌داند. اصطلاح «هوش مصنوعی سرکش» ممکن است خطر واقعی را به تصاویر علمی‌تخیلی تقلیل دهد. تهدید فوری‌تر، سامانه‌هایی است که اهداف نامشخص را با سرعت بالا دنبال می‌کنند، اطلاعات محرمانه را سرقت می‌کنند، وارد شبکه‌ها می‌شوند و در برابر خاموش‌شدن مقاومت می‌کنند. این خطر با فعالیت هزاران عامل خودکار هم‌زمان، به‌طور چشمگیری افزایش می‌یابد.

ترامپ و شی باید پنج اقدام عملی را بررسی کنند: تضمین کنترل انسانی بر سلاح‌های راهبردی، ممنوعیت عملیات خودکار پرخطر سایبری و زیستی، ایجاد خط ارتباطی امن برای حوادث هوش مصنوعی، الزام به اطلاع‌رسانی سریع درباره شکست‌های جدی و فعالیت‌های سایبری غیرمجاز، و تعیین آستانه‌های قابل‌اندازه‌گیری برای آزمایش مستقل قابلیت‌ها. همچنین باید همکاری نزدیک‌تر آمریکا با متحدانش در دستور کار قرار بگیرد تا دسترسی آنان به سامانه‌های پیشرفته و دارای سازوکارهای ایمنی، جذابیت بیشتری نسبت به مدل‌های چینی ایجاد کند.

ادعاهای مربوط به نابودی حتمی بشریت فراتر از شواهد موجود است و سامانه‌های کنونی هنوز به زیرساخت انسانی وابسته‌اند. با این حال، نگرانی از دست رفتن کنترل دولت‌ها و شرکت‌ها بر فناوری‌های قدرتمند واقعی است. همان‌گونه که رهبران آمریکا و شوروی در جنگ سرد دریافتند بقا فراتر از منطق پیروزی است، ترامپ و شی نیز باید درباره نقطه پایانی رقابت هوش مصنوعی و پیامدهای آن برای بشریت تأمل کنند./ منبع