زنگ خطر در واتیکان: برندگان نوبل درباره پیوند مرگبار هوش مصنوعی و سلاح اتمی هشدار دادند
اجتماعی از برندگان جایزه نوبل و کارشناسان در واتیکان با صدور بیانیهای، نسبت به خطرات وجودی ناشی از ترکیب هوش مصنوعی با سیستمهای تسلیحات هستهای و لزوم خلع سلاح هر دو هشدار دادند.
به گزارش اطلس دیپلماسی، یادداشتی با عنوان «زنگ خطر در واتیکان: برندگان نوبل درباره پیوند مرگبار هوش مصنوعی و سلاح اتمی هشدار دادند» به قلم فرانسوا دیاز-مورن (François Diaz-Maurin) و جان مکلین (John Mecklin) در بولتن دانشمندان اتمی (The Bulletin of the Atomic Scientists) منتشر شده است. این یادداشت به پوشش نشست تاریخی برندگان جایزه نوبل و کارشناسان در واتیکان میپردازد که در آن خطرات وجودی ناشی از ادغام هوش مصنوعی در سیستمهای تسلیحات هستهای، از جمله کاهش زمان تصمیمگیری انسانی، افزایش جنگ اطلاعاتی و تمرکز قدرت در دست شرکتهای فناوری، مورد بررسی قرار گرفت. در ادامه، خلاصه این یادداشت را میخوانید.
در گردهمایی بیسابقهای که با حمایت واتیکان در رم برگزار شد، گروهی از برندگان جایزه نوبل، دانشمندان برجسته و رهبران مذهبی با صدور بیانیهای با عنوان «بشریت در آستانه: بیانیهای درباره هوش مصنوعی و سلاحهای هستهای»، نسبت به خطرات وجودی ناشی از پیوند این دو فناوری هشدار دادند. این نشست که «مجمع جهانی برندگان نوبل درباره هوش مصنوعی و جنگ هستهای» نام داشت، به بررسی این واقعیت پرداخت که در یک بحران هستهای آینده، سرعت هوش مصنوعی ممکن است فضای چندانی برای قضاوت یا تصمیمگیری انسانی باقی نگذارد. علاوه بر این، توانایی هوش مصنوعی در تسهیل حملات سایبری بیثباتکننده و تولید آنی اطلاعات نادرست، احتمال وقوع چنین بحرانی را به شدت افزایش میدهد. این بیانیه در زمانی صادر میشود که جهان نه تنها درگیر یک مسابقه تسلیحات هستهای رو به وخامت است، بلکه در حال ورود به یک «مسابقه هوش مصنوعی» به همان اندازه خطرناک است.
بیانیه رم تصویری هولناک از این تهدید ترکیبی ارائه میدهد. ادغام هوش مصنوعی در سیستمهای هستهای، عملاً قضاوت انسانی را در یک بحران حذف یا جایگزین میکند. این فناوری با توانمندسازی جنگ اطلاعاتی، «واقعیت مشترک» را که صلح به آن وابسته است، از بین میبرد؛ زیرا بدون حقیقت، اعتمادی وجود نخواهد داشت و بدون اعتماد، هیچ گفتگو، راستیآزمایی یا خویشتنداری میان ملتها ممکن نیست. یکی دیگر از نگرانیهای جدی، تمرکز فزاینده پیشرفتهترین قابلیتهای هوش مصنوعی، منابع محاسباتی و زیرساختهای داده در دست تعداد انگشتشماری از کشورها و شرکتهاست. این وضعیت، عدم تقارن شدید قدرت ایجاد کرده و انگیزهها برای همکاری بینالمللی را محدود میسازد و این در حالی است که هوش مصنوعی با سرعتی بیسابقه در تاریخ بشر در حال توسعه است.
نقش واتیکان در برگزاری این نشست، به دلیل توانایی آن در گرد هم آوردن رهبران فکری از حوزههای مختلف، بسیار کلیدی بود. همانطور که یکی از برندگان نوبل فیزیک اشاره کرد، «شاید من به یک میلیون نفر دسترسی داشته باشم، اما پاپ میتواند به دو میلیارد نفر دسترسی پیدا کند». برای بسیاری از شرکتکنندگان، این نشست یک زنگ خطر ضروری بود. ماریا رسا، برنده جایزه صلح نوبل، معتقد است جهان با هوش مصنوعی «لحظه آزمایش ترینیتی» خود را تجربه کرده و یک بمب اتمی به صورت خاموش در اکوسیستم اطلاعاتی ما منفجر شده است. محمد یونس، برنده دیگر جایزه صلح، هوش مصنوعی را «آغاز یک داستان ترسناک» توصیف کرد که در آن «غول از چراغ آزاد شده است». حتی برخی از توسعهدهندگان ارشد این فناوری که تا چند ماه پیش نگران نبودند، اکنون عمیقاً از پتانسیل آن به عنوان یک تهدید وجودی وحشتزده هستند.
این بیانیه شش توصیه مشخص ارائه میدهد، از جمله پایان دادن به مسابقات تسلیحاتی هستهای و هوش مصنوعی و تضمین توسعه و حاکمیت مسئولانه مدلهای هوش مصنوعی به گونهای که با منافع بشریت، قوانین بینالمللی و حقوق بشر همسو باشد. با این حال، شرکتکنندگان تأکید کردند که این تنها یک «گام اول سازنده» است. خوان مانوئل سانتوس، رئیسجمهور سابق کلمبیا و برنده جایزه صلح نوبل، با اشاره به تظاهرات گسترده ضد هستهای در دهه ۱۹۸۰، از بیتفاوتی عمومی امروز در قبال این تهدید فزاینده ابراز نگرانی کرد و ابراز امیدواری نمود که این نشست بتواند افکار عمومی را برای فشار بر رهبران جهان بسیج کند. به گفته یکی دیگر از برندگان نوبل، «نبرد بعدی در خیابانهاست» و این پیام باید به فراتر از دیوارهای واتیکان برسد./منبع
