کابوس بیوتروریسم با هوش مصنوعی: آیا ساخت سلاح بیولوژیک آسان میشود؟
با وجود نگرانی فزاینده مدیران ارشد شرکتهای هوش مصنوعی، کارشناسان درباره اینکه آیا این فناوری واقعاً میتواند به تروریستها در ساخت سلاحهای بیولوژیک کمک کند یا خیر، اختلاف نظر دارند، هرچند همگی بر لزوم نظارت و پیشگیری تأکید میکنند.
به گزارش اطلس دیپلماسی، یادداشتی با عنوان «کابوس بیوتروریسم با هوش مصنوعی: آیا ساخت سلاح بیولوژیک آسان میشود؟» به قلم مت فیلد (Matt Field) در بولتن دانشمندان اتمی (The Bulletin of the Atomic Scientists) منتشر شده است. این یادداشت به بررسی نگرانیهای فزاینده درباره توانایی هوش مصنوعی در کمک به ساخت سلاحهای بیولوژیک میپردازد و این پرسش را مطرح میکند که این خطر تا چه حد واقعی است. این تحلیل با مقایسه هشدارهای مدیران ارشد فناوری و دیدگاههای کارشناسان امنیت زیستی، نشان میدهد که اگرچه موانع عملی همچنان وجود دارند، اما توانایی هوش مصنوعی در برنامهریزی حملات و سرعت پیشرفت آن، نیازمند اقدامات پیشگیرانه و نظارتی فوری است. در ادامه، خلاصه این یادداشت را میخوانید.
مدیران عامل شرکتهای بزرگ هوش مصنوعی، از جمله OpenAI وAnthropic، هشدار میدهند که این فناوری با ارائه دانش فنی و لجستیکی دقیق، ممکن است «سدهای دانشی» را که تاکنون از دستیابی افراد بدخواه به سلاحهای بیولوژیک جلوگیری کرده، از بین ببرد. این نگرانی تنها به دنیای داستانهای علمی-تخیلی محدود نمیشود؛ دولت ترامپ نیز در «برنامه اقدام آمریکا» به این موضوع پرداخته و دهها کارشناس امنیت زیستی و هوش مصنوعی در نامهای سرگشاده، خواستار توجه فوری و اقدام قاطع بینالمللی شدهاند. نگرانی اصلی این است که هوش مصنوعی میتواند به عنوان پلی عمل کند که یک تروریست بالقوه را از فکر کردن به یک حمله بیولوژیک به اجرای آن برساند. این مدلها که بر اساس حجم عظیمی از دانش بشری آموزش دیدهاند، قادرند دستورالعملهای قابل فهمی برای ساخت یک سلاح بیولوژیک ارائه دهند.
با این حال، بسیاری از موانع عملی همچنان برای هر کسی که بخواهد از هوش مصنوعی برای توسعه سلاح بیولوژیک استفاده کند، باقی است. دیوید رلمن، استاد پزشکی دانشگاه استنفورد، معتقد است که مدلهای فعلی بیشتر برای افرادی مفید هستند که با اصول اولیه زیستشناسی آشنایی دارند و برای یک تازهکار، «انقلابی» نیستند. اما نکته نگرانکننده در جای دیگری نهفته است. رلمن در آزمایشی با یک مدل هوش مصنوعی بدون محدودیت، دریافت که این فناوری در «برنامهریزی» یک حمله بسیار قدرتمندتر از ساخت خود سلاح است. مدل به او نشان داد که چگونه میتوان از دید نهادهای امنیتی پنهان ماند، آنها را فریب داد و یک عملیات پیچیده را طراحی کرد. این توانایی، حتی یک بازیگر با مهارت متوسط را نیز به یک تهدید جدی تبدیل میکند.
در مقابل، برخی کارشناسان مانند آلیسون بِرکی، مهندس زیستی در مؤسسه رند، احتمال وقوع یک بحران بیولوژیک ناشی از هوش مصنوعی را بسیار پایین میدانند. او معتقد است که موانع فنی، بهویژه در زمینه اتوماسیون زیستی، همچنان بسیار بزرگ هستند. به گفته او، «آزمایشگاههای ابری» هنوز به مرحلهای نرسیدهاند که بتوانند به طور کاملاً خودکار یک ویروس قابل انتقال بسازند. از دید او، نگرانی مدیران شرکتهای هوش مصنوعی ممکن است تا حدی به این دلیل باشد که ارائه راهحلهای مشخص برای امنیت زیستی، مانند نظارت بر سفارشهای دیانای مصنوعی، آسانتر از حل معضلات پیچیدهای مانند تغییرات اقلیمی است. تاریخ بیوتروریسم نیز نشان میدهد که این حملات نادر و اغلب ناموفق بودهاند. حملات سیاهزخم سال ۲۰۰۱ توسط یک میکروبیولوژیست متخصص انجام شد و تلاشهای فرقه ژاپنی «آئوم شینریکیو» برای تولید سم بوتولینوم و سیاهزخم به دلیل خامدستانه بودن، با شکست مواجه شد.
با این همه، آنچه همه کارشناسان بر آن توافق دارند، سرعت سرسامآور پیشرفت هوش مصنوعی است. حتی اگر خطرات امروز قابل مدیریت باشند، وضعیت در یک سال آینده، بدون نظارت و مداخله، میتواند بسیار پرخطرتر باشد. به همین دلیل، شرکتهایی مانند OpenAI چارچوبهایی برای ارزیابی خطرات ایجاد کرده و با دولتها برای آزمایش مدلها قبل از انتشار همکاری میکنند. اما این اقدامات ممکن است کافی نباشد. در نهایت، بحث اصلی دیگر بر سر تواناییهای فعلی هوش مصنوعی نیست، بلکه بر سر مسیری است که این فناوری با شتاب در حال پیمودن آن است. به گفته رلمن، «اگر امروز صرفاً بر روی یخ نازکی راه میرویم»، با ادامه این روند، ممکن است به زودی با واقعیتی بسیار خطرناکتر روبرو شویم که نیازمند قوانین و نظارتهای سختگیرانهتری است./منبع
