تهدید روبه‌رشد استفاده جهادی از هوش مصنوعی در عصر دیجیتال

در دهه‌های اخیر، فناوری هوش مصنوعی به ابزاری کلیدی در حوزه‌های مختلف تبدیل شده است، اما گروه‌های جهادی و تروریستی نیز از این فناوری بهره‌برداری گسترده‌ای می‌کنند. استفاده از هوش مصنوعی دیگر مختص دولت‌ها یا شرکت‌های بزرگ نیست و این گروه‌ها با سرعت بالایی از ابزارهای هوش مصنوعی برای جذب، تبلیغات و عملیات اطلاعاتی خود بهره می‌برند. این تحول، استفاده از تاکتیک‌های سنتی تبلیغاتی را کنار زده و به‌سمت پیام‌های شخصی‌سازی‌شده و هوشمندانه حرکت کرده است که اثرگذاری بیشتری بر مخاطبان به‌ویژه نسل جوان دارد.

گزارش یوروپل در سال ۲۰۲۲ نشان می‌دهد گروه‌های تروریستی از فناوری‌هایی مانند تولید خودکار محتوا، پرهیز از تشخیص چهره و تحلیل روندهای آنلاین برای بهبود عملکرد خود استفاده می‌کنند. در بسیاری از موارد، این گروه‌ها فاقد تخصص فنی هستند اما از ابزارهای متن‌باز و خدمات فضای دارک برای اتوماسیون پیام‌های جذب نیرو بهره می‌برند.

نسل جوان به‌عنوان «بومیان دیجیتال» هدف اصلی این گروه‌ها قرار گرفته‌اند. آنان که با رسانه‌های اجتماعی و الگوریتم‌های شخصی‌سازی محتوا بزرگ شده‌اند، در معرض پیام‌های تبلیغاتی هوش مصنوعی هستند که با استفاده از سیستم‌های توصیه‌گر و الگوریتم‌های جستجو، محتوای افراطی را به‌صورت خودکار به نمایش می‌گذارند. علاوه بر این، چت‌بات‌های هوشمند می‌توانند با تقلید از افراد مورد اعتماد، در تعامل‌های مجازی جایگزین انسان شوند و ارتباطاتی را ایجاد کنند که به‌سرعت به رادیکالیزاسیون منجر می‌شوند.

یکی از تهدیدات جدی، استفاده از فناوری دیپ‌فیک و رسانه‌های مصنوعی است که امکان جعل ویدئوها و تصاویر با کیفیت بسیار بالا را فراهم می‌کند. این فناوری‌ها به گروه‌های تروریستی امکان می‌دهند چهره شخصیت‌های مذهبی یا رهبران دولتی را جعل کرده و پیام‌هایی جعلی و اغواکننده منتشر کنند. همچنین این ابزارها کارایی فناوری‌های تشخیص چهره در مبارزه با تروریسم را کاهش می‌دهند.

گروه‌هایی مانند داعش، القاعده و … از این فناوری‌ها در شبکه‌های اجتماعی برای انتشار سریع پیام‌ها در زبان‌ها و بسترهای مختلف استفاده می‌کنند. آن‌ها همچنین از ابزارهای تحلیل داده برای بهینه‌سازی پیام‌ها بهره می‌برند و از هشتگ‌های پرطرفدار و بخش نظرات برای گسترش تبلیغات خود سوءاستفاده می‌کنند. هنگام حذف محتوا از شبکه‌های اصلی، این گروه‌ها به فضاهای کم‌تر تحت کنترل مانند تلگرام و سایت‌های خاص منتقل شده و از چهره‌های جعلی با هوش مصنوعی برای ادامه عملیات استفاده می‌کنند.

علاوه بر تبلیغات، تهدیدات مالی نیز وجود دارد؛ ربات‌های هوش مصنوعی در معاملات رمزارزها و جمع‌آوری سرمایه برای تروریسم به‌کار گرفته می‌شوند. همچنین چت‌بات‌های رمزگذاری شده امکان انجام تعاملات رادیکالیزاسیون گسترده و شبانه‌روزی را فراهم کرده‌اند که قابلیت نظارت و مقابله با آن‌ها بسیار محدود است.

روش‌های سنتی نظارت بر محتوا و فعالیت‌های تروریستی دیگر ناکارآمد شده‌اند، چراکه هوش مصنوعی امکان تولید نامحدود نسخه‌های جدید از محتوای افراطی را فراهم می‌کند که از تشخیص بر اساس الگوهای قبلی فرار می‌کنند. همچنین، پیام‌های شخصی‌سازی شده بر اساس رفتار کاربران، باعث پیچیده‌ترشدن اقدامات مقابله‌ای شده است.

برای مقابله با این تهدید، استفاده از سیستم‌های هوش مصنوعی نسل جدید برای شناسایی و فیلتر محتوای تبلیغاتی تروریستی ضروری است. همکاری‌های بین‌المللی و تبادل اطلاعات مانند انجمن جهانی اینترنت برای مقابله با تروریسم و شبکه جهانی مقابله با افراط‌گرایی و فناوری در این زمینه نقش کلیدی دارند. ترکیب فناوری‌های خودکار با نظارت انسانی و آموزش کارشناسان به منظور درک بهتر متون و زمینه‌های فرهنگی، راهبردی مؤثر برای تشخیص زودهنگام رادیکالیزاسیون است. همچنین، قوانین هماهنگ و آموزش ناظران محلی در زبان‌های مختلف باید در دستورکار دولت‌ها قرار گیرد.

نمونه‌هایی مانند اقدامات دولت هند در اصلاح قوانین فناوری اطلاعات و مسدودسازی سامانه‌های جعلی و همچنین الزام‌های کشورهای استرالیا، آمریکا و انگلستان برای پاسخگویی پلتفرم‌ها به تولید و انتشار محتوای مضر، نشان‌دهنده اهمیت اقدام جدی در این حوزه است.

در نهایت، ادغام هوش مصنوعی در تبلیغات جهادی موجب تغییر چشمگیر و خطرناکی در تهدیدات امنیتی جهانی شده است. مقابله موثر با این پدیده نیازمند همکاری میان دولت‌ها، شرکت‌های فناوری، جامعه مدنی و تنظیم‌کنندگان قوانین است. شناخت عمیق‌تر عوامل اجتماعی و روان‌شناختی رادیکالیزاسیون دیجیتال نیز برای موفقیت این مبارزه حیاتی خواهد بود./ منبع