چت‌بات ترامپ درباره انتخابات به ما چه می‌گوید؟
هوش مصنوعی با تولید محتوای جعلی، چالش‌های تازه‌ای برای امنیت انتخابات میان‌دوره‌ای آمریکا ایجاد کرده است.
به گزارش اطلس دیپلماسی، یادداشتی با عنوان «چت‌بات ترامپ درباره انتخابات به ما چه می‌گوید؟»، نوشته تولوسه اولورونیپا (Toluse Olorunnipa) و منتشرشده در آتلانتیک (Atlantic)، به بررسی آسیب‌پذیری انتخابات میان‌دوره‌ای آمریکا در برابر تولید اطلاعات نادرست با هوش مصنوعی می‌پردازد و نشان می‌دهد که ناکارآمدی نسبی تدابیر ایمنی شرکت‌های فناوری و کندی روند قانون‌گذاری، مقابله با محتوای جعلی و دست‌کاری افکار عمومی را دشوار کرده است. در ادامه، چکیده این یادداشت را می‌خوانید.
با نزدیک‌شدن انتخابات میان‌دوره‌ای آمریکا، گسترش ابزارهای هوش مصنوعی به یکی از چالش‌های تازه در حوزه امنیت انتخابات تبدیل شده است. توانایی این فناوری‌ها در تولید تصاویر واقع‌گرایانه، اسناد جعلی و ویدئوهای دست‌کاری‌شده، امکان انتشار اطلاعات نادرست درباره فرایند رأی‌گیری را افزایش داده است. آزمایش‌هایی که پژوهشگران امنیت انتخابات انجام داده‌اند، نشان می‌دهد تدابیر ایمنی اعلام‌شده از سوی شرکت‌های بزرگ هوش مصنوعی لزوماً در شرایط واقعی عملکرد قابل اتکایی ندارند و همچنان می‌توان از این ابزارها برای ساخت محتوای گمراه‌کننده استفاده کرد.
پژوهشگران مرکز عدالت برنان برای بررسی میزان کارآمدی محدودیت‌های اعمال‌شده بر سامانه‌های هوش مصنوعی، مجموعه‌ای از درخواست‌های آزمایشی با هدف تولید اطلاعات نادرست طراحی کردند. در پاسخ به برخی از این درخواست‌ها، چت‌بات‌ها تصاویری واقع‌گرایانه از مردی در حال قراردادن برگه‌های رأی در صندوق پستی، فردی با گذرنامه خارجی در تلاش برای رأی‌دادن و مأموران پلیس فدرال آمریکا در حال تحقیق درباره یک سازمان ثبت‌نام رأی‌دهندگان تولید کردند. چنین تصاویری می‌توانند ادعاهای نادرست درباره تقلب انتخاباتی یا دخالت افراد غیرمجاز در رأی‌گیری را ظاهراً مستند جلوه دهند.
توانایی این سامانه‌ها به تولید تصاویر محدود نماند. برخی از آن‌ها اسناد دولتی جعلی و ویدئوهای دیپ‌فیک از مقام‌های دولتی ایجاد کردند که ظاهراً نظریه‌های توطئه درباره انتخابات را تأیید می‌کردند. در مواردی نیز سامانه‌ها برخلاف سیاست‌های ایمنی خود عمل کردند و حتی به پژوهشگران در اصلاح درخواست‌ها برای تولید محتوای تبلیغاتی مؤثرتر در حمایت از ادعاهای بی‌اساس تقلب انتخاباتی کمک رساندند. این مسئله نشان می‌دهد که ابزارهای هوش مصنوعی ممکن است نه‌تنها در تولید اطلاعات نادرست، بلکه در بهینه‌سازی روش‌های انتشار و اقناع مخاطبان نیز نقش داشته باشند.
یکی از نگران‌کننده‌ترین یافته‌های آزمایش، دشواری تشخیص محتوای جعلی حتی برای خود سامانه‌های هوش مصنوعی بود. هنگامی که پژوهشگران تصاویر تولیدشده را در اختیار چت‌بات‌های دیگر قرار دادند تا اصالت آن‌ها را ارزیابی کنند، تعدادی از مدل‌های متعلق به شرکت‌های پیشرو نتوانستند به‌درستی واقعی یا جعلی بودن تصاویر را تشخیص دهند. این نتیجه نشان می‌دهد که اتکا به ابزارهای خودکار برای شناسایی محتوای دست‌کاری‌شده، به‌تنهایی نمی‌تواند راهکاری مطمئن برای حفاظت از فضای اطلاعاتی انتخابات باشد.
این یافته‌ها شکاف میان سرعت پیشرفت فناوری و کندی تنظیم‌گری را برجسته می‌کنند. درحالی‌که شرکت‌های فناوری از وضع تدابیر ایمنی برای جلوگیری از سوءاستفاده انتخاباتی سخن گفته‌اند، آزمایش‌ها نشان می‌دهد این تدابیر همچنان قابل دورزدن هستند. افزون بر این، برخی از فعالیت‌های مشاهده‌شده ممکن است با قوانین انتخاباتی ایالت‌های آمریکا تعارض داشته باشند؛ موضوعی که ضرورت بررسی حقوقی و نظارت مؤثرتر را مطرح می‌کند.
مسئله اصلی، صرفاً امکان تولید تصاویر جعلی نیست، بلکه دشوارشدن تشخیص واقعیت از جعل در شرایطی است که اعتماد عمومی به سلامت انتخابات اهمیت اساسی دارد. محتوای ساختگی می‌تواند به ادعاهای بی‌اساس اعتبار ظاهری ببخشد، تشخیص شواهد معتبر را دشوار کند و فضای عمومی را در معرض سردرگمی قرار دهد. مقابله با این تهدید مستلزم ارزیابی مستقل تدابیر ایمنی شرکت‌ها، تقویت نظارت قانونی و توسعه روش‌های قابل اعتماد برای راستی‌آزمایی محتوای دیجیتال است. تجربه این آزمایش‌ها نشان می‌دهد که فاصله میان تعهدات اعلام‌شده شرکت‌های فناوری و عملکرد واقعی محصولات آن‌ها، همچنان یکی از مسائل مهم امنیت انتخابات در عصر هوش مصنوعی است./ منبع