گزارش تازه درباره سوءاستفاده تروریستها از هوش مصنوعی؛ چالش جدید امنیت سایبری
یک پژوهش جدید نشان میدهد برخی اعضای گروههای تروریستی از ابزارهای هوش مصنوعی برای دریافت اطلاعات فنی، انجام فعالیتهای روزمره و پشتیبانی از عملیات خود استفاده کردهاند؛ موضوعی که بار دیگر اهمیت تقویت سازوکارهای ایمنی و نظارت بر فناوریهای هوش مصنوعی را برجسته کرده است.
به گزارش جام جم آنلاین، پژوهشی تازه که جزئیات آن پیش از انتشار در اختیار روزنامه نیویورکتایمز قرار گرفته، از احتمال استفاده برخی اعضای گروههای تروریستی از چتباتهای هوش مصنوعی برای انجام فعالیتهای مختلف خبر میدهد. بر اساس این گزارش، اعضای گروه بوکوحرام از ابزارهای هوش مصنوعی برای دریافت اطلاعات فنی، رفع اشکال تجهیزات و انجام برخی فعالیتهای مرتبط با عملیات خود بهره گرفتهاند.
این پژوهش که بر پایه مصاحبه با ۲۷ عضو سابق این گروه در نیجریه انجام شده، نشان میدهد ابزارهایی مانند ChatGPT، Gemini، Claude، Grok، Meta AI و DeepSeek در برخی موارد مورد استفاده قرار گرفتهاند. با این حال، پژوهشگران تأکید میکنند که این ابزارها بهطور مستقیم جایگزین عوامل انسانی، برنامهریزی میدانی یا شبکههای عملیاتی نمیشوند و اجرای اقدامات خشونتآمیز همچنان به منابع، هماهنگی و تدارکات انسانی وابسته است.
در واکنش به این گزارش، شرکتهای فعال در حوزه هوش مصنوعی اعلام کردهاند که استفاده از محصولاتشان برای حمایت از تروریسم یا خشونت، نقض سیاستهای استفاده از خدمات آنهاست و طی ماههای اخیر، تدابیر امنیتی و سازوکارهای حفاظتی مدلهای خود را تقویت کردهاند تا احتمال سوءاستفاده کاهش یابد.
کارشناسان معتقدند افزایش توانمندی مدلهای هوش مصنوعی، مسئولیت شرکتهای توسعهدهنده را برای ارتقای سامانههای ایمنی، شناسایی سوءاستفاده و جلوگیری از دور زدن محدودیتهای امنیتی بیش از گذشته افزایش داده است. این گزارش همچنین بر ضرورت توسعه همزمان فناوری و سازوکارهای نظارتی برای حفظ امنیت کاربران و کاهش مخاطرات احتمالی تأکید میکند.
