سامانه «میون» محصول پالانتیر، در معماری اطلاعاتی و هدفگیری نظامی آمریکا نقش مهمی دارد؛ سامانهای که میتواند حجم عظیمی از اطلاعات ماهوارهای، تصاویر پهپادها، دادههای راداری و اطلاعات دیگر را کنار هم قرار دهد و روند شناسایی و اولویتبندی اهداف را سرعت ببخشد.
از داده تا هدف؛ جنگی که با الگوریتمها سریعتر میشود
پروژهای که امروز به سامانههای پالانتیر رسیده، ریشه در برنامه «Project Maven» وزارت دفاع آمریکا دارد.
این پروژه در سال ۲۰۱۷ با هدف استفاده از هوش مصنوعی برای تحلیل تصاویر و شناسایی اهداف نظامی آغاز شد. پس از اعتراض کارکنان گوگل به مشارکت شرکت در برنامههای نظامی، پالانتیر به یکی از بازیگران اصلی این پروژه تبدیل شد.
فلسفه چنین سامانههایی در ظاهر ساده است: اطلاعات پراکندهای که پیشتر باید توسط گروههای مختلف تحلیل میشد، در یک محیط دیجیتال تجمیع میشود تا فرماندهان بتوانند سریعتر درباره اهداف و عملیات تصمیم بگیرند.
اما مسأله زمانی پیچیده میشود که خروجی یک سامانه هوش مصنوعی وارد «زنجیره کشتار» شود؛ یعنی مسیری که از جمعآوری داده و شناسایی یک نقطه آغاز میشود و درنهایت میتواند به انتخاب سلاح و حمله منتهی شود.
گزارشهای منتشرشده درباره جنگ ۲۰۲۶ ایران نیز استفاده ارتش آمریکا از سامانه Maven در عملیات خبر دادهاست. برخی گزارشها حتی از اتکای بیش از حد بخشی از کارکنان نظامی به این سامانه در جریان حمله میناب سخن گفتهاند.
مدرسه میناب؛ یک خطای ساده یا شکست یک زنجیره؟
مهمترین نکته این است که تاکنون سند عمومی قطعی منتشر نشده که ثابت کند الگوریتم پالانتیر مستقیما مدرسه میناب را به عنوان هدف تعیین کرده یا دستور حمله را صادر کرده است اما همین مسأله، پرسش بزرگتری را ایجاد میکند: اگر سامانههای هوش مصنوعی در فرآیند هدفگیری نقش دارند، مسئولیت خطای آنها بر عهده چه کسی است؟گزارشهایی درباره خطاهای زنجیره هدفگیری آمریکا در حمله میناب بسیار است. براساس گزارش بلومبرگ، اطلاعاتی درباره تغییرات محل مدرسه در سامانهای ثبت شده بود اما این دادهها به پایگاه داده اصلی مورد استفاده در فرآیند هدفگیری متصل نبود.
در چنین شرایطی، فناوری نهتنها نتوانسته از یک خطای مرگبار جلوگیری کند بلکه پرسش درباره نحوه کنترل و راستیآزمایی اطلاعات را جدیتر میکند.
وقتی سرعت جای احتیاط را میگیرد
یکی از خطرات اصلی جنگ مبتنی بر هوش مصنوعی، افزایش سرعت تصمیمگیری است.
در جنگ سنتی، اطلاعات باید توسط تحلیلگران بررسی و میان چند سطح فرماندهی منتقل شود اما سامانههای هوشمند میتوانند دادهها را در مدت بسیار کوتاهی پردازش و اهداف احتمالی را برجسته کنند.
به همین دلیل، سازمانهایی مانند دیدهبان حقوقبشر هشدار دادهاند که استفاده از هوش مصنوعی در عملیات نظامی ممکن است زمان لازم برای راستیآزمایی اهداف و ارزیابی خطر برای غیرنظامیان را کاهش دهد.
این سازمان همچنین درباره «سوگیری ناشی از اتوماسیون» هشدار داده است؛ وضعیتی که در آن تصمیمگیرنده انسانی ممکن است بیش از اندازه به خروجی یک سامانه ماشینی اعتماد کند.
در حقوق بینالملل بشردوستانه، سرعت بهتنهایی توجیهی برای کنار گذاشتن اصل تفکیک میان اهداف نظامی و غیرنظامیان نیست. حتی اگر یک سیستم هوش مصنوعی احتمال خطا را کاهش دهد، مسئولیت نهایی استفاده قانونی از زور همچنان بر عهده انسانها و ساختار فرماندهی باقی میماند.
پالانتیر؛ شرکت فناوری یا پیمانکار جنگ؟
پالانتیر دیگر صرفا یک شرکت نرمافزاری معمولی در سیلیکونولی نیست. این شرکت در سالهای اخیر قراردادهای گستردهای با نهادهای نظامی و امنیتی آمریکا داشته و همکاری آن با ارتش اسرائیل نیز به یکی از محورهای انتقاد سازمانهای حقوقبشری تبدیل شده است.گزارشها از استفاده فناوریهای پالانتیر در عملیات مرتبط با غزه، لبنان و ایران حکایت دارد؛ هرچند جزئیات دقیق نقش هر سامانه در عملیاتها همواره به صورت عمومی منتشر نشده است. پالانتیر نیز در مواردی اتهامهای مربوط به استفاده مستقیم از فناوریهایش در حملات مشخص را رد کرده است.
با این حال، گسترش این همکاریها یک تغییر مهم را نشان میدهد: مرز میان شرکت فناوری و پیمانکار نظامی روزبهروز کمرنگتر میشود.
مسئولیت با الگوریتم نیست
اگر حملهای به یک هدف غیرنظامی بر اثر شناسایی اشتباه، داده ناقص یا تصمیم نادرست انسانی رخ دهد، نمیتوان مسئولیت را به گردن الگوریتم انداخت. ماشین نه مسئولیت حقوقی دارد و نه امکان پاسخگویی اخلاقی.مسأله اصلی، زنجیره انسانی پشت فناوری است؛ کسانی که دادهها را انتخاب کرده،، سامانه را به کار میگیرند، خروجی آن را تفسیر میکنند و در نهایت دستور استفاده از سلاح را میدهند.
جنگ آینده؛ میدان آزمایش هوش مصنوعی
جنگ آمریکا و اسرائیل علیه ایران، اکنون به یکی از نمونههای مهم استفاده گسترده از فناوری هوش مصنوعی در عملیات نظامی تبدیل شده است. سامانههایی که قرار بود جنگ را «دقیقتر» کنند، اکنون در برابر پرسشی بنیادی قرار گرفتهاند؛ آیا افزایش سرعت و حجم پردازش داده واقعا به معنای کاهش تلفات غیرنظامیان است؟
تجربه میناب نشان میدهد پاسخ به این پرسش را نمیتوان صرفا با نمایش تواناییهای فنی سامانهها داد. اگر فناوری بتواند در چند ثانیه هزاران داده را پردازش کند اما یک مدرسه را از یک هدف نظامی تفکیک نکند، مسأله دیگر فقط «خطای نرمافزاری» نیست؛ مسأله به مسئولیت انسانی، شفافیت نظامی و رعایت قوانین جنگ بازمیگردد.
