جنگ در دنیای دیجیتال

ربات‌ها در گذشته نه‌چندان دور، فقط بخشی از افسانه‌ها و داستان‌های علمی ـ تخیلی بودند. بیشتر ما دورانی را به یاد داریم که با دیدن فیلم‌هایی مثل ترمیناتور یا خواندن کتاب‌های آسیموف، بحث درباره شورش ربات‌ها و همزیستی با ربات‌هایی با قدرت آگاهی بالا آغاز می‌شد، اما هیچ کدام از ما قطعا در مخیله‌مان هم نمی‌گنجید در روزهایی که زنده‌ایم، این خطر آنقدر جدی شود که آرام آرام توجه جامعه جهانی را جلب کند. امروز ایالات متحده ۲۰ هزار ربات مختلف در عراق، افغانستان، آسمان لیبی، سوریه و حتی در آسمان کشور ما دارد که هرچند بیشتر آنها از مریلند و مقر پنتاگون هدایت می‌شوند، اما ماموریت‌های آنها بسیار تاثیرگذار بوده است. هرچند ربات‌های جنگجوی امروزی، بیشتر هدایت‌پذیر از دور هستند، اما پیشرفت‌های اخیر در تشخیص صوت یا تصویر که حتی در گوشی‌های همراه ​ هم وارد شده است (مثل سیری در اپل یا تشخیص حرکت چشم در تلفن‌های اندرویدی یا حرکت بدن در کینکت مایکروسافت) نشان می‌دهد که روز به روز ربات‌ها مستقل‌تر از ما عمل خواهند کرد و سرانجام روزی فراخواهد رسید که دیگر نیازی به هدایت و کنترل ما نخواهند داشت و کاملا مستقل تصمیم گرفته و عمل خواهند کرد. آیا روزی فرا خواهد رسید که ربات‌ها علیه ما شورش کنند؟ اگر چنین خطری جدی است، بشر باید برای آن آماده باشد.

یک تلنگر

دو سال پیش و در یک ظهر تابستانی، ناگهان هدایتگرهای ارتش آمریکا تمام راه‌های ارتباطی‌شان با یک هلیکوپتر رباتیک فایر اسکات را که روی آسمان ایالت مریلند پرواز می‌کرد از دست دادند. در کد این هلیکوپتر رادیویی آمده بود که اگر تمام کانال‌های ارتباطی قطع شد، به نقطه بلند شدنش برگردد و روی زمین بنشیند؛ ولی این ربات به شمال غرب می‌رفت؛جایی که کاخ سفید و ساختمان کنگره از دور دیده می‌شد! در ۳۰ دقیقه‌ای که از قطع ارتباط هلیکوپتر با زمین تا لحظه به زمین نشاندن آن گذشت، نیروی هوایی ایالات متحده در ساحل شرقی این کشور وضعیت قرمز اعلام کرد. اسکادران محافظتی جرج‌تاون با چند فروند هواپیمای اف ۱۶ آماده شد تا در صورت بحرانی‌تر شدن اوضاع هلیکوپتر بدون سرنشین را در آسمان بزند. سرانجام در حالی که فایر اسکات به چند کیلومتری کاخ‌سفید رسیده بود، دوباره در اختیار هدایتگرهای ارتش درآمد و به خانه بازگردانده شد. تیترهای فردای آن روز مهم‌ترین روزنامه‌های آمریکایی: «پرسه‌زنی هلیکوپتر یاغی روی آسمان پایتخت»، «هلیکوپتر طغیانگر در واشنگتن چرخید» فایر اسکاتی که از کنترل خارج شده بود، مهمات نداشت. این ماشین از لحاظ هوش در حد و اندازه‌ای نبود که بتواند با برنامه‌ریزی و با تصمیم‌گیری قبلی دست به حرکتی علیه هدایتگرهایش؛ آن طور که در داستان‌های علمی ـ تخیلی اتفاق می‌افتد، بزند، ولی هنگامی که همین ربات از کنترل انسان خارج شد، آنها مجبور شدند نیروهای نظامی و دفاعیشان را برای مهار آن آماده و تجهیز کنند. پس از این اتفاق حتی وزیر دفاع ایالات متحده در کنگره استیضاح شد؛ ولی نکته قابل توجه این است که ربات‌هایی مانند فایر اسکات مدام در حال باهوش‌تر و مستقل‌تر شدن هستند.

جنگ در عصر تکنولوژی

نوئل شارکی، استاد دانشگاه شفیلد انگلستان که متخصص رباتیک و هوش مصنوعی است یکی از افرادی است که بیرون از هیاهوی دنیای رباتیک از آینده این ماشین‌ها نگران است. او کتابی با عنوان «ماموران جنگ» نوشته و در آن آینده میدان‌های جنگ و ربات‌های نظامی در قرن بیست و یکم را پیشبینی می‌کند و این که آنها ممکن است چطور دنیای ما را به نابودی بکشند. او معتقد است تلاش‌هایی که برای اهلی کردن و پایبند نگهداشتن ربات‌ها انجام می‌شود در مقابل سرعت پیشرفت و گسترش دنیای آنها بسیار ناچیز است. شارکی می‌گوید: «ربات‌ها مانند کودکی هستند که بسرعت بزرگ می‌شود و ما تلاش بسیاری کمی در راه تربیت و آموزش آنها می‌کنیم!» اما در مقابل وندر‌والاچ، رئیس بخش پژوهشی تکنولوژی و اخلاق در دانشگاه ییل آمریکا هم معتقد است​ هوش مصنوعی را نمی‌توان از حد خاصی بالاتر برد. او می‌گوید​ پیشرفت برنامه‌هایی که برای ربات‌ها نوشته می‌شود و پیشرفت طراحی و ساخت آنها می‌تواند هوششان را بالاتر ببرد، ولی مفهوم هوش در این ماشین‌ها هیچ وقت رنگ و بویی از هوش انسانی نخواهد داشت؛ زیرا آنها هیچ گره پیش‌بینی‌نشده‌ای را نمی‌توانند باز کنند و جهان پر از اتفاقات جدید و بی‌سابقه است و نظامیان براحتی و با استفاده از حقه‌های نه‌چندان پیچیده می‌توانند ربات‌ها را فریب دهند و این ربات‌ها اشتباه می‌کنند؛ همان‌ طور​که با خطایشان باعث مرگ هزاران غیرنظامی در افغانستان و پاکستان شده‌اند. البته کسانی هم هستند که بر عکس این فکر می‌کنند. آنها می‌گویند همین حالا سرعت پردازش رایانه‌ها بیشتر از انسان است. مثلا یک ضدهوایی خودکار حتی از حواس‌جمع‌ترین سربازانی که پشت ضدهوایی بنشینند هم سریع‌تر عمل می‌کند. حداقل چند صدم ثانیه هم در نبرد زمان کمی نیست. همین الان، تعداد زیادی از این ربات‌ها در ناحیه مرزی دو کره در حال انجام وظیفه هستند. نباید فراموش کرد که یک ابرکامپیوتر سال‌ها قبل توانست کاسپاروف، قهرمان شطرنج جهان را مغلوب کند. سناریوی فیلم ترمیناتور آنقدرها هم‌دور از ذهن نیست و در درازمدت به واقعیت نزدیک می‌شود.

افسار رباتیک

طبق قانون مور، قدرت پردازش تراشه کامپیوترها با حفظ قیمت، هر ۱۸ ماه دو برابر می‌شود. به این ترتیب در آینده نزدیک با پیشرفت‌هایی که بویژه در هوش مصنوعی و کامپیوترهای کوانتومی رخ خواهد داد چندان اغراق‌آمیز نیست اگر بگوییم این موجودات آهنی صاحب شخصیت می‌شوند و به این ترتیب داستان‌های تخیلی ایزاک آسیموف و دغدغه‌هایی که او داستان‌هایش را بر آنها استوار کرده بود، به چالش انسان‌های دنیای واقعی تبدیل می‌شود: «این که چگونه باید ربات‌ها را اخلاق‌محور کرد؟» و این که چگونه باید جامعه ربات‌ها را تا ابد (و حتی هنگامی که کاملا از انسان مستقل شدند) به ارزش‌های انسانی پایبند نگه داشت. قوانین سه گانه آسیموف که البته در داستان‌های علمی ـ تخیلی او آمده است، اولین ایده در این راه هستند.

جرمی بنتام و جان استوارت ـ دو نفر از فلاسفه تحلیلی ـ عقیده داشتند​ تمام رفتارها و تصمیماتی که ما می‌گیریم، نتیجه محاسبات و مقایسه‌هایی است که در ذهن انجام می‌دهیم. آنها بر همین اساس اصل «لذت جویانه‌بودن رفتارها» را مطرح کرده‌اند. آنچه در این اصل توضیح داده می‌شود آن است که رفتاری مناسب است که بالاترین سطح رضایت را به همراه بیاورد؛ یعنی هر رفتاری در ذهن از قبل با مقایسه مقدار لذت و ناخشنودی‌ای که به همراه می‌آورد، سنجیده می‌شود. براساس باور این دو، باید در ذهن ربات‌ها چنین سیستمی طراحی شود تا پس از ارزشگذاری اصول اخلاقی، ربات واحدهای لذت و ناخشنودی را با هم مقایسه کند و بتواند بر مبنای آن تصمیم بگیرد. سال ۲۰۰۵، رافائل رزپکا و کن​جی آراکی از دانشگاه هوکایدو​ ژاپن، طرحی را با عنوان «الگوریتم‌های دموکراسی محور» پیشنهاد کردند. این سیستم می‌توانست در جستجویی سریع در گوگل رفتارهایی را که بیشتر مردم در موقعیت‌های مختلف نشان داده بودند، به صورت آماری استخراج کند و از این طریق به ربات فرمان دهد. مشکل این طرح آن است که در بسیاری از مواقع کاری که بیشتر انجام می‌دهند، کار درست و عاقلانه‌ای نیست و واکنش مناسب‌تر را عده‌ای انجام می‌دهند که در اقلیت هستند، اما دانش بیشتری دارند (آریستو کراسی)، اما ویژگی مهمی که طرح «الگوریتم‌های دموکراسی‌محور» داشت، این بود که زمینه‌ساز ارائه مدل‌های جدیدی برای تربیت و ربات‌ها شد. یکی از این طرح‌ها، ساخت رباتی به نام «ربات تعلیم‌دهنده» بود. این ربات می‌تواند در مراحل ساخت ربات‌های دیگر شرکت کند و با اتصال به آنها، تعداد پرشماری از موقعیت‌ها و تصمیمات عاقلانه و انسانی را که می‌توان در آنها گرفت، به ذهن ربات منتقل کند.

به هر حال شاید در روزگار ما و در ربات‌های اولیه هم نسل ما وجود قوانین و اصول بنیادین چندان اهمیت نداشته باشد، ولی با پیشرفت هوش مصنوعی، سازندگان ربات با این پرسش بزرگ روبه‌رو می‌شوند که با ربات‌ها چه باید کرد تا همیشه فرمانبر انسان بمانند؟ پاسخ نقشی تعیین‌کننده در سرنوشت بشر داشته باشد.

مهدی صارمی فر / جام جم