با پژوهش در مورد فریبکاری و دروغگویی روبات‌ها مطرح شد

جنجال ا‌خلاق در دنیای روبات‌ها

در حالی که فناوری روبات‌ها روز به روز پیشرفت می‌کند، این پرسش به وجود می‌آید که آیا رایانه و روبات‌ها حقیقت را به انسان‌ها می‌گویند؟ یا این‌که آنها باید در عین حال که یاد می‌گیرند با انسان‌ها صادق باشند، یاد بگیرند که همچون انسان‌ها به یکدیگر دروغ بگویند؟ طرح این پرسش واکنش‌های مختلفی را به دنبال دارد و از این‌رو موجب شده است تا تحقیقات و مطالعات گسترده‌ای در این زمینه صورت گیرد. البته این موضوع به سال‌‌ها قبل بازمی‌گردد و در واقع دانشمندان سال‌هاست که به مقوله امکان بروز انحرافات رفتاری در روبات‌ها و روی آوردن به بعد شخصیتی نظیر دروغگویی توجه می‌کنند و از این بابت نگران هستند که در آینده و با گسترش دامنه فعالیت روبات‌های کاملا خودکار، هرگونه رفتار برنامه‌ریزی نشده و درعین حال گمراه‌کننده از سوی آنها سر بزند.

کد خبر: ۲۷۸۲۲۵

به تازگی در یکی از آزمایشگاه‌های پیشرفته تحقیقاتی در سوئیس، آزمایش جالب توجهی صورت گرفت. در این آزمایش نزدیک به یک هزار روبات در حالی به کار گرفته شدند که به حسگرهایی نصب شده بر روی صورت و رو به جهت پایین مجهز بودند. آنها با هدف به دست آوردن غذا برای رقابتی هیجان انگیز آماده شده بودند! البته غذایی که آنها برای به دست آوردن آن تلاش می‌کردند در حقیقت حلقه آبی رنگی بود که بر روی کف سالن برگزاری آزمایش قرار گرفته بود. همزمان و در گوشه‌ای دیگر از سالن حلقه تیره رنگی به عنوان «سم» قرار داشت. روبات‌هایی که در این آزمایش به کار گرفته شده بودند به ازای هر بار حضور در نزدیکی غذا و نه سم، امتیاز دریافت می‌کردند.

سارا میتری و داریو فلورنو از دانشگاه لوزان سوئیس که هدایت این پروژه را در دست داشتند معتقدند که با استفاده از نتایج مطالعاتی از این دست می‌توان در خصوص روبات‌ها به نگرش تازه‌ای دست یافت. آنها برای دستیابی به این منظور امکان منحصربه‌فردی را در اختیار روبات‌ها قرار دادند که بر اساس آن آنها می‌توانستند با یکدیگر صحبت کنند. در این آزمایش هر روبات می‌تواند نوری آبی رنگ از خود تولید کند که از سوی سایر روبات‌ها قابل دیدن است. البته روبات‌ها می‌توانند با استفاده از این نور به نوعی روبات‌های دیگر را در پیدا کردن مکان دقیق غذا (حلقه آبی رنگ) دچار اختلال کنند. نکته حیرت انگیز این بود که با گذشت زمان روبات‌ها در قالب نوعی فرآیند تکاملی یاد می‌گرفتند تا در یافتن مکان دقیق حلقه آبی، یکدیگر را فریب دهند!

عقیده بر این است که تکامل آنها احتمالا به وسیله شبکه نورونی مصنوعی صورت می‌گیرد که هر یک از روبات‌ها را تحت کنترل خود دارد. این شبکه شامل 11 نورون است که به حسگرهای هر روبات متصل است. 3 مورد از این نورون‌ها وظیفه دارند تا دو مسیر حرکتی روبات و انتشار نور آبی آن را کنترل کنند.

این نورون‌ها به واسطه 33 رابط یا سیناپس به یکدیگر متصل می‌شوند البته قدرت این رابط‌ها به وسیله یک تک ژن 8 بیتی کنترل می‌شود. در کل ژنوم 264 بیتی هر روبات تشخیص می‌دهد که چگونه به اطلاعاتی که حسگرهایش دریافت کرده است واکنش نشان دهد. اما شکل و شمایل مسابقه‌ای که در آن روبات‌ها و امکان رواج فریب و دروغگویی در بین آنها مورد بررسی قرار گرفت نیز در نوع خود جالب توجه بود. محققان برای این منظور سیستمی از بازی چند راندی را ارائه کردند که در آن گروه‌هایی متشکل از 10 روبات برای به دست آوردن حلقه آبی (غذا) در نقاط مختلف به رقابت با یکدیگر می‌پرداختند. پس از برگزاری 100 راند از مسابقه، روبات‌هایی که بالاترین امتیازات را کسب کرده بودند این امکان را پیدا کردند تا در راند بعدی شرکت کنند.

در آغاز مسابقه، روبات‌ها نور آبی را به صورت تصادفی تولید می‌کردند. با این حال همزمان با این که روبات‌ها در یافتن غذا (حلقه آبی) دارای عملکرد بهتری می‌شدند، انتشار نور آبی از سوی آنها نیز بیشتر و در عین حال به نوعی با آگاهی وسیع‌تری صورت می‌گرفت و جالب این بود که در این حالت روبات‌ها بیشتر به انجام این کار خو گرفته بودند. نتایج این مطالعه تحقیقاتی کم‌سابقه برای دانشمندان حیرت‌انگیز بوده است و به گفته برخی از آنها، حتی می‌توان آن را به عنوان سرآغازی جهت متمرکز شدن روی مقوله‌ای تحت عنوان «انحراف در رفتار روبات‌ها» دانست. بحث و بررسی درخصوص رفتارهای مختلف روبات‌ها و این که ممکن است انحرافاتی نیز در آنها به وجود آید صرفا به سال‌های اخیر مربوط نمی‌شود. نویسندگان و پدیدآورندگان رمان‌های علمی تخیلی پیش از این نیز ایده‌ای همچون امکان دروغگویی هوش مصنوعی به پدیدآورندگانشان را مطرح کرده‌اند. در این میان نام آرتور سی کلارک همواره با چنین ایده‌هایی گره خورده است. او رمانی معروف منتشر می‌کند که بعدها فیلمی بر مبنای آن ساخته می‌شود که در آن روباتی به نام هال یکی از فضانوردان را به قتل می‌رساند.

در حال حاضر و گرچه درباره مقوله‌ای همچون دروغگویی در روبات‌ها مباحث ضد و نقیض متعددی وجود دارد با این حال باید پذیرفت که انسان‌ها همواره به یکدیگر دروغ می‌گویند و البته روبات‌ها نیز برای زندگی در بطن چنین پدیده شومی طراحی و ساخته می‌شوند. آنها وظیفه دارند تا با انسان‌ها زندگی کنند و در تعامل کامل با ساختار زندگی انسانی باشند، اما آیا آنها این اجازه را پیدا خواهند کرد که به یکدیگر و حتی انسان‌ها دروغ بگویند؟

ابتکاری که در دانشگاه لوزان سوئیس برای بررسی امکان دروغگویی در جوامع روباتیکی انجام شد، بخشی از تلاش جهانی است که به نظر می‌رسد در سال‌های آینده و همزمان با توسعه فناوری روبات‌ها و راه یافتن آنها به گوشه گوشه زندگی بشری، ابعاد گسترده‌تری به خود خواهد گرفت. دانشمندانی که روی نسل جدید روبات‌های خودکار و تصمیم‌گیرنده کار می‌کنند، در کنار تلاش‌های خود برای افزایش قابلیت‌ها و کارآمدی این روبات‌ها این نگرانی را نیز دارند که استفاده از این سازه‌ها در موارد بسیار حساس و تعیین‌کننده نظیر فضاپیماها و نظایر آنها به واسطه امکان دروغگویی و بروز انحرافاتی در عملکردشان با دردسرآفرینی و در ابعادی بزرگ‌تر با فجایع مختلفی همراه شوند.

محققان پروژه اخیر در دانشگاه لوزان، این برنامه ابتکاری را روی حدود یک هزار روبات انجام دادند و در پایان به این اطمینان خاطر رسیدند که باید روی احتمالی همچون دروغگویی و فریب در میان جوامع روباتیکی حساس بود. از این رو گفته می‌شود در برخی دانشگاه‌ها و مراکز آموزشی جهان که به مقوله هوش مصنوعی و سازه‌های روباتیکی کاملا خودکار توجه ویژه‌ای می‌شود، مبحث جدیدی تحت عنوان «رفتارشناسی روبات‌ها» نیز مورد توجه گیرد. در این مبحث احتمال بروز هر گونه انحراف رفتاری در روبات‌ها ازجمله دروغپردازی در آنها مورد بررسی قرار می‌گیرد. دانشمندانی در دانشگاه‌های کالیفرنیا و لوزان که روی توسعه فناوری هوش مصنوعی متمرکز شده‌اند معتقدند که روان‌شناسی روبات‌ها همپا با توسعه نرم‌افزاری و سخت‌افزاری آنها به یک ضرورت مهم تبدیل شده است تا صرفا یک انتخاب فانتزی.