مروری بر کارکرد منفی ربات‌های فضای مجازی بر مهندسی افکار کاربران

ربات‌ها دموکراسی را تهدید می‌کنند

ربات‌ها اختراع شدند که در اصل انجام کارهای دستی ملال‌آور و مشقت‌بار را برای ما انسان‌ها راحت کنند. وقتی اسم ربات می‌آید لزوما منظور ربات‌های انسان‌نما یا همان آدم آهنی‌های داستان‌های علمی - تخیلی نیست. این روزها ربات‌ها کاربردهای بسیار گسترده‌تری به‌غیر از اعمال یدی دارند و پا به عرصه رسانه و تبلیغات هم گذاشته‌اند. امروزه ربات‌هایی داریم که کاربران فضای مجازی را از آخرین اخبار روز باخبر می‌کنند و محتواهای تازه‌ منتشر‌شده را به گوش بیشتر کاربران فضای مجازی می‌رسانند. ربات‌های امروزی حتی تا جایی پیش رفته‌اند که می‌توانند در شبکه‌های اجتماعی حساب‌های کاربری قلابی بسازند و سایر کاربران را گول بزنند. در ادامه با ما همراه باشید تا ببینیم که ربات‌ها چگونه در فضای مجازی اخلال‌گری می‌کنند، آن هم از نوع سیاسی!

کد خبر: ۱۱۶۳۸۹۰

اگر حساب کاربری در اینستاگرام داشته باشید، حتما متوجه بسیاری از کامنت‌های تبلیغاتی تجاری مصنوعی که شما را به بازدید از صفحه خاصی فرا می‌خوانند شده‌اید. این فقط یک کاربرد کوچک ربات‌ها در فضای مجازی است. تازه‌ترین بررسی‌ها نشان می‌دهد ربات‌ها حتی می‌توانند بر نتیجه نهایی انتخابات اثرگذار باشند.

ربات‌ها ثابت کرده‌اند که می‌توانند ابزار قدرتمندی در نشر دیدگاه‌های سیاسی در شبکه‌های اجتماعی باشند. برای مثال ربات‌ها با افزایش تعداد بازدیدها، لایک‌ها و بازنشرهای یک پست باعث بیشتر دیده‌شدن آن پست می‌شوند. این نوع از ربات‌ها حتی می‌توانند حساب‌های کاربری دیگران را دنبال کنند و توییت‌های کاربران را بازنشر دهند. چنین ترفندهایی درواقع بازی با الگوریتم‌هاست و با کمک به بیشتر دیده‌ترشدن پست‌های دارای مضامین سیاسی باعث تبلیغ جعلی دیدگاه‌های احزاب می‌شود.

نمونه‌ای از این اخلال‌گری را می‌توان در انتخابات ریاست‌جمهوری اخیر آمریکا دید. گفته می‌شود که روسیه در جریان انتخابات ۲۰۱۶ آمریکا با نشر خودکار توییت‌های انتخاباتی در پیروزی ترامپ دخالت داشته است. توییتر نیز به‌تازگی اعلام کرد که بیش از ۵۰ هزار حساب کاربری مشکوک را شناسایی کرده و جزئیات را برای پیگیری‌های بیشتر در اختیار کنگره قرار داده است. در آمریکا برخی می‌گویند این حساب‌های مشکوک با سرویس‌های اطلاعاتی روسیه در ارتباطند و تحقیقات نشان داده است که بیش از ۱۷۵ هزار توییت در دوران انتخابات منتشر کرده‌اند.

الگوهای رفتاری تابلو!

تا به اینجای کار معلوم شد شواهدی وجود دارد که ظاهرا ربات‌ها می‌توانند با نشر خودکار پیام‌های انتخاباتی در نتیجه انتخابات تأثیر بگذارند. برای این‌که حزبی خاص به پیروزی برسد، طرفداران آن حزب می‌توانند ارتشی از ربات‌ها تشکیل دهند. این ربات‌ها فضای مجازی را با پست‌ها و کامنت‌هایی پر خواهند کرد که هدف‌شان تبلیغ اهداف و منویات حزب موردنظر است. اما شناسایی رفتارهای تبلیغاتی ناشی از ربات‌ها حداقل فعلا قابل تشخیص است. برای مثال توییتر در همین سال جاری ده‌ها میلیون حساب کاربری مشکوک را که توسط ربات‌ها کنترل می‌شدند مسدود کرد. تشخیص این‌قبیل پست‌ها و کامنت‌ها برای مردم عادی نیز با اندکی هوشمندی امکان‌پذیر خواهد بود؛ زیرا ربات‌ها معمولا نمی‌توانند شخصیت ماشینی‌شان را پنهان کنند و فقط با نگاهی سریع به الگوی توییت‌ها یا حتی عکس پروفایل‌شان می‌توان به هویت قلابی آنها پی برد.

ربات‌های تبلیغ‌گر سیاسی برخلاف چت‌بات‌ها سعی می‌کنند که هویت‌شان پوشیده باقی بماند. چت‌بات به رباتی گفته می‌شود که مکالمه صوتی یا متنی انجام می‌دهد. این نسل از ربات‌های درحال تکامل بر پایه پردازش زبان طبیعی (NLP)‌ کار می‌کنند که نمونه آن در دستیارهای دیجیتال صوتی همچون آلکسای آمازون، گوگل اسیستنت و کورتانای مایکروسافت مشاهده می‌شود. چت‌بات‌ها کاربردهای دیگری نیز غیر از دستیاری دیجیتال دارند و در زمینه خدمات مشتری هم استفاده می‌شوند. برای مثال سی.‌ان.ان از چت‌بات‌ها به‌منظور ارائه محتوای رسانه‌ای شخصی‌سازی‌شده استفاده می‌کند. مهم اینجاست که چت‌بات‌ها خودشان ربات‌بودن‌شان را به مخاطب اعلام می‌کنند، درحالی‌که ربات‌های تبلیغ‌گر سیاسی خودشان را به‌عنوان کاربران واقعی جا می‌زنند. اغلب این ربات‌ها فقط نسبت به کلیدواژه‌های خاصی حساسند و در واکنش به این کلیدواژه‌های تعریف‌شده پاسخ‌های خودکار ارسال می‌کنند. این پاسخ‌ها بیشتر اوقات به بافت مکالمه نمی‌خورند یا چون از لحاظ ساختاری تابلو هستند، به‌آسانی قابل تشخیصند.

اما همیشه هم به این آسانی نیست. اگر ربات‌ها در تحلیل بافت مکالمه و قصد گوینده زیرک‌تر شوند، راحت‌تر می‌توانند در فضای مجازی ناشناس باقی بمانند و مردم را گول بزنند.

پیش‌بینی شده است که تا چند سال آینده ربات‌هایی خواهیم داشت که کاربران مستعد را شناسایی می‌کنند و از طریق کانال‌های چت خصوصی با آنها وارد گفت‌وگو می‌شوند. این ربات‌های موذی با ردیابی مکالمات و تحلیل داده‌های کاربران قادر خواهند بود تبلیغات سیاسی شخصی‌سازی‌شده ارائه دهند و چه‌بسا که مخاطبان‌شان را به‌سمت دیدگاه‌های افراطی بکشانند. آنها حتی در آینده قادر خواهند شد فعالیت‌هایشان را به‌طور خاص روی افراد بانفوذ یا مخالفان سیاسی متمرکز کنند. برای مثال می‌توانند به اشخاص شناسایی‌شده با پیام‌های توهین‌آمیز حمله و با اسپم‌های مداوم بمباران‌شان کنند یا حتی با ریپورت‌کردن پست‌هایشان باعث بسته‌شدن حساب کاربری افراد هدف شوند.

هوش مصنوعی؛ بستر تولد ربات‌های اخلال‌گر

این ربات‌های موذی از فناوری هوش مصنوعی استفاده می‌کنند و از آنجا ‌که این فناوری روزبه‌روز تکامل بیشتری می‌یابد، ربات‌های اخلال‌گر نیز پیوسته قدرتمندتر می‌شوند. حالا بیایید ببینیم که اصلا فناوری هوش مصنوعی چطور کار می‌کند و چرا پیشرفتش باعث افزایش تهدید تبلیغات سیاسی از سوی ربات‌هاست.

برای پردازش زبان طبیعی به حجم قابل‌توجهی داده نیاز است. شرکت‌هایی همچون گوگل و آمازون به‌منظور دسترسی به داده‌های کافی، الگوریتم‌های پردازش زبانی خودشان را از طریق رابط‌های کاربردی برنامه‌نویسی (APIs) برای عموم باز می‌گذارند. سپس وقتی مثلا مرجعی بانکی گفت‌وگوهایش با مشتریان را خودکارسازی می‌کند، داده‌های خام ازجمله صداها یا متن تماس‌های تلفنی به شرکت ارائه‌دهنده رابط‌های کاربردی برنامه‌نویسی ارسال خواهد شد. آن‌وقت الگوریتم‌های هوش مصنوعی زبان را پردازش و به داده‌های قابل فهم برای ماشین تبدیل می‌کنند. از این طریق شرکت‌ها می‌توانند به جمع‌آوری داده‌های مکالمه‌ای بپردازند و از این داده‌ها برای تقویت یادگیری ماشینی و ارتقای الگوریتم‌هایشان استفاده کنند.

این شرکت‌ها معمولا الگوریتم‌های منبع‌بازی را که برای پردازش زبان طبیعی طراحی کرده‌اند در اختیار توسعه‌دهندگان قرار می‌دهند. توسعه‌دهندگان می‌توانند از این الگوریتم‌ها برای ساخت اپلیکیشن‌های جدید و اختصاصی استفاده کنند و برای مثال نرم‌افزاری بسازند که مختص کنترل صوتی رباتی خاص باشد.

هرچه توسعه‌دهندگان در کارشان پیشرفت کنند و الگوریتم‌های اصلی را بیشتر بهبود بخشند، شرکت‌های هوش مصنوعی نیز از این بازخوردها سود خواهند برد. اما مشکل اینجاست که چنین سرویس‌هایی برای همه مردم در دسترسند و کسانی که ربات‌های تبلیغ‌گر سیاسی می‌سازند نیز از این جماعت مستثنی نیستند. درواقع شرکت‌های هوش مصنوعی با ارائه ابزاری برای خودکارسازی مکالمات زمینه‌ای را فراهم کرده‌اند که ربات‌ها بتوانند در گفت‌وگوهای سیاسی هم وارد شوند.

ربات‌هایی که بتوانند درست مثل انسان‌ها در بافت‌های کلامی مختلف صحبت‌های بجا تولید کنند هنوز به عرصه ظهور نرسیده‌اند. تولید چنین ربات‌هایی علاوه‌بر افراد متخصص به قدرت رایانه‌ای بالا و آماده‌سازی جامع داده‌ها نیاز دارد تا الگوریتم‌های پردازش زبان طبیعی هوشمندتر شوند، اما درهرصورت تولد چنین ربات‌هایی در آینده دور از انتظار نیست. تقریبا از سال ۲۰۱۰ بسیاری از دولت‌ها و احزاب سیاسی اقدام به سرمایه‌گذاری روی روش‌هایی کرده‌اند که بتوانند در شبکه‌های اجتماعی دست ببرند و افکار عمومی را به نفع خودشان تحت تاثیر قرار دهند. اما همان‌طور که گفتیم، ربات‌ها هنوز به درجه‌ای از توانایی نرسیده‌اند که بتوانند با ما در فضای مجازی مکالمات کاملا انسانی داشته باشند. با این‌حال الگوریتم‌های هوش مصنوعی در حال پیشرفتند و شکی نیست که سروکله چنین ربات‌های قدرتمندی دیر یا زود پیدا خواهد شد.