به اعتقاد یک کارشناس علوم سیاسی، خدمات‌دهی الگوریتمی موجب ترویج تبعیض‌های داده‌محور شده است

الگوریتم‌ها، متهم نابرابری‌های اجتماعی

به‌گفته ویلیام گیبسون، رمان‌نویس ژانر علمی‌ ـ ‌تخیلی، «آینده همین‌جاست، اما با توزیع نابرابر!» به‌عبارتی، آینده نیز به‌همان نابرابری‌هایی آلوده است که در زندگی امروز تجربه می‌کنیم. ازجمله نابرابری‌های عصر جدید که گویا در آینده نیز ریشه‌کن نخواهد شد، نابرابری‌های ناشی از یادگیری ماشین است. در روزگاری که این فناوری در خدمت ثروتمندان قرار دارد، چه بر سر اقشار ضعیف‌تر می‌آید که سروکارشان به سیستم‌های الگوریتمی می‌افتد؟

کد خبر: ۱۱۱۷۶۹۳

به اعتقاد ویرجینیا یوبَنکس (Virginia Eubanks)، نویسنده کتاب تازه منتشرشده «خودکارسازی نابرابری»، انسان‌ها در عصر غلبه داده‌ها زندگی می‌کنند و اکنون با نوع متفاوتی از تبعیض اجتماعی موسوم به«تبعیض داده‌محور» مواجه‌اند. وی در این کتاب به‌تفصیل به واکاوی تبعیض‌های داده‌محور پرداخته است و عمیقا باور دارد این سیستم‌ها به تشدید نابرابری‌های طبقاتی انجامیده‌اند. تحلیل کتاب مذکور در بافتی تاریخی سیاسی نگاشته شده است. به‌این‌ترتیب که با ارجاع به تاریخچه نوانخانه‌ها در آمریکا آغاز می‌شود و سپس به سیستم‌های خدمات اجتماعی در عصر حاضر می‌رسد. نوانخانه‌های آمریکا در سال‌های دهه 1660 پاگرفتند و حتی تا قرن بیستم نیز برقرار بودند. یوبَنکس در پی اشاره به نحوه خدمات‌دهی دولت این کشور به فقرا طی قرن اخیر به تبیین سیستم‌های کنونی خدمات اجتماعی می‌پردازد که بویژه بر پایه الگوریتم‌ها بنا شده‌اند. فرضیه وی بر این عقیده استوار است که نوانخانه‌های دوران قدیم اکنون به نوانخانه‌های دیجیتال تبدیل شده‌اند و همان دیدگاه تنبیهی‌ای که پشت تأسیس نوانخانه‌ها بود، همچنان در قالب ابزارهای تصمیم‌گیری خودکار ادامه دارد.

حتما می‌پرسید خدمات‌دهی الگوریتمی چگونه بر اقشار ضعیف تأثیر می‌گذارد؟ یوبَنکس از خانمی به‌اسم اُمِگا یانگ مثال می‌زند که به‌واسطه همین سیستم‌های خدمات‌دهی از دریافت بیمه سلامت بازماند. یانگ که به‌دلیل ابتلا به سرطان در بیمارستان بستری شده بود، نتوانست مدارک و شرایط مورد نیاز سیستم را به‌دلیل بستری‌بودنش احراز کند و درنتیجه از دریافت تمامی خدمات‌درمانی محروم شد و در مدت کوتاهی درگذشت. یانگ فقط یک نمونه از کسانی است که بنا به‌دلایلی مانند صرفا جا انداختن یک امضای ناقابل در فرم‌های صدصفحه‌ای دیجیتال از دریافت خدمات کمکی محروم شده‌اند. بحث تبعیض از آنجا مطرح می‌شود که اثر این‌قبیل وقایع روی اقشار مختلف یکسان نیست. به طور قطع کسانی که از وضع مالی مناسبی برخوردارند، آسیب کمتری از چنین وقایعی خواهند دید. چنانچه اقشار کم‌درآمد بناگاه در وضعیتی قرار بگیرند که قادر به خوراندن داده‌های مورد نیاز دریافت خدمات به سیستم‌های داده‌محور نباشند، از دریافت خدمات حیاتی مانند بُن مواد غذایی و بسیاری دیگر از خدماتی که دریافت‌شان بر پایه الگوریتم‌ها برنامه‌ریزی شده است، بازخواهند ماند.

اما یوبَنکس از جهاتی به سیستم‌های موجود خوشبین است. وی تأکید دارد اتفاقا این سیستم‌ها به‌نوعی فرصت عیب‌شناسی محسوب می‌شوند و نابرابری‌های طبقاتی را به وضوح نمایان می‌کنند. وقتی وقایعی مانند مورد خانم یانگ پیش‌می‌آید، حاکی از نابرابری عمیقی است که به بررسی نیاز دارد. یوبَنکس معتقد است با واکاوی سیستم‌های خدمات‌رسانی الگوریتمی باید دولت را به‌سمت ایجاد سیستم‌های اجتماعی برابر سوق داد.