توسعه هوش‌ مصنوعی بر سر پرتگاه بی‌قانونی

به خاطرمان هست چند دهه پیش با ظهور اولین ربات‌ها و به قولی آغاز عصر رباتیک تا چه حد نگرانی‌های متعددی از آینده این فناوری و سلطه ربات‌ ها بر زمین وجود داشت؛ حتی فیلم‌های علمی-تخیلی متعددی در این رابطه ساخته شد.

قطعا توسعه بی‌محابا و بدون چشم‌انداز مشخص در خصوص هر فناوری نوظهوری می‌تواند خطرات و تهدیدهای مختلفی را به جوامع تحمیل کند اما در نقطه مقابل، افزایش دانش و آگاهی جوامع در خصوص فناوری‌ های نوظهور می‌تواند با تسهیل توسعه مؤثر فناوری به ارتقای سطح زندگی بشر بینجامد.

این روزها با پیشرفت‌های چشمگیر حوزه فناوری اطلاعات و تجمیع بزرگ‌داده‌ها در حوزه‌های مختلف و استفاده حیرت‌انگیز فناوری‌هایی مانند هوش‌ مصنوعی (AI)، اینترنت اشیا (IoT) و جعل عمیق (Deepfake) در عین جذابیت، نگرانی‌هایی را با خود به همراه آورده‌است.

نگرانی‌هایی از جنس توسعه مهارناپذیر هوش‌مصنوعی در جنبه‌های مختلف زندگی و غیرقابل استناد شدن هر سند و مدرکی با جعل‌های خارق‌العاده فناوری جعل عمیق، اهمیت مدیریت و تعیین مقررات و چارچوب‌های توسعه این فناوری‌ها را دو چندان کرده‌است.

بر همین اساس در گفت‌وگو با دکتر مهدی محمدی، دبیر ستاد توسعه فناوری‌های حوزه اقتصاد دیجیتال و هوشمندسازی معاونت علمی و فناوری ریاست‌جمهوری و سید محمد محمدزاده ضیابری، فناور حوزه هوش‌مصنوعی و مدیرعامل شرکت دانش‌بنیان شرکت پردازش هوشمند ترگمان، لزوم مدیریت توسعه و تنظیم مقررات این فناوری‌ها و اقدامات کنونی صورت‌گرفته در کشور را بررسی کرده‌ایم.

ضرورتی که با وجود فراگیرشدن بهره‌گیری از فناوری هوش‌مصنوعی در در جنبه‌های گوناگون زندگی روزمره هنوز تحقق نیافته‌است.

هوش‌ مصنوعی، اینترنت اشیا، زنجیره بلوکی و رمزارزها، سرفصل‌های تازه‌ای از توسعه فناوری در سراسر دنیا به شمار می‌روند.

بر همین اساس، ایجاد اسناد قانونی و سیاست‌گذاری‌های دولتی در رابطه با این فناوری‌ها در برخی کشورها عمرش به سال‌های اخیر می‌رسد و در بسیاری از کشورهای دیگر هنوز در دست بررسی و اقدام قرار دارد.

سید محمد محمدزاده ضیابری با اشاره به این موضوع تصریح می‌کند: «در کشور ما چارچوب‌های فعالیت این فناوری‌ها هنوز به‌طور رسمی و مشخص تعیین نشده‌است. بدون شک اگر در این رابطه اقدامات مؤثر در مدت کوتاهی شکل نگیرد، می‌تواند تبعات متعددی به ویژه در خصوص نقض حریم شخصی افراد، دسترسی به داده‌های پراکنده موجود از افراد در بسترهای مختلف و استفاده از این داده‌ها برای مقاصد گوناگون به همراه داشته‌ باشد.»

وی با اشاره به همه‌گیرشدن تصاویر ویدیویی تهیه شده با تکنیک جعل‌عمیق در ماه‌های اخیر می‌افزاید: «با ورود فناوری جدید جعل عمیق (Deepfake) امکان تولید داده‌های جعلی صوتی و ویدیویی و حتی نوشتاری به مراتب ساده‌تر و حرفه‌ای‌تر از گذشته قابل انجام است، به‌طوری که گاهی شناسایی اسناد جعل عمیق حتی از سوی افراد ماهر و کارشناس این حوزه گاهی نشدنی است. در حال حاضر با مشکلات کوچکی در این زمینه با توجه به تازه‌واردبودن این فناوری روبه‌رو هستیم. اما واقعیت این است که اگر اقدام به موقعی برای تعیین خط قرمزهای توسعه فناوری‌های نوین صورت نگیرد ممکن است با عواقب بسیار وخیمی روبه‌رو شویم.»

شکل‌گیری کارگروه هوش‌ مصنوعی

دبیر ستاد توسعه فناوری‌های حوزه اقتصاد دیجیتال و هوشمندسازی، در پاسخ به پرسش جام‌جم در خصوص اقدامات صورت گرفته در تنظیم مقررات حوزه هوش‌مصنوعی در کشور، بیان می‌کند: «شکل‌گیری و توسعه این فناوری‌های نوظهور در کشور ما نیز همگام با سایر کشورها صورت گرفته‌است. با توجه به اهمیت توجه به گسترش فناوری‌های نوین در کشور، کارگروهی برای توسعه راهبردی هوش‌مصنوعی متشکل از افراد متخصص در این حوزه در صنعت و دانشگاه و نمایندگان بخش دولتی در معاونت علمی شکل گرفت.»

دکتر مهدی محمدی در خصوص هدف از شکل‌گیری این کارگروه به جام‌جم می‌گوید: «هدف این کارگروه، رسیدگی به تدوین برنامه‌های توسعه این فناوری در حوزه‌های مختلف و همچنین بررسی بحث‌های قانون‌گذاری و رگولاتوری مورد نیاز برای توسعه این فناوری بود.»

وی در ادامه با اشاره به اهمیت همگرایی ملی در توسعه هوش‌مصنوعی در کشور، می‌افزاید: «توسعه فناوری‌هایی راهبردی مانند هوش‌مصنوعی باید در سطح کلان کشور مورد توجه قرار بگیرد. به همین علت نیازمند شکل‌گیری ستاد ملی توسعه هوش‌مصنوعی و برنامه توسعه ملی برای گسترش این حوزه در کشور هستیم. در همین راستا از حدود شش ماه پیش پیش‌نویس شکل‌گیری ستاد و برنامه توسعه ملی هوش‌مصنوعی را در تعامل با ستاد عالی انقلاب فرهنگی، ذیل نقشه جامع علمی کشور در دست بررسی و اقدام قرار گرفت.» به گفته دکتر محمدی این سند ملی احتمالا تا حدود یک ماه آینده در صحن شورای عالی انقلاب فرهنگی برای تصویب بررسی خواهد شد.

توسعه فناوری باید همگام با تنظیم مقررات باشد

از دبیر ستاد توسعه فناوری‌های حوزه اقتصاد دیجیتال و هوشمندسازی، در خصوص اقدامات انجام شده در خصوص تنظیم مقررات رگولاتوری حوزه هوش‌ مصنوعی پرسیدیم. وی در پاسخ می‌گوید: «ما در پیش‌نویس‌های سند ملی هوش‌مصنوعی در چهار حوزه اصلی به بحث تنظیم مقررات پرداخته‌ایم. مورد اول، حوزه امنیت داده‌ها و حفظ حریم خصوصی است؛ فناوری هوش‌مصنوعی به‌صورت کامل وابسته به داده‌هاست. برای مثال با جمع‌آوری داده‌های سلامت ما، پیشنهادات پزشکی ارائه می‌کند، با جمع‌آوری اطلاعات آموزشی، مطالب آموزشی متناسب را ارائه می‌کند، با دریافت اطلاعات محیطی و فنی یک کارخانه، عملکرد دستگاه‌ها را به‌طور هوشمند تنظیم می‌کند. بنابراین حجم زیادی از داده‌ها را در اختیار خواهد داشت که اگر قواعد مشخصی برای حفظ حریم شخصی و استفاده از داده‌ها تنظیم نشود، می‌تواند مشکلات زیادی را به همراه داشته‌باشد.»

محمدی در ادامه می‌افزاید: «مورد دوم در بحث تنظیم فعالیت هوش‌مصنوعی، آسیب اشتغال است. یکی از نگرانی‌های مهم جهانی در برابر توسعه فناوری‌هایی مانند هوش‌مصنوعی، تهدید شغلی است. زیرا این فناوری می‌تواند به‌راحتی بسیاری از مشاغلی که امروز نیروی انسانی انجام می‌دهد را با دقت و سرعت بیشتری انجام دهد. در این حالت تکلیف مشاغلی که هوش‌مصنوعی جایگزینشان می‌شود چه خواهد بود؟! توجه به میزان توسعه هوش‌مصنوعی در حوزه‌های مختلف در کنار توجه به اهمیت توانمندسازی افراد برای ارتقای شغلی به سمت مشاغلی که هوش‌مصنوعی قادر به جایگزینی‌شان نیست، از دیگر مواردی است که باید در چشم‌انداز توسعه هوش‌مصنوعی بررسی شود.»

وی با اشاره به اهمیت امکان رقابت در این حوزه و رفع انحصار مدیریت داده‌ها، تصریح می‌کند: «داده‌ها مهم‌ترین ابزار در فناوری هوش‌مصنوعی است. در نتیجه پلتفرم‌هایی که تاکنون توانسته‌اند حجم زیادی از داده‌های کاربران را به دست بیاورند بدون شک با توسعه و ارتقای هوش‌مصنوعی به بهترین شکل رفتارها و ذائقه کاربر را شناسایی کنند، عملا رقبای خود را حذف خواهند کرد. برای مثال پلتفرم‌هایی مانند گوگل و آمازون را تصور کنید که در طول سال‌ها فعالیت خود به چه اطلاعات گسترده‌ای از رفتار کاربران دست یافته‌اند. این داده‌ها در صورت تحلیل با هوش‌مصنوعی پیشرفته می‌تواند نتایج شگفت‌انگیزی را برای تولید و ارائه محصولات جدید متناسب با ذائقه کاربران فراهم کند. همین وضعیت در مورد پلتفرم‌های بزرگ داخلی کشور که زودتر از بقیه دست‌به کار شده‌اند و وارد فضای استارت‌آپی شده‌اند نیز صادق است. اگر تنظیم مقرراتی بر مدیریت داده‌ها صورت نگیرد، هیچ مجموعه دیگری توان رقابت با این پلتفرم‌ها را نخواهد داشت و هر یک از آنها به مجموعه انحصاری در حوزه فعالیتشان تبدیل خواهد شد. به علاوه اگر انباشت داده در یک پلتفرم قرار است انتفاعی به همراه داشته‌باشد، بخشی از این سود باید به کاربران یا صاحبان داده نیز برسد.»

دکتر محمدی مدیریت داده‌های باز و حکمرانی داده‌ها را چهارمین حوزه اصلی تنظیم مقررات هوش‌مصنوعی می‌داند و تصریح می‌کند: «پلتفرم‌های دولتی، داده‌های بسیار زیادی از مردم را دریافت می‌کنند. مالکیت این داده‌ها، نحوه استفاده از هوش‌مصنوعی در تحلیل این داده‌ها و عواید حاصل از آن مورد دیگری است که باید به‌طور مشخص در مورد آن تنظیم مقررات صورت بگیرد.»

محدودیت و ممنوعیت چاره‌ساز نیست

با وجود برنامه‌ریزی‌های انجام شده برای تنظیم مقررات و چارچوب‌های قانونی حوزه هوش‌مصنوعی، نمی‌توان انتظار داشت در دنیای پرسرعت فناوری امروز، توسعه هوش‌مصنوعی در کشور در انتظار تهیه سندهای ملی و چشم‌اندازهای راهبردی باقی بماند. شکل نگرفتن به‌موقع مقررات متناسب با نیازهای توسعه‌ای این فناوری در همین روزهای ابتدایی، نه تنها موجب مغفول ‌ماندن ظرفیت‌های بالای این فناوری در زمینه‌های گوناگون صنعتی، تولیدی و اقتصادی می‌شود، بلکه در ادامه ممکن است منجر به تبعات گسترده‌ای از استفاده نامناسب از فناوری شود. در چنین شرایطی ابتدای راه به آخر خط نزدیک می‌شویم و چاره‌ای جز وضع قوانین سلبی و نفی‌کننده فناوری باقی نخواهدماند.

به عقیده ضیابری برای کنترل دامنه فعالیت‌های این فناوری‌های جدید، اگرچه تنظیم مقررات و قوانین بسیار ضروری است، اما بی‌شک استفاده از روش‌های سلبی و اعمال ممنوعیت در استفاده از فناوری‌های نوین، راهکار مناسبی نخواهدبود. این فناور حوزه هوش‌مصنوعی در این رابطه به جام‌جم می‌گوید: «هوش‌مصنوعی بر خلاف بسیاری از فناوری‌های پیشرفته عصر حاضر مانند دست‌ورزی ژنتیک انسان که نیاز به تجهیزات و محیط خاصی برای انجام آزمایشات مختلف دارد، در اختیار جامعه وسیع‌تری از افراد با دامنه گسترده‌ای از سن، سطح فکری و تخصص قرار دارد. بدون شک، وضع قوانین و موثر واقع شدن این قوانین با دشواری‌های فراوان‌تری روبه‌رو خواهدبود. اما نباید به‌دلیل ظرفیت‌های بالای این فناوری از آن ترسید و به کلی آن را منع کرد. زیرا قطعا ممنوعیت‌ها راهکار مؤثری برای پیشگیری از اعمال سوء در استفاده از فناوری‌های نوین نخواهدبود و کسی که این دانش را دارد در صورت منع‌شدن به‌شیوه‌ای دیگر فعالیت خود را از سر خواهدگرفت.»

دبیر ستاد توسعه فناوری‌های حوزه اقتصاد دیجیتال و هوشمندسازی نیز در این خصوص می‌گوید: «قوانین و مقررات باید به گونه‌ای تنظیم شود که بتواند بازدارندگی مناسبی در برابر استفاده سوء از فناوری‌ها ایجاد کند. علاوه بر این، توسعه به کارگیری این فناوری‌ها در نظام قضایی و قانونی کشور نیز می‌تواند در شناسایی تخلفات صورت گرفته با هوش‌مصنوعی بسیار مؤثر باشد. برای مثال هوش‌مصنوعی قوی می‌تواند به‌سادگی مواردی مانند مدارک تهیه‌شده با روش جعل عمیق را از مدارک اصلی شناسایی کند. یعنی باید فناوری را برای شناسایی تخلف‌های خودش به خدمت در بیاوریم.»

فرهنگ‌سازی قدم اول توسعه اصولی فناوری

گسترش صحیح یک فناوری به افزایش آگاهی و درک جامعه نسبت به روش کار و کارایی آن نیاز خواهد داشت. هرچه مردم بیشتر با اصول و کارایی فناوری آشنا شوند، درک بهتری نسبت به آن خواهند داشت، آگاهانه‌تر از آن استفاده خواهندکرد و به دنبال آن از سوءاستفاده‌های احتمالی جلوگیری خواهدشد.
ضیابری معتقد است، رسانه‌ها نقش پررنگی در افزایش آگاهی جامعه دارند و می‌توانند با استفاده از مهارت‌های اثرگذار ارتباطی و آگاهی‌رسانی در کاهش ترس جامعه از توسعه فناوری‌های جدید و آشنایی افراد با کاربردهای متعدد چنین فناوری‌های پرظرفیتی مؤثر باشد.

وی در این رابطه مثال می‌زند: «استفاده از ویدئوهای جعل‌عمیق برای تیزرهای تبلیغاتی، علاوه بر افزایش آشنایی عموم جامعه با این پدیده جذاب می‌تواند ماهیت جعلی ‌بودنش را یادآور شود. نشان‌دادن مزایای استفاده صحیح در کنار عواقب پیچیده سوءاستفاده از این فناوری‌ها می‌تواند سهم بزرگی در آگاهی‌رسانی داشته‌باشد.»

دکتر محمدی نیز با اشاره به جایگاه رسانه‌های پرمخاطب اجتماعی، به‌ویژه رسانه‌ملی در شکل‌گیری فرهنگ استفاده از فناوری‌های نوظهور تصریح می‌کند: «امیدواریم رسانه‌ها با نگاه عمیق به منافع متعدد ملی توسعه این فناوری نوظهور در کشور، همکاری مؤثری در جهت اعتلای فرهنگ مخاطبان خود متناسب با تلاش‌های فناوران این عرصه داشته‌باشند.»

نباید پنجره فرصت هوش‌ مصنوعی را از دست بدهیم

دکتر محمدی در خصوص نگاه کلان کشور به توسعه فناوری‌های نوین حوزه فناوری اطلاعات به‌ویژه هوش‌مصنوعی به جام‌جم می‌گوید: «این موضوع کاملا روشن شده‌است که احتمالا توسعه هوش‌مصنوعی در دنیا تا 10سال آینده، تحول فناورانه-اقتصادی بزرگی را رقم خواهد زد. به همین علت در کارگروه توسعه هوش‌مصنوعی در یک سال گذشته تلاش کرده‌ایم این مطالبه را تا سطح اول اجرایی کشور یعنی رئیس‌جمهور بالا ببریم. زیرا باید اهمیت سرمایه‌گذاری به‌موقع برای رشد و توسعه این فناوری در جهت اثربخشی آن در آینده اقتصادی کشور به‌خوبی روشن شود.»

وی می‌افزاید: «به نظر من، هنوز اجماع ملی و همگرایی لازم برای توسعه هدفمند این فناوری در کشور شکل نگرفته‌است. اما واقعیت این است بر اساس پیش‌بینی‌ها و هدف‌گذاری سایر کشورها در این حوزه، تا سال 2030، هوش‌مصنوعی سهمی معادل 8تا 15درصد از خلق ثروت در تولید ناخالص داخلی (GDP) بسیاری از کشورهای پیشرو در حوزه فناوری خواهدداشت.» به گفته دبیرستاد توسعه فناوری‌های حوزه اقتصاد دیجیتال و هوشمندسازی، از آنجا که هوش‌مصنوعی در حوزه‌های مختلف اقتصادی و صنعتی از جمله بانکداری، پتروشیمی، خودروسازی و... کاربرد دارد، در صورت اقدام و سرمایه‌گذاری به‌موقع در جهت توسعه این فناوری در کشور می‌تواند در چشم‌انداز 10سال آینده خلق ثروتی معادل 10درصد از تولید ناخالص داخلی کشور به دنبال داشته‌باشد.

دکتر محمدی ضمن تأکید بر ظرفیت بالای توسعه هوش‌مصنوعی در تحول‌آفرینی در نظام اقتصادی و درآمدزایی کشور تصریح می‌کند: «ما اکنون در زمان طلایی برای اقدام در زمینه توسعه هوش‌مصنوعی در کشور هستیم.

این فناوری هنوز در تمام دنیا نوظهور است و اگر به‌موقع وارد عمل شویم می‌توانیم به‌راحتی در 10سال آینده در زمره 15کشور برتر جهان در حوزه هوش‌مصنوعی قرار بگیریم و شاهد تأثیرگذاری خوبی در اقتصاد کشور باشیم. اما قطعا دستیابی به این هدف در گرو توجه و اقدام به‌موقع در شرایط کنونی است. امیدواریم با شکل‌گیری سند و برنامه توسعه ملی هوش‌مصنوعی اجماع ملی مورد نیاز برای دستیابی به این هدف محقق شود.»

عسل اخویان طهرانی - دانش / روزنامه جام جم