حلقه مفقوده هوش مصنوعی ایران

جام جم آنلاین: ایران در تولید مقالات علمی هوش مصنوعی جایگاه قابل‌توجهی دارد، اما مسیر تبدیل این دانش به محصولی رقابت‌پذیر، ثبت اختراع و حضور در بازار جهانی همچنان پر چالش است. از کمبود زیرساخت‌های پردازشی و دشواری تأمین سرمایه تا ضعف ارتباط دانشگاه و صنعت، مجموعه‌ای از چالش‌ها اجازه نداده‌اند ظرفیت علمی کشور به همان اندازه در اقتصاد فناوری نمایان شود.در سوی دیگر ماجرا، گسترش ابزارهای هوش مصنوعی پرسش‌های تازه‌ای درباره امنیت اطلاعات، آینده مشاغل، آموزش و حتی اعتماد به توصیه‌های این سامانه‌ها ایجاد کرده است. محمدهادی زاهدی، رئیس انجمن ملی هوش مصنوعی ایران، در گفت‌وگو با جام‌جم از فاصله میان مقاله و بازار، ضرورت سیاست‌گذاری منسجم و چگونگی استفاده مسئولانه از هوش مصنوعی می‌گوید.

در حال حاضر وضعیت ایران در حوزه هوش مصنوعی در منطقه و جهان چگونه است؟ 

برای ارزیابی وضعیت هوش مصنوعی باید چند حوزه را از هم تفکیک کنیم. نخست، تولید علم است که ایران در آن جایگاه نسبتاً خوبی دارد. بر اساس برخی نظام های ارزیابی‌ و رتبه بندی، ایران در منطقه رتبه اول یا دوم و در جهان رتبه های چهاردهم تا شانزدهم را دارد. البته این تولیدات علمی عمدتا مقالات متسخرج از پژوهش‌های دانشگاهی، پایان‌نامه‌ها و رساله‌های دکتری هستند. دومین حوزه ارزیابی مربوط به سرمایه انسانی است. دانشگاه‌های کشور نیروی انسانی مناسبی در زمینه‌های مرتبط با هوش مصنوعی تربیت می‌کنند و در زمینه وضعیت سرمایه انسانی نیز وضعیت خوبی نسبت به کشورهای همسایه داریم. اما در حوزه زیرساخت، به‌ویژه پردازش و ذخیره‌سازی داده‌ها، با وضعیت مطلوب فاصله داریم؛ در این بخش، جایگاه ایران در منطقه رتبه‌های بین ششم تا هفتم ارزیابی می‌شود چراکه برخی کشورهای حوزه خلیج فارس زیرساخت‌های پیشرفته‌تری طی سال های گذشته در قالب مشارکت و خرید تأمین کرده‌اند.

چرا ایران با وجود نیروی متخصص، همچنان زیرساخت هوش مصنوعی ندارد؟

از آنجایی که بخشی از زیرساخت‌های موردنیاز هوش مصنوعی، به‌ویژه پردازنده‌های قدرتمند، توسط کشور آمریکا تولید می‌شوند، محدودیت‌های ناشی از تحریم‌ها بر دسترسی ما به این تجهیزات تأثیر می‌گذارد. در کنار آن، چین در دو سال گذشته با برنامه منسجمی که برای تولید زیرساخت‌های پردازشی تدوین نموده، موفق شده است گام های موثری برای تولید این تجهیزات پردازشی و انبارشی بردارد که قابلیت رقابت‌پذیری با تجهیزات پیشرفته‌ای مانند پردازنده‌های انویدیا از نظر قدرت پردازش و مصرف انرژی را دارد.

دلیل دوم، تأمین مالی است. توسعه زیرساخت به سرمایه‌گذاری قابل‌توجهی نیاز دارد و نهاد مسئول و پاسخگویی که تخصیص اعتبارات این حوزه را به‌صورت یکپارچه پیگیری کند، وجود ندارد. البته مجموعه‌هایی مانند معاونت علمی ریاست‌جمهوری برای حمایت از فعالیت‌های مرتبط با هوش مصنوعی تلاش کرده‌اند تا زنجیره تبدیل علم به فناوری متوقف نشود، اما این اقدامات هنوز پاسخگوی نیاز بازار نیست و امیدواریم با تشکیل سازمان ملی هوش مصنوعی، بخشی از این خلأ برطرف شود.

درباره سرمایه‌گذاری در هوش مصنوعی ایران ارقام متفاوتی مطرح می‌شود؛ از جمله رقم ۱۰۰ همت. آیا چنین رقمی را می‌توان تأیید کرد؟

نهادهای مختلف در حوزه‌های گوناگون از هوش مصنوعی استفاده می‌کنند و برای پیشبرد فعالیت‌های خود سرمایه‌گذاری‌هایی به تبع آن انجام داده‌اند. برخی از این ارقام قابل انتشار نیستند؛ برای مثال، میزان سرمایه‌گذاری و توان پردازش تجهیزات در بخش‌های دفاعی و نظامی که معمولاً در هیچ کشوری به‌صورت عمومی اعلام نمی‌شود. در حوزه‌های دیگر نیز مجموعه‌هایی از زیرساخت‌های پردازشی استفاده می‌کنند. با این حال، رقم دقیقی برای مجموع سرمایه‌گذاری‌های کشور نمی‌توان اعلام کرد اما آنچه می‌توان تا حدی درباره آن حدس و تخمین داشت، سرمایه‌گذاری‌ طی دو سال گذشته است که نزدیک به ۲۰ همت برآورد می‌شود.

 با وجود جایگاه ایران در تولید مقالات هوش مصنوعی، چرا این دستاوردهای علمی کمتر به فناوری‌های کاربردی و حل مسائل کشور منجر شده‌اند؟

یکی از چالش‌های جدی کشور، تأکید بیش از اندازه بر شاخص‌های کمی، بدون توجه به دستاور و تاثیر آن اقدام بوده است. به عنوان مثال مرتب اعلام می‌کنیم که در تولید علم هوش مصنوعی چهاردهم یا پانزدهم جهان هستیم، اما وقتی به کاربردی‌سازی می‌رسیم، در برخی نظام‌های رتبه‌بندی جایگاه ما به رتبه‌های 60 تا 70 در جهان تنزل پیدا می‌کند. این اختلاف نشان می‌دهد میان تولید دانش و تبدیل آن به توانایی، محصول و خدمت، شکاف قابل‌توجهی وجود دارد.

بر اساس برخی آمارهای مطرح‌شده، سهم ایران از مقالات علمی هوش مصنوعی در جهان حدود 2.3 تا 2.5 درصد است اما صرف انتشار مقاله کافی نیست. باید ببینیم این پژوهش‌ها تا چه اندازه با نیازهای کشور همسو بوده‌اند و چه مشکلاتی را حل کرده‌اند. در این میان کیفیت مقالات نیز اهمیت دارد. میزان ارجاع سایر پژوهشگران به یک مقاله، یکی از شاخص‌های ارزیابی کیفیت آن است. اگر مقالات را با معیارهای کیفی بررسی کنیم، سهم ما از مقالات باکیفیت به‌مراتب کمتر از سهم پژوهش‌های کشور در تعداد کل مقالات منتشر شده در حوزه هوش مصنوعی است.

 چرا ایران با وجود تولید علم در هوش مصنوعی، در ثبت اختراع و تجاری‌سازی محصولات از رقبای منطقه‌ای عقب افتاده است؟

ثبت اختراع یکی از شاخص‌هایی است که می‌تواند در ارزیابی محصولات فناوری اهمیت داشته باشد چراکه به تثبیت مالکیت فکری محصول کمک می‌کند و در کنار عوامل دیگر، می‌تواند زمینه توسعه بازار آن را فراهم کند. اگر عملکرد کشورهای منطقه را در یک بازه حدود ۱۵ساله بررسی کنیم، می‌بینیم کشورهایی مانند ترکیه و عربستان در ثبت اختراعات مرتبط با هوش مصنوعی عملکرد بهتری داشته‌اند. تعداد اختراعات ثبت‌شده در برخی از این کشورها چند برابر ایران است. برآوردها نشان می‌دهد تعداد اختراع‌های ثبت شده ایران در حوزه محصولات هوش مصنوعی طی این بازه شاید به 20 مورد هم نرسیده باشد. البته برای اعلام آمار قطعی باید داده‌های رسمی ثبت اختراع بررسی شود.

تولید علم، ثبت اختراع، تجاری‌سازی و حضور در بازارهای بین‌المللی، حلقه‌های یک زنجیره هستند و نمی‌توان انتظار داشت دانشگاه به‌تنهایی همه این مراحل را انجام دهد. مسئولیت اصلی دانشگاه، تربیت نیروی انسانی و توسعه پژوهش است و در بهترین شرایط ممکن است نمونه اولیه محصول را نیز تولید کند. برای تبدیل این نمونه به محصول تجاری، باید نهادهایی وجود داشته باشند که توسعه محصول، تأمین مالی و ورود به بازار را تسهیل کنند.

در حال حاضر اندازه بازار داخلی هوش مصنوعی چقدر است؟

در آماری مربوط به پایان سال 1403، اندازه بازار هوش مصنوعی ایران حدود پنج‌ونیم همت اعلام شده بود. برآورد شخصی من این است که این رقم در بهترین حالت تا کنون به حدود ۱۰ همت رسیده باشد. این برآورد باید با آمارهای رسمی تطبیق داده شود، اما در هر صورت بازار هنوز ظرفیت رشد زیادی دارد و اگر نتوانیم محصول تولیدشده را به بازار عرضه کنیم، گردش مالی لازم برای توسعه این زنجیره شکل نمی‌گیرد. به همین دلیل، باید ارتباط میان دانشگاه، شرکت‌های فناور، سرمایه‌گذاران و مشتریان تقویت شود. یکی از مأموریت‌های مورد انتظار از سازمان ملی هوش مصنوعی نیز می‌تواند کمک به تجاری‌سازی محصولات و فراهم کردن شرایط حضور آنها در بازار باشد.

سازمان ملی هوش مصنوعی قرار است چه خلأیی را برطرف کند و چه زمانی می‌توان انتظار آغاز فعالیت آن را داشت؟

در سند ملی هوش مصنوعی که از سوی شورای عالی انقلاب فرهنگی به تصویب رسید، تشکیل این سازمان پیش‌بینی شده بود، اما درباره الزامات اجرایی آن، از جمله ساختار سازمانی، اعتبارات و سازوکار تأسیس، چالش‌هایی وجود داشت. در ادامه، مجلس شورای اسلامی در شهریورماه ۱۴۰۵ قانون ملی هوش مصنوعی ایران را تصویب کرد و بر تشکیل این سازمان تأکید شد. یکی از تفاوت‌های مصوبه شورا با مضوبه مجلس این مسیر آن است که مجلس علاوه بر قانون‌گذاری، در تصویب بودجه و تخصیص اعتبارات نیز نقش دارد.

بر اساس آنچه در قانون پیش‌بینی شده، دولت باید ظرف سه ماه اساسنامه سازمان را تدوین کند. بنابراین، با توجه به زمان‌بندی مطرح‌شده، می‌توان انتظار داشت فرایند شکل‌گیری آن در آذرماه دنبال شود؛ البته تحقق این زمان‌بندی به پیشرفت مراحل اجرایی بستگی دارد.

نکته مهم این است که سازمان ملی هوش مصنوعی نباید خودش درگیر اجرای پروژه شود. وظیفه اصلی آن باید سیاست‌گذاری، تعیین مسیر توسعه، تسهیل‌گری و تنظیم‌گری باشد. این سازمان باید زمینه فعالیت دانشگاه‌ها، شرکت‌های دانش‌بنیان، استارتاپ‌ها و سرمایه‌گذاران را فراهم کند، نه اینکه خود وارد اجرای طرح‌ها شود. 

در حال حاضر برخی سکوهای هوش مصنوعی با نام‌های فارسی فعالیت می‌کنند، اما مدل اصلی آنها خارجی است. آیا این ابزارها را می‌توان محصولات بومی دانست؟

باید میان توسعه یک مدل از صفر و بومی‌سازی مدل‌های موجود تفاوت قائل شویم. تا جایی که من اطلاع دارم، تاکنون مدل زبانی بزرگی (LLM)که از ابتدا و به‌صورت کاملاً بومی برای زبان فارسی توسعه یافته باشد، نداشته‌ایم. برخی شرکت‌ها از مدل‌های متن‌باز موجود در جهان استفاده کرده‌اند، داده‌های فارسی را برای آموزش یا تنظیم آنها به کار گرفته‌اند و ابزارهایی متناسب با نیاز کاربران فارسی‌زبان ساخته‌اند. برخی دیگر نیز نقش واسطه را دارند و دسترسی کاربران به مدل‌های خارجی را تسهیل می‌کنند.

کاربران هنگام استفاده از آنها باید به چه نکاتی توجه کنند؟

این فعالیت‌ها و توسعه لزوماً اقدام منفی نیستند؛ اما مسأله مهم، امنیت و نشت اطلاعات است. کاربران باید بدانند داده‌هایی که در اختیار این ابزارها قرار می‌دهند، به سرورهای خارجی منتقل می شود و در فرایندهای پردازش و نگهداری اطلاعات مورد استفاده قرار خواهد گرفت، بطوریکه همین روزهای اخیر خبری منتشر شد مبنی بر اینکه متخصصان امنیت سایبری از یک نشت اطلاعات در دستیار هوش مصنوعی (Muse) متعلق به شرکت متا خبر داده‌اند. به همین دلیل، پیش از استفاده از این ابزارها باید سیاست‌های حریم خصوصی و نحوه مدیریت داده‌های بررسی شود. به‌ویژه سازمان‌های دولتی و شرکت‌هایی که اطلاعات حساس دارند، باید در این زمینه دقت بیشتری به خرج دهند.

چه اطلاعاتی را نباید به هوش مصنوعی بدهیم؟

هر داده‌ای که افشای آن بتواند یک فرد، کسب‌وکار یا سازمان را در معرض آسیب قرار دهد، باید با حساسیت بیشتری مدیریت شود. اطلاعات مربوط به فرایند تولید، زنجیره تأمین، مشتریان، بازار و فعالیت‌های راهبردی یک مجموعه، از جمله داده‌هایی هستند که نباید بدون بررسی‌های لازم در اختیار ابزارهای هوش مصنوعی قرار گیرند. برای مثال، فرض کنید یک شرکت تولیدی اطلاعات مربوط به مواد اولیه و میزان وابستگی خود به واردات را برای تحلیل در اختیار یک سامانه هوش مصنوعی قرار دهد. تجمیع این اطلاعات ممکن است نشان دهد که آن شرکت به چه مواد اولیه‌ای وابسته است و آنها را از کجا تأمین می‌کند. چنین اطلاعاتی در شرایط تحریم می‌تواند برای آن مجموعه آسیب‌زا باشد.

همین مسئله درباره اطلاعات تولید، توزیع و صادرات نیز وجود دارد. اطلاعات یک شرکت را می‌توان با داده‌های گمرکی، مسیرهای صادراتی و اطلاعات بازار ترکیب کرد و به تصویری دقیق از فعالیت اقتصادی و کسب و کاری آن شرکت دست یافت.

این موضوع درباره داده‌های کشاورزی، انرژی و منابع آب نیز صدق می‌کند. ممکن است هر داده به‌تنهایی اهمیت چندانی نداشته باشد، اما کنار هم قرار گرفتن آنها الگوهای مهمی را آشکار کند.

بنابراین، نباید به داده به عنوان یک دارایی ساده توجه کرد. سازمان‌ها باید پیش از استفاده از ابزارهای هوش مصنوعی، اطلاعات محرمانه و راهبردی خود را شناسایی کنند و از بارگذاری آنها در سامانه‌هایی که وضعیت امنیتی و نحوه پردازش داده‌هایشان مشخص نیست، خودداری کنند.

آیا هوش مصنوعی جای انسان را می‌گیرد؟

برای پاسخ به این پرسش می‌توان تجربه فناوری‌های گذشته را بررسی کرد. زمانی که اینترنت گسترش پیدا کرد، نگرانی‌هایی درباره از بین رفتن برخی مشاغل و کسب‌وکارها وجود داشت؛ اما اینترنت در حین تغییر بعضی فعالیت‌ها، زمینه شکل‌گیری کسب‌وکارهای جدیدی را نیز فراهم کرد.

در ایران نیز با ورود سکوهای حمل‌ونقل اینترنتی، برخی رانندگان در ابتدا در برابر این تغییر مقاومت کردند، اما به‌تدریج بخشی از آنها به همین سکوها پیوستند و الگوی جدیدی از فعالیت اقتصادی شکل گرفت. فروشگاه‌های اینترنتی نیز امکان عرضه محصولات به طیف گسترده‌تری از مشتریان را فراهم کردند. هوش مصنوعی هم می‌تواند چنین نقشی داشته باشد. این فناوری ظرفیت توسعه کسب‌وکارها، افزایش بهره‌وری و ایجاد فرصت‌های شغلی جدید را دارد؛ اما نمی‌توان تأثیر آن بر برخی مشاغل را نادیده گرفت. مشاغلی که فعالیت‌های تکراری و قابل‌خودکارسازی بخش بزرگی از آنها را تشکیل می‌دهد، بیشتر در معرض تغییر قرار دارند. برای مثال، برخی فعالیت‌های پاسخ‌گویی به پیام‌ها، تنظیم برنامه‌های روزانه و هماهنگی‌های اداری می‌توانند با کمک هوش مصنوعی انجام شوند.

مسأله اصلی این است که جامعه برای این تغییرات آمادگی داشته باشد؛ یعنی بتواند مهارت‌های شغلی را ارتقا دهد، نیروی انسانی را برای مشاغل جدید آماده کند و امکان استفاده مؤثر از فناوری را افزایش دهد.

چطور می‌توان بدون گرفتار شدن در بروکراسی، در حوزه فناوری سریع تصمیم گرفت و مانع هدررفت سرمایه در پروژه‌های فناورانه شد؟

یکی از موضوعاتی که باید جدی بگیریم، آینده‌پژوهی فناوری است. پیش از ورود به یک حوزه باید وضعیت فعلی خود، توانمندی‌ها، نقاط ضعف، فرصت‌ها و چالش‌های‌مان را بشناسیم و بر اساس چشم‌اندازی از آینده، مسیر حرکت را تعیین کنیم. قرار نیست در همه حوزه‌های فناوری وارد شویم یا در تمام زمینه‌ها به لبه دانش و فناوری برسیم. ممکن است ظرفیت مالی، انسانی یا زیرساختی لازم را برای حضور در برخی حوزه‌ها نداشته باشیم. در چنین شرایطی، ورود بدون برنامه می‌تواند به هدررفت منابع منجر شود.

پیش از توسعه هر محصول باید بررسی کنیم که در جهان چه مجموعه‌هایی روی محصول مشابه کار می‌کنند، اندازه بازار چقدر است، مشتریان احتمالی چه کسانی هستند و ظرفیت همکاری‌های بین‌المللی ما تا چه اندازه است. بنابراین پیش از اجرای ایده باید مشتری احتمالی و نیاز واقعی بازار را شناسایی کرد. پس از اطمینان نسبی از وجود تقاضا، امکان تأمین مالی و دسترسی به زیرساخت‌ها باید بررسی شود و سپس می‌توان وارد مرحله توسعه محصول شد. این رویکرد در حوزه هوش مصنوعی اهمیت دارد. اگرچه سرعت تصمیم‌گیری ضروری است، اما سرعت بدون شناخت بازار و ظرفیت‌های داخلی و مسیر تحول فناوری، لزوماً به موفقیت منجر نمی‌شود.

انجمن ملی هوش مصنوعی چه کمکی به شرکت‌ها و دانشگاه‌ها می‌کند؟

انجمن‌های علمی دو وظیفه اصلی آموزش و ترویج را دنبال می‌کنند. آموزش به ارتقای دانش تخصصی افراد کمک می‌کند و ترویج با هدف آگاهی‌رسانی و فرهنگ‌سازی عمومی انجام می‌شود. در انجمن ملی هوش مصنوعی ایران علاوه بر توجه به این دو مهم، موضوع شبکه‌سازی را نیز در اولویت قرار داده‌ایم؛ زیرا یکی از ضعف‌های کشور، نبود ارتباط سازمان‌یافته و کافی میان افراد، دانشگاه‌ها و شرکت‌های فعال در این حوزه است. در حال حاضر، انجمن بیش از هزار عضو حقیقی و بیش از ۸۰ عضو حقوقی دارد. اعضای حقیقی عمدتاً استادان دانشگاه، دانشجویان، دانش‌آموختگان و فعالان حوزه فناوری هستند و اعضای حقوقی نیز بیشتر شرکت‌های دانش‌بنیان و مجموعه‌های فناور را شامل می‌شوند.

تاکنون بیش از ۵۰ تفاهم‌نامه با نهادها و شرکت‌های فعال در حوزه هوش مصنوعی منعقد کرده‌ایم و تلاش داشته‌ایم این تفاهم‌نامه‌ها به مرحله اجرا برسند. بر اساس نیاز مجموعه‌های مختلف، دوره‌های آموزشی برگزار می‌کنیم، مشاوره می‌دهیم و در برخی موارد فعالیت‌های پژوهشی انجام می‌دهیم. همچنین تلاش می‌کنیم میان صندوق‌های تأمین مالی و شرکت‌هایی که محصولی برای عرضه دارند، ارتباط برقرار کنیم تا مسیر توسعه بازار و تجاری‌سازی محصولات هموارتر شود.

دانش‌آموزان باید از هوش مصنوعی جواب بگیرند یا یاد بگیرند؟

به نظر من، مسأله فقط این نیست که دانش‌آموز از هوش مصنوعی استفاده می‌کند یا نه؛ بلکه مهم است که چگونه از آن استفاده می‌کند. اگر هدف صرفاً گرفتن پاسخ نهایی باشد، ممکن است فرایند یادگیری تضعیف شود. اما اگر دانش‌آموز از هوش مصنوعی بخواهد یک مسأله و موضوع را برایش تشریح کند، مراحل حل را توضیح دهد و به درک مفاهیم کمک کند، این فناوری می‌تواند ابزار آموزشی مفیدی باشد. برای مثال، به‌جای اینکه دانش‌آموز از هوش مصنوعی بخواهد پاسخ یک مسأله فیزیک یا شیمی را ارائه کند، می‌تواند از آن بخواهد مفهوم مسأله را توضیح دهد و مراحل رسیدن به پاسخ را آموزش دهد.

البته این موضوع به شیوه آموزش و ارزیابی نیز وابسته است. اگر معلمان و استادان همچنان از روش‌های سنتی برای آموزش و سنجش استفاده کنند و تکالیف و امتحانات را بدون توجه به قابلیت‌های جدید فناوری و ابزارهای امروزی طراحی کنند، نمی‌توان انتظار داشت دانش‌آموزان و دانشجویان نیز رفتار متفاوتی داشته باشند. باید میان آموزش و یادگیری تفاوت قائل شویم. آموزش زمانی اتفاق می‌افتد که معلم مطالبی را ارائه می‌کند، اما یادگیری زمانی شکل می‌گیرد که دانش‌آموز یا دانشجو آن مطالب را بفهمد و درک کند.

هوش مصنوعی می‌تواند به درک بهتر مفاهیم کمک کند؛ به شرط آنکه شیوه طراحی تکالیف، پرسش‌ها و ارزیابی‌ها نیز متناسب با این فناوری تغییر کند. در کنار آن، معلمان و استادان باید سواد هوش مصنوعی خود را ارتقا دهند تا بتوانند از این ابزار در مسیر یادگیری استفاده کنند. 

بسیاری از مردم برای مسائل خانوادگی، تربیتی، پزشکی و حتی حقوقی به هوش مصنوعی مراجعه می‌کنند. مرز استفاده مفید از این ابزار و اعتماد خطرناک به آن کجاست؟

مدل‌های هوش مصنوعی بر اساس داده‌هایی که با آنها آموزش دیده‌اند، پاسخ تولید می‌کنند؛ اما لزوماً شناخت دقیقی از فرهنگ، باورها، پیشینه و شرایط خاص هر فرد و آن جامعه ندارند. جوامع نیز از تنوع فرهنگی، قومیتی، اقلیمی و مذهبی برخوردار است و نمی‌توان فرض کرد که همه مدل‌های توسعه‌یافته در جهان با تمام این تفاوت‌ها سازگار و همسراستا هستند. برای مثال، فردی ممکن است درباره نحوه تربیت فرزند خود از یک ابزار هوش مصنوعی مشورت بگیرد. پاسخ این سامانه بر اساس اطلاعاتی است که در اختیار دارد، نه شناخت کامل از پیشینه خانوادگی، تجربه‌های تربیتی و شرایط خاص آن فرد. بنابراین، ممکن است توصیه‌ای ارائه کند که با شرایط واقعی او تناسب نداشته باشد.

این مسئله در حوزه سلامت و حقوق اهمیت بیشتری دارد. گاهی توصیه‌های پزشکی هوش مصنوعی با شواهد علمی معتبر همخوانی ندارند یا مشاوره‌های آن می‌توانند افراد را به تصمیم‌های نادرست سوق دهند.

هوش مصنوعی می‌تواند در این زمینه‌ها ابزار کمکی مفیدی باشد، اما نباید جایگزین پزشک، روان‌شناس یا حقوقدان شود. کاربران باید بدانند که پاسخ روان و قانع‌کننده یک سامانه، لزوماً به معنای پاسخ صحیح و متناسب با شرایط آنها نیست.

چطور می‌توان هوش مصنوعی را مهار کرد و مسئولیت پیامدهای آن را پذیرفت؟

یکی از چالش‌هایی که امروز سیاست‌گذاران حوزه فناوری در جهان با آن مواجه‌اند، توسعه مسئولانه هوش مصنوعی است. می‌دانیم که هوش مصنوعی‌های مولد، به‌ویژه مدل‌هایی که بر پایه یادگیری عمیق توسعه پیدا کرده‌اند، علاوه بر یادگیری از داده‌های آموزشی، قابلیت تعامل با محیط پیرامونی خود را نیز دارند. این سامانه‌ها از طریق تعامل با محیط، اطلاعات جدیدی کسب می‌کنند و بر اساس این یادگیری‌ها مستمر، تا حدی از استقلال در تصمیم‌گیری برخوردار می‌شوند؛ وضعیتی که از آن با عنوان «خودمختاری» یاد می‌شود.  این نقطه می‌تواند چالش برانگیز باشد؛ زیرا هوش مصنوعی که به دست انسان توسعه یافته است، هم اکنون در جریان تعامل با سامانه‌ها، داده‌ها و محیط‌های مختلف، دانش خود را گسترش می‌دهد و قواعد یادگیری‌اش را به‌روزرسانی می‌کند. در برخی شرایط، ممکن است کنترل رفتار آن از دست عامل انسانی، یعنی افرادی که آن را توسعه داده‌اند، خارج شود. بنابراین، این مسئله یکی از موضوعاتی است که باید به‌طور جدی مورد توجه قرار گیرد. یکی از پرسش‌های همیشگی در جوامع فناوری، به‌ویژه در تعامل میان توسعه‌دهندگان هوش مصنوعی و متخصصان حقوق، این است که چه کسی باید مسئول و پاسخ‌گو باشد؟

برخی از ما مهندسان معتقدیم ماشین به‌خودی‌خود قابلیت پذیرش مسئولیت ندارد و نباید انتظار داشته باشیم که یک سامانه هوش مصنوعی مسئولیت اقداماتش را بر عهده بگیرد؛ بنابراین، مسئولیت باید متوجه عامل انسانی باشد. در مقابل، متخصصان حقوق نیز به‌درستی بر این نکته تأکید می‌کنند که انسان در طراحی و توسعه این سامانه‌ها نقش دارد، اما الگوریتم‌ها و مدل‌ها باید به‌گونه‌ای طراحی شوند که ابزارهای کنترلی و سازوکارهای توقف مناسبی داشته باشند و نتوانند از محدوده‌های تعیین‌شده عبور کنند. از این رو، موضوع مسئولیت‌پذیری اهمیت زیادی دارد. در حکمرانی، چه در حوزه سیاست و اقتصاد و چه در حوزه فناوری، یکی از اصول اساسی، تعیین مسئولیت و توزیع مسئولیت است. در حوزه هوش مصنوعی، به دلیل پیچیدگی فرایند یادگیری، تعیین مسئولیت دشوارتر نیز می‌شود.

 برای تدوین چارچوبی مناسب، لازم است متخصصان رشته‌های مختلف در کنار یکدیگر قرار بگیرند؛ نه‌فقط مهندسان و توسعه‌دهندگان، بلکه کارشناسان حقوق، جامعه‌شناسی، تعاملات اجتماعی، روابط بین‌الملل و اخلاق پژوهش و فناوری. این همکاری میان‌رشته‌ای می‌تواند به تدوین چارچوبی برای توسعه مسئولانه هوش مصنوعی منجر شود؛ چارچوبی که امکان بهره‌برداری حداکثری از ظرفیت‌های این فناوری را فراهم کند و در عین حال، آسیب‌های آن را به حداقل برساند.

 از مهم‌ترین مخاطرات هوش مصنوعی می‌توان به نشت داده‌ها و اطلاعات و همچنین خودمختاری کنترل‌نشده اشاره کرد. این موارد باید با سازوکارهای مناسب مدیریت شوند. با توجه به تحولات و جنگ‌های اخیر و نقش اطلاعات در این رویدادها، اهمیت این موضوع بیش از گذشته آشکار شده است.