به گزارش جام جم آنلاین؛ پاچوکی در مطلب با عنوان «ذهنی بیگانه» که در وبلاگ OpenAI منتشر کرده نوشته است: «نگرانم که هیچکس برای پیامدهای ادامه رشد سریع هوش ماشین آماده نباشد.» او معتقد است جهان در حال ورود به مرحلهای است که ماشینها به سطح بسیار بالایی از توانایی که اکنون به آن رسیدهاند دست یافتهاند و جامعه باید خود را برای این مرحله آماده کند. این دانشمند همچنین گفته است: «ما با گذار به جهانی با ماشینهایی فوقالعاده هوشمند مواجهیم و باید اطمینان حاصل کنیم که این گذار برای بشریت بهخوبی پیش میرود.»
هوش مصنوعی خودمختار؛ وقتی عاملهای هوش مصنوعی مستقل عمل میکنند
این اظهارات در حالی مطرح شده است که شرکتهای بزرگ هوش مصنوعی در ماههای اخیر مدلهای و عاملهای قدرتمندی را روانه بازار کردهاند. سیستمهایی که دیگر صرفاً به یک پرسش ساده پاسخ نمیدهند، بلکه با دریافت یک دستور اولیه مجموعه از اقدامات را به صورت مستقل انجام میدهند. OpenAI و دیگر شرکتهای فعال در این حوزه از جمله Anthropic پیش از این گزارشهایی درباره رفتار مستقل عاملهای هوش مصنوعی منتشر کرده بودند و حتی در یکی از گزارشها OpenAI آن را بیسابقه توصیف کرده بود.
منتقدان OpenAI؛ توسعه عاملهای هوش مصنوعی کافی نیست
گفتههای پاچوکی با واکنش منتقدان نیز روبهرو شده است، جینا نف استاد دانشگاه کمبریج معتقد است توسعه عاملهای هوش مصنوعی به تنهایی نمیتواند پاسخ مناسبی برای نگرانیهای موجود باشد. نف تاکید دارد مشکلاتی مانند تهدیدهای امنیت سایبری، از دست رفتن مشاغل، خطاهای سیستمهای هوش مصنوعی و کلاهبرداری، نیازمند راهکارهایی فراتر از توسعه ابزارهای داخلی شرکتها هستند. از نگاه او، صرفاً ساخت عاملهای هوش مصنوعی برای تحقیق درباره این مشکلات، جایگزین مقررات بهتر، سازوکارهای نظارتی و تضمینهای ایمنی نمیشود.
چرا OpenAI اطلاعات بیشتری منتشر نمیکند؟
همچنین نیتن کالوین مشاور حقوقی فعال در حوزه هوش مصنوعی به مسأله مهمی اشاره کرده است؛ شفافیت. کالوین معتقد است OpenAI اطلاعات کافی درباره دلایلی که باعث شده دانشمندان این شرکت نسبت به سرعت پیشرفت هوش مصنوعی هشدار دهند، منتشر نمیکند. به گفته کالوین، اگر اطلاعات بیشتری درباره خطرات مشاهدهشده در اختیار افکار عمومی، دولتها و دیگر شرکتهای صنعت قرار نگیرد، هشدارهای OpenAI ممکن است بهعنوان نوعی «هیاهوی خودمحورانه» یا حتی تلاش برای منافع تجاری شرکت تلقی شود.
آیا انسان میتواند کنترل هوش مصنوعی را حفظ کند؟
فارغ از تمام بحثها پرسش اصلی همچنان این است که آیا انسان میتواند همزمان با افزایش هوش ماشینها کنترل خود را بر آنها حفظ کند؟ به عبارت دیگر مسئله فقط این نیست که هوش مصنوعی چه کارهایی میتواند انجام دهد بلکه این است در صورت افزایش استقلال سیستمها انسان تا کجا میتواند رفتار آنها را پیشبینی، محدود یا متوقف سازد. پاچوکی معتقد است باید اطمینان حاصل شود که در این گذار تاریخی، «انسانها همچنان کنترل آینده را در اختیار داشته باشند». اما منتقدان میگویند برای رسیدن به چنین هدفی، هشدارهای درون صنعت کافی نیست و باید سازوکارهای مستقل، شفاف و الزامآور برای نظارت بر شرکتهای هوش مصنوعی ایجاد شود.
در گفتوگو با جامجم آنلاین عنوان شد
در پاسخ به جامجم آنلاین مطرح شد
در گفتوگو با جام جم آنلاین مطرح شد
