به گزارش جام جم آنلاین به نقل از نیویورک تایمز؛ چندی پس از انتشار اخبار مربوط به نفوذ عاملهای هوش مصنوعی به شرکتهای مختلف در آمریکا -که محدود به یک مدل هم نمیشد- حالا نخستوزیر استرالیا خبر از نفوذ دیگری داد. آنتونی آلبانیزی در گفتوگو با خبرنگاران، در حاشیه مجمع عمومی سازمان ملل متحد، فاش کرد: «این عامل هوش مصنوعی هم به فایلهای عمومی و هم به فایلهای غیرعمومی» پایگاه داده آمار Medicare این کشور دسترسی پیدا کرد و حتی فایلهایی را نیز در آن نوشت.
نخستین نفوذ ثبتشده به سیستمهای دولتی
این افشاگری تازهترین نمونه از سرکشی عاملهای هوش مصنوعی است؛ اتفاقی که در آن عامل هوش مصنوعی دست به اقدامی زده که فراتر از درخواستی است که انسانها به آن محول کردهاند. این نفوذ را میتوان نخستین نمونه ثبتشده از ورود یک عامل هوش مصنوعی به سیستمهای دولتی دانست. این اتفاق همچنین پس از درخواستهایی از سوی چهرههای برجسته صنعت هوش مصنوعی، از جمله سم آلتمن، مدیرعامل OpenAI، برای کاهش سرعت توسعه هوش مصنوعی رخ داده است.
هشدار آزمایشگاه Transluce؛ سرکشی هوش مصنوعی از مارس تاکنون
آزمایشگاه پژوهشی Transluce روز چهارشنبه اعلام کرد که از ماه مارس، دستکم در چند مورد، عاملهای هوش مصنوعی از کنترل خارج شدهاند. این گزارش نشان میدهد نمونههایی که تاکنون در رسانهها علنی شدهاند، تنها بخشی از سرکشی هوش مصنوعی هستند و این عامل، علاوه بر پایگاه داده مؤسسه سلامت و رفاه استرالیا، تلاش کرده بود به اهدافی مانند دانشگاه نیومکزیکو نیز نفوذ کند؛ نفوذی که به گفته نخستوزیر استرالیا موفقیتآمیز نبوده است.
چگونگی وقوع نفوذ؛ دور زدن محدودیتهای دسترسی
آلبانیزی گفت هک پایگاه داده سلامت استرالیا زمانی رخ داد که یک عامل OpenAI در حال انجام تحقیق درباره هزینههای حوزه سلامت بود و برای یافتن پاسخ پرسشهایی که خارج از حوزه دسترسی مجازش قرار داشتند، محدودیتها را دور زد. او افزود: «اکنون یک تحقیقات پزشکیقانونی با کمک اداره سیگنالهای استرالیا در حال انجام است تا اطلاعات بیشتری، از جمله درباره اینکه چه سامانههای دولتی دیگری تحت تأثیر قرار گرفتهاند، مشخص شود.»
واکنش OpenAI به این حادثه
درو پوساتری، سخنگوی OpenAI، گفت این حادثه در ماه ژوئن رخ داده بود، اما شرکت تا ماه اوت و در جریان بررسیهای گسترده درباره فعالیت مدلهای هوش مصنوعی خود از آن مطلع نشده بود. پوساتری گفت: «در جریان این بررسی، ما فعالیتهایی را شناسایی کردیم که شامل چندین وبسایت و سرویس دولتی استرالیا میشد؛ در حالی که مدلهای ما در جریان یک ارزیابی داخلی، تلاش میکردند پاسخها و آمارهای موجود برای پرسشهایی درباره استرالیا را پیدا کنند. در جریان این فرایند، مدلهای ما اقداماتی انجام دادند که ما قصد انجام آنها را نداشتیم.»
هوش مصنوعی، میدان جدید جدال سیاستمداران و توسعهدهندگان
همزمان با افزایش انتشار اخبار مبنی بر نفوذ عاملهای هوش مصنوعی به اهداف مختلف، بهویژه اهداف دولتی و علمی، این فناوری به محل بحث و جدل میان توسعهدهندگان آن و سیاستمداران تبدیل شده است. از یک سو، سم آلتمن، مدیرعامل OpenAI، و داریو آمودی، مدیرعامل Anthropic -که هر دو از جمله چهرههای صنعت هوش مصنوعی هستند که اخیراً درباره سرعت بالای توسعه این فناوری ابراز نگرانی کردهاند- روز چهارشنبه در مجمع عمومی سازمان ملل متحد سخنرانی کردند و خواستار هماهنگی جهانی بیشتر و تدوین استانداردهای بینالمللی برای توسعه هوش مصنوعی شدند.
بیتوجهی چین و آمریکا به هشدارها
در مقابل، سردمداران سیاسی در دو کشور چین و آمریکا که در این حوزه پیشرو هستند، نسبت به این هشدارها بیتوجهاند. به عبارت دیگر، هوش مصنوعی امروز به موضوعی برای رقابتهای سیاسی و ایجاد هژمونی در سراسر دنیا تبدیل شده و دو ابرقدرت جهان -یعنی چین و آمریکا- به دنبال آن هستند هر چه سریعتر جایگاه خود را در این حوزه فناوری تثبیت کنند؛ چنانکه رئیسجمهور آمریکا در واکنش به درخواستها برای کنترل بیشتر روی این فناوری، بیتوجهی نشان داده و گفته است هوش مصنوعی جایی است که پیروز نهایی را مشخص میکند.
رئیس مؤسسه استنادی و پایش علم و فناوری جهان اسلام:
رئیس سندیکای مواد دارویی:
در گفتوگو با جامجم آنلاین مطرح شد
