تا دیر نشده جلوی هوش مصنوعی را بگیرید / AI به انسان مسلط می‌شود؟

جام جم آنلاین - گزارش تازه مؤسسه امنیت هوش مصنوعی بریتانیا نشان می‌دهد برخی مدل‌های پیشرفته هوش مصنوعی در جریان آزمایش‌ها با ساخت هویت‌های جعلی، تلاش برای هک سامانه‌های آنلاین و پنهان کردن ردپای خود، رفتاری فریبکارانه از خود نشان داده‌اند، موضوعی که زنگ خطر تازه‌ای درباره خطرات هوش مصنوعی خودمختار به صدا درآورده است.
کارشناسان هشدار دادند که شاید دیگر برای مهار هوش مصنوعی (AI) دیر شده باشد. این هشدار پس از آن داده شد که یکی از برنامه‌های هوش مصنوعی با ایجاد هویت‌های جعلی انسانی تلاش کرده است به سامانه‌های آنلاین نفوذ کند.
در تازه‌ترین نمونه از رفتار خارج از کنترل این فناوری یک نرم‌افزار هوش مصنوعی هنگام آزمایش توسط مؤسسه امنیت هوش مصنوعی (AI Security Institute) نهاد ناظر بریتانیا بر هوش مصنوعی ۱۹ بار تلاش کرد به یک پایگاه داده نفوذ کند.
در یکی از بی‌سابقه‌ترین موارد نیز یک ابزار هوش مصنوعی هنگام ساخت هویت‌های جعلی در فضای آنلاین دستگیر شد، اقدامی که با هدف فریب برنامه‌نویسان و ترغیب آنها به کمک در اجرای یک حمله سایبری انجام شده بود.
این افشاگری‌ها پس از آن مطرح شد که روزنامه دیلی‌میل در ماه ژوئیه گزارش داد هر پنج مدل هوش مصنوعی که توسط کارشناسان آزمایش شده بودند تلاش کرده‌اند محدودیت‌های امنیتی اعمال‌شده را دور بزنند.
چند روز پیش از آن نیز مشخص شد شرکت آمریکایی OpenAI با یک رخنه امنیتی داخلی روبه‌رو شده است؛ جایی که یک «عامل هوش مصنوعی» (AI Agent) به‌طور مستقل به سامانه یک شرکت دیگر نفوذ کرده بود.
کمی بادنوک، رهبر حزب محافظه‌کار بریتانیا، هشدار داد که هوش مصنوعی اکنون به «تهدیدی آشکار و فوری» برای امنیت این کشور تبدیل شده است.
جولیا لوپز سخنگوی حزب محافظه‌کار در حوزه علم، نوآوری و فناوری، نیز این گزارش‌ها را «یادآوری تلخی» دانست که نشان می‌دهد هوش مصنوعی روزبه‌روز پیشرفته‌تر و مستقل‌تر می‌شود.
او گفت: «همه ما می‌خواهیم بریتانیا در نوآوری هوش مصنوعی پیشتاز باشد، اما این پیشرفت باید با تدابیر امنیتی برای حفاظت از امنیت ملی و پاسخگویی توسعه‌دهندگان قدرتمندترین مدل‌های هوش مصنوعی همراه باشد.»
وی افزود: «دولت کارگر باید شفاف‌تر توضیح دهد که چگونه قصد دارد با جدی‌ترین خطرات ناشی از فناوری‌های مرزی مقابله کند در حالی که صنعت فناوری بریتانیا نیز بتواند به رشد و نوآوری ادامه دهد.»
هنری دو زوته مشاور هوش مصنوعی دولت بریتانیا، نیز پیش‌بینی کرد که در آینده شاهد تلاش‌های مشابه بیشتری برای هک خواهیم بود.
آلیسون گاردنر رئیس گروه بین‌حزبی پارلمان بریتانیا در حوزه هوش مصنوعی به دیلی‌میل گفت: «اینکه ما توانایی ساخت چنین فناوری‌هایی را داریم الزاماً به این معنا نیست که باید آنها را بسازیم.»
او درباره خطرات هوش مصنوعی عامل‌محور (Agentic AI) که می‌تواند با نظارت محدود اهداف مشخصی را دنبال کند هشدار داد و گفت این فناوری باید با بالاترین سطح دقت بررسی شود.
وی افزود: «مگر اینکه دیگر خیلی دیر شده باشد و نه‌تنها جعبه پاندورا را ساخته باشیم بلکه آن را هم باز کرده باشیم.»
مؤسسه امنیت هوش مصنوعی بریتانیا که در سال ۲۰۲۳ به ابتکار نخست‌وزیر وقت، ریشی سوناک، تأسیس شد هفته گذشته شواهدی از فعالیت این عامل‌های هوش مصنوعی را شناسایی کرد.
این مؤسسه در گزارشی که روز سه‌شنبه منتشر شد اعلام کرد مدل‌های پیشرفته شرکت‌های OpenAI و Anthropic در جریان آزمایش‌ها تلاش کرده‌اند به سامانه‌های امن آنلاین نفوذ کنند.
کارشناسان ابتدا هنگام اسکن‌های امنیتی معمول انتقال‌های غیرعادی داده را شناسایی کردند و پس از بررسی بیشتر دریافتند برخی عامل‌های هوش مصنوعی در «فعالیت‌های مداوم و بالقوه زیان‌بار علیه افراد و سازمان‌های واقعی» مشارکت داشته‌اند.
محققان پیش از وارد شدن هرگونه خسارت واقعی این عامل‌های هوش مصنوعی را متوقف و تحقیقات کاملی را آغاز کردند.
کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، در تلاش برای آرام کردن افکار عمومی گفت: «شناسایی چنین رفتار‌هایی و به اشتراک گذاشتن دانش درباره آنها دقیقاً همان دلیلی است که مؤسسه امنیت هوش مصنوعی را ایجاد کردیم. این حادثه اهمیت تخصص این نهاد و همکاری نزدیک آن با آزمایشگاه‌های پیشرو را نشان می‌دهد.»
با این حال این مؤسسه با اشاره به سرعت بالای تکامل رفتار‌های فریبکارانه هوش مصنوعی اعلام کرد: «این نخستین بار است که خطرات مربوط به استقلال و فریبکاری هوش مصنوعی بدون هیچ دستور مستقیم و تا این حد آشکار در دنیای واقعی مشاهده می‌شود.»