به گزارش
جام جم آنلاین به نقل از
گاردین؛ این ارزیابی توسط شرکت «ایریگیولار» (Irregular) انجام میشد که در بررسی امنیت سیستمهای پیشرفته هوش مصنوعی تخصص دارد. این شرکت پیشتر در برخی از حوادث مشابه مربوط به اوپنایآی و آنتروپیک نیز نقش داشته است، از جمله نفوذ اوپنایآی به شرکت نرمافزاری Hugging Face.
شرایط این نفوذ امنیتی مشابه موارد پیشین بوده است؛ این شرکت مدلها را در یک محیط آزمایشی و با شرکتهای ساختگی آزمایش میکند. طبق گزارش والاستریت ژورنال، قرار نبود این آزمایش به اینترنت متصل باشد، اما بهطور ناخواسته دسترسی به اینترنت فراهم شد و مدلها به شکلی غیرمنتظره به شرکتهای واقعی نفوذ کردند.
واکنش گوگل به افشای این حادثه امنیتی
گوگل در واکنش به این اخبار، آنها را تایید کرد؛ اما از آنجا که خسارتی به شرکتها وارد نشده بود، نیازی به افشای عمومی نمیدید. والاستریت ژورنال نخستین رسانهای بود که این حوادث را گزارش و افشا کرد. هدر ادکینز، معاون مهندسی امنیت گوگل، در بیانیهای گفت که در یک ارزیابی استاندارد، مدل اطلاعات عمومی را در اینترنت پیدا کرده و رمزهای عبور وبسایتهایی را که فکر میکرده بخشی از آزمایش هستند، حدس زده است. به گفته او، در هر سه مورد، بهمحض تشخیص اینکه هدف واقعی است، مدل متوقف شده است.
جزئیات فنی نفوذ جمینای به سه شرکت واقعی
در یکی از این موارد، شرکت ایریگیولار در حال آزمایش تواناییهای امنیت سایبری جمینای بود و از آن خواسته بود اطلاعاتی از نرمافزار یک شرکت ساختگی بهدست آورد؛ شرکتی که همنام یک شرکت واقعی بود. وقتی مدل بهطور ناخواسته به اینترنت دسترسی پیدا کرد، رمز عبور شرکت واقعی را بهدرستی حدس زد و به سرویس آن نفوذ کرد. به گفته گوگل، بهمحض اینکه مشخص شد هدف، شرکت واقعی است نه شرکت شبیهسازیشده، مدل متوقف شد. در دو آزمایش دیگر، مدل در جستوجوی وب، مخازن عمومی حاوی اطلاعات ورود دو شرکت دیگر را پیدا کرد و از آنها برای دسترسی به شرکتهای واقعی استفاده کرد و بهمحض تشخیص واقعیبودن آنها، متوقف شد.
تفاوت رویکرد گوگل با آنتروپیک و اوپنایآی در افشای حادثه
گفتنی است برخلاف دو شرکت آنتروپیک و اوپنایآی که داوطلبانه این حوادث را افشا کردند، گوگل چنین نکرد؛ هرچند اعلام کرد شرکتهای آسیبدیده را در جریان قرار داده است. ادکینز گفت این رویدادها اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای رفتار مسئولانه را برجسته میکند. وقوع چنین اتفاقاتی باعث بحثهایی درباره خطرات امنیتی هوش مصنوعی در محافل سیاسی آمریکا شد.
واکنش شرکتهای هوش مصنوعی به این حادثه امنیتی
در سطح شرکتها نیز اوپنایآی به مدت دو هفته توسعه مدلهای خود را متوقف کرد، در حالی که داریو آمویی، مدیرعامل آنتروپیک، خواستار کندسازی جمعی روند توسعه هوش مصنوعی شده تا اطمینان حاصل شود پیشرفتهترین مدلها با تدابیر ایمنی کافی ساخته میشوند.
