ساخت دکمه ای توسط گوگل برای جلوگیری از شورش هوش مصنوعی

به گزارش جام جم کلیک ، آیا اگر هوش مصنوعی بتواند بدون نیاز به کوچک‌ترین فعالیتی، بسیاری از مشکلات ما را حل کند بسیار جذاب نیست؟ تصور کنید امکان پیش‌بینی نیازهایتان را داشته باشد و سپس وظایف شما به صورت خودکار انجام شوند که در این صورت در زمان افراد صرفه جویی زیادی خواهد شد، اما برخی از افراد نظیر ایلان ماسک و استفان هاوکینگ از چنین شرایطی برای بشر ابراز نگرانی کرده‌اند.

گوگل یکی از شرکت‌هایی است که یکی از برترین‌های حال حاضر در زمینه هوش مصنوعی به حساب می‌آید. این کمپانی ظاهرا ترس‌هایی از چنین دانشی دارد، و به همین دلیل است که شرکت DeepMind که توسط گوگل خریداری شده، یک دکمه مخصوص را توسعه می‌دهد که باعث خواهد شد هوش مصنوعی بلافاصله از کار انداخته شود و از هرگونه آسیب‌رسانی توسط هوش مصنوعی چه به خودش و چه به مسئولان آن یا سایر افراد جلوگیری شود.

بر اساس تحقیقاتی که در DeepMind صورت گرفته کار این دکمه در واقع چیزی شبیه به این مورد است: «اگر همانند یک مامور که در حال نجات یک انسان است و در این شرایط شاید یک اپراتور انسانی نیاز به فشار دادن یک دکمه بزرگ قرمز داشته باشد تا از آسیب‌هایی که مامور نجات در اعمال خود و نیز آسیب‌هایی که می‌تواند به محیط بزند جلوگیری شود و سپس مامور را با یک راه امن‌تر راهنمایی کند.»

در هرحال، نمی‌توان این دکمه را به عنوان پایان کار کامل هوش مصنوعی دانست. به عنوان مثال برخی از الگوریتم‌ها مانند Q-learning به نحوی طراحی شده‌اند که امکان توقف سریع و امن هوش مصنوعی را فراهم می‌کنند اما ممکن است برخی دیگراز الگوریتم‌ها نیاز به تغییرات داشته باشند. همچنین هنوز مشخص نیست که آیا دکمه مورد نظر گوگل می‌تواند در دیگر الگورتیم‌ها نیز مورد استفاده قرار بگیرد یا خیر اما در هرصورت می‌توان این موضوع را یک شروع برای جلوگیری از آسیب‌رسانی هوش مصنوعی دانست.

منبع: زومیت