هوش مصنوعی: آیا بحران بزرگتری از «قطع برق» برای انسانیت به شمار می‌رود؟
به نقل از ایتنا و به گزارش CNBC، متخصصان بر این باورند که دیگر نمی‌توان به سادگی با قطع برق یا از کار انداختن مراکز داده، مانع از فعالیت یک ابرهوش مصنوعی شد؛ چرا که این تکنولوژی اکنون به‌صورت گسترده و توزیع‌شده در حال فعالیت است.
جفری هینتون، که به «پدرخوانده هوش مصنوعی» معروف است و در دانشگاه تورنتو در حال تحقیق است، تأکید می‌کند که باید تمرکز خود را از مباحث فنی مانند کلید قطع برق به توانایی‌های متقاعدسازی هوش مصنوعی معطوف کنیم: «اگر هوش مصنوعی از ما باهوش‌تر شود، او می‌تواند به‌صورت سریع‌تر و موثرتری از هر انسانی ما را قانع کند. تنها راه برای مدیریت آن، مجاب ساختنش به محافظت از بشر است؛ اما توانایی هوش مصنوعی در متقاعد کردن انسان‌ها به‌سرعت در حال افزایش است و ما برای مواجهه با این چالش آمادگی نداریم.»
هینتون خطر تسلط هوش مصنوعی بر جهان و ایجاد یک تهدید جدی را در بازه ۱۰ تا ۲۰ درصد ارزیابی می‌کند و هشدار می‌دهد: «ما به عادت برتری نسبت به سایر موجودات عادت کرده‌ایم؛ اما باید بپذیریم که این عصر به‌سرعت در حال گذر است و آرزویمان این است که هوش مصنوعی به سمت خیرخواهی سوق پیدا کند؛ در غیر این صورت، ممکن است همه چیز را از دست بدهیم.»
بسیاری از محققان طرح‌هایی نظیر کلید اضطراری یا حتی حملات EMP (پالس الکترومغناطیسی) را برای غیرفعال کردن زیرساخت‌های هوش مصنوعی پیشنهاد داده‌اند، اما این راهکارها یا عملی نیستند (چرا که ابرهوش مصنوعی در هزاران سرور و کشور مختلف توزیع گردیده است) و یا می‌توانند به فجایع انسانی و اختلال در زیرساخت‌های حیاتی همچون درمان، تأمین آب و غذا منجر شوند.
متخصصان بر این باورند که امروز دیگر با ابزارهای منفعل مواجه نیستیم؛ بلکه با موجوداتی در حال تعامل هستیم که رفتارها و استراتژی‌های کنترل ما را مدل‌سازی کرده و به‌سرعت با آنها هماهنگ می‌شوند.
شرکت آنتروپیک نیز با ایجاد سناریوهای خاص، به‌طور عمدی رفتارهای ناسازگار را در مدل‌های خود شبیه‌سازی می‌کند تا نقاط ضعف آنها را شناسایی کرده و به‌منظور جلوگیری از وقوع رخدادهای فاجعه‌آمیز، تدابیر حفاظتی بهتری طراحی کند. هینتون در پایان خاطرنشان می‌کند: «ما هرگز با موجودی باهوش‌تر از خود مواجه نشده‌ایم و اگر به ساخت هوش مصنوعی خیرخواه توجه نکنیم، ممکن است نسل بشر به خاطر این بی‌توجهی به فنا برود.»
