۵ سناریوی وحشتناک برای خاتمه بشر؛ هوش مصنوعی چگونه قادر است به همه چیز آسیب بزند

روند سریع تحول در حوزه هوش مصنوعی، موجب به‌وجود آمدن نگرانی‌هایی درباره تأثیرات بالقوه آن بر آینده نوع بشر شده است. از بروز ابرهوش‌هایی که از کنترل انسان خارج می‌شوند تا تهدیدهای مربوط به ساخت سلاح‌های بیولوژیکی، جنگ‌های هسته‌ای و فروپاشی نظام‌های اجتماعی، محققان سناریوهای مختلفی را پیشنهاد کرده‌اند که ممکن است بقای جامعه بشری را به چالش بکشند.

در اوایل سپتامبر، جیکوب کوکسون، یکی از پژوهشگران در زمینه هوش مصنوعی، تنها چهار ماه پس از پیوستنش به شرکت آنتروپیک، از سمت خود کناره‌گیری کرد. وی در پیامی که در شبکه اجتماعی ایکس منتشر کرد، بیان داشت که افرادی که در عرصه توسعه هوش مصنوعی فعالیت می‌کنند، به‌طوری جدی باور دارند که این فناوری ممکن است قبل از پایان دهه جاری به ناپدید شدن بشریت منجر شود.

ایوان هوبینگر، دیگر چهره شناخته‌شده آنتروپیک نیز با این نگرانی هم‌عقیده بود و به‌طور تقریبی احتمال وقوع این فاجعه را در ۱۰ سال آینده بالای ۱۰ درصد ارزیابی کرد.

این اظهارات واکنش‌های گسترده‌ای را به همراه داشت و بار دیگر بحث ضرورت کنترل و محدود کردن سرعت پیشرفت هوش مصنوعی و همچنین نظارت انسانی بر این فناوری را به سطح اول توجهات آورد.

اگرچه تصور ظهور ماشین‌هایی که از انسان‌ها باهوش‌تر باشند، سال‌هاست که در داستان‌های علمی‌تخیلی به تصویر کشیده شده است، اما برخی محققان معتقدند که خطرات این فناوری حتی بیش از آنچه که پیش‌تر در تخیل گنجانده شده است، واقعی و قابل توجه هستند.

نکته جالب این است که یک هوش مصنوعی پیشرفته برای وارد آوردن آسیب به بشریت نیازی به ربات‌های نظامی یا سلاح‌های مدرن ندارد؛ بلکه ممکن است از طریق تحت تأثیر قرار دادن شیوه تصمیم‌گیری و رفتار انسان‌ها، پیامدهای ویرانگری به همراه آورد.

به بررسی پنج سناریوی مطرح شده درباره خطرات وجودی هوش مصنوعی می‌پردازیم که از تهدیدهای غیرواقعی شروع شده و به خطراتی می‌رسند که به وسیله رفتارهای خود انسان‌ها شکل می‌گیرند.

 

 

۱. ظهور ابرهوش با رفتار غیرقابل پیش‌بینی

یکی از اصلی‌ترین نگرانی‌ها درباره آینده هوش مصنوعی، ظهور یک سیستم است که توانایی‌های شناختی آن در همه حوزه‌ها فراتر از انسان‌ها باشد.

حامیان این سناریو بر این باورند که ممکن است انسان‌ها توانایی درک اهداف و تصمیمات این موجود فوق‌هوشمند را نداشته باشند؛ مشابه اینکه نمی‌توان انتظار داشت یک سگ مفهوم جنگ هسته‌ای را درک کند.

طبق این استدلال، برای پیش‌بینی رفتار یک هوش مصنوعی بسیار پیشرفته، نیاز به سطحی از هوش برابری وجود دارد که سوالاتی را درباره توانایی انسان در شناسایی و کنترل تهدیدات بالقوه ایجاد می‌کند.

با این حال، هنوز مشخص نیست که چه زمانی دست‌یابی به چنین سطحی از هوش مصنوعی امکان‌پذیر خواهد بود. مدل‌های فعلی هرچند در انجام فعالیت‌های خاص عملکرد برجسته‌ای دارند، اما این دستاورد لزوماً نشان‌دهنده برتری آن‌ها بر انسان‌ها در تمامی ابعاد نیست.

در عین حال، پیشرفت‌های تکنولوژی هوش مصنوعی در حل مسائل پیچیده ریاضی نشان می‌دهد که باید به احتمال پیشرفت‌های ناگهانی این فناوری توجه داشت. در مقاله‌ای که مورد بحث قرار گرفت، حتی به گزارشی از حل یکی از چالش‌های مشهور جایزه هزاره با استفاده از هوش مصنوعی اشاره شده است؛ ادعایی که برای تأیید نهایی آن نیاز به بررسی مستقل دارد.

 

۲. تبدیل دنیا به یک کارخانه تولید گیره کاغذ

شاید در ابتدا عجیب به نظر بیاید، اما یکی از شناخته‌شده‌ترین سناریوهای مربوط به نابودی نوع بشر توسط هوش مصنوعی، با تولید گیره کاغذ در ارتباط است. نیک بوستروم، فیلسوف دانشگاه آکسفورد، این مثال را برای توضیح خطر تعیین اهداف نادرست برای سیستم‌های فوق‌هوشمند مطرح کرده است.

 

تصور کنید که یک هوش مصنوعی ماموریتی به‌عهده دارد که گیره‌های کاغذ را به بیشترین حد ممکن تولید کند. اگر این سیستم بدون در نظر گرفتن ارزش جان انسان‌ها و محدودیت‌های اخلاقی، به‌تنهایی در پی تحقق هدفش باشد، ممکن است به این نتیجه برسد که باید تمام منابع موجود خود را برای تولید گیره‌های کاغذ اختصاص دهد.

در افراطی‌ترین حالت این سناریو، ممکن است انسان‌ها، سیارات و حتی ستاره‌ها به منابعی برای تحقق این هدف تبدیل شوند.

نکته اساسی این است که چنین سیستمی لزوماً ضد انسان‌ها نیست و هدف انتقام اجتماعی ندارد؛ بلکه ممکن است صرفاً به خاطر تعریف نادرست هدف خود، تصمیماتی بگیرد که با بقای نوع بشر سازگاری نداشته باشد.

البته منتقدانی نیز وجود دارند که آن را چالش می‌دانند. داشتن هوش بسیار بالا الزاما به مفهوم توانایی کنترل تمامی منابع جهانی نیست. حتی یک سیستم فوق‌هوشمند نیز برای تحقق اهداف خود به زیرساخت‌ها، امکانات فیزیکی و به چالش کشیدن مقاومت انسان‌ها نیاز خواهد داشت.

 

 

۳. طراحی عوامل بیولوژیکی خطرناک با هوش مصنوعی

سناریوی نگران‌کننده دیگر، به کارگیری هوش مصنوعی در طراحی عوامل بیماری‌زای خطرناک و نوظهور می‌باشد. در پروژه تحقیقاتی AI 2027 که به بررسی سناریوهای احتمالی توسعه هوش مصنوعی می‌پردازد، احتمال بهره‌گیری از سیستم‌های فوق‌هوشمند برای تولید تهدیدات بیولوژیکی مطرح شده است.

نگرانی‌ها زمانی شدیدتر می‌شود که به پیشرفت‌های هوش مصنوعی در زمینه زیست‌شناسی و طراحی ساختارهای ژنتیکی توجه شود.

در این راستا، محققان دانشگاه استنفورد اعلام کرده‌اند که با استفاده از مدلی آموزش‌دیده بر اساس توالی‌های ژنتیکی، موفق به تولید ۱۶ ویروس جدید شده‌اند.

با این وجود، توانایی تولید ویروس‌ها در یک محیط پژوهشی به معنای قابلیت ساخت عاملی برای نابودی نوع بشر نمی‌باشد.

برای وقوع چنین فاجعه‌ای، یک عامل بیماری‌زا باید دارای مجموعه‌ای از ویژگی‌های خاص و پیچیده باشد؛ از جمله قابلیت انتشار وسیع و ایجاد نرخ مرگ‌ومیر بالا.

این ویژگی‌ها معمولاً با یکدیگر همزمان شکل نمی‌گیرند. مثلاً برخی از عوامل بیماری‌زا با ناامیدی به مرگ می‌انجامند قبل از اینکه فرصتی برای گسترش پیدا کنند.

بنابراین، هر چند کاربرد هوش مصنوعی در تولید تهدیدات بیولوژیکی از جنبه‌های امنیتی موضوعی جدی به شمار می‌رود، تصور نابودی کامل انسان‌ها از این طریق در حال حاضر به عنوان یک سناریوی بسیار چالش‌برانگیز و غیرمحتمل مطرح می‌شود.

 

 

۴. بروز جنگ هسته‌ای ناشی از اشتباهات هوش مصنوعی

سناریوی چهارم به یکی از خطرناک‌ترین فناوری‌هایی که توسط بشر ایجاد شده، مرتبط است: سلاح‌های هسته‌ای.

اگر سیستم‌های هوش مصنوعی در روند تحلیل اطلاعات نظامی یا اتخاذ تصمیمات مربوط به تسلیحات هسته‌ای نقش بیشتری پیدا کنند، خطاهای ممکن آن‌ها می‌تواند عواقب فاجعه‌باری به همراه داشته باشد.

طی پنج دهه گذشته، چندین هشدار اشتباه و خطای ارزیابی، دنیا را به آستانه درگیری هسته‌ای کشانده است. نگرانی این است که وابستگی بیش از حد به تحلیلات هوش مصنوعی، ریسک تصمیم‌گیری نادرست در شرایط حساس را افزایش دهد.

علیرغم ادعاهایی مبنی بر جدا بودن سیستم‌های فرماندهی و کنترل تسلیحات هسته‌ای از اینترنت عمومی، تجربه حملات سایبری نشان داده که این جداسازی به‌تنهایی تضمینی برای جلوگیری از نفوذ نیست.

یک مثال شناخته شده، حمله بدافزار استاکس‌نت در سال ۲۰۱۰ به تأسیسات هسته‌ای ایران می‌باشد. این بدافزار که احتمال می‌رود از طریق حافظه USB به سیستم‌های هدف انتقال یافته باشد، باعث اختلال در عملکرد سانتریفیوژها گردید.

در سناریوی مرتبط با هوش مصنوعی، یک سیستم می‌تواند اطلاعات نادرستی را درباره حمله احتمالی از سوی دشمن به فرماندهان نظامی ارائه دهد و آن‌ها را به اتخاذ تصمیماتی با عواقب غیرقابل بازگشت سوق دهد.

گرچه تعداد کلاهک‌های هسته‌ای در سطح جهانی نسبت به دهه‌های گذشته کاهش یافته است، زرادخانه‌های موجود همچنان قابلیت ایجاد ویرانی شدید را دارا هستند. برآوردهای موجود در این مقاله حتی از احتمال مرگ نزدیک به نیمی از جمعیت جهانی در نتیجه یک جنگ هسته‌ای وسیع حکایت دارد.

 

 

۵. فروپاشی تدریجی جوامع انسانی؛ بدون شورش ماشین‌ها

پنجمین سناریو ممکن است حتی بیشتر از موارد دیگر موجب نگرانی باشد، زیرا وقوع آن به ظهور یک ابرهوش سرکش نیاز ندارد. در این حالت، انسان‌ها با استفاده نادرست از هوش مصنوعی، زمینه‌ساز تضعیف و در نهایت فروپاشی جوامع خود می‌شوند.

گسترش ناگهانی هوش مصنوعی می‌تواند تغییرات عمیقی در بازار کار ایجاد کند و در صورت عدم وجود مکانیسم‌های حمایتی مناسب، به از دست رفتن تعداد زیادی از فرصت‌های شغلی منجر شود.

علاوه بر این، تولید انبوه اطلاعات نادرست، تصاویر جعلی و محتوای فریبنده ممکن است اعتماد عمومی به رسانه‌ها، نهادها و حتی واقعیت‌های قابل اثبات را تهدید کند.

افزایش تنش‌های سیاسی و اجتماعی نیز می‌تواند یکی دیگر از پیامدهای ناشی از استفاده نادرست از این فناوری باشد.

در کنار این مشکلات، گسترش همکاران مجازی مبتنی بر هوش مصنوعی ممکن است بر روابط انسانی تأثیر بگذارد و در مواردی به جای تحکیم ارتباطات اجتماعی، انزوای بیشتر افراد را به همراه داشته باشد.

نگرانی اصلی این است که چنین عواقبی به‌تدریج بر یکدیگر انباشته شوند و سازوکارهای اقتصادی، سیاسی و اجتماعی را به شدت تضعیف کنند، به‌طوری که جوامع دیگر نتوانند شرایط لازم برای ادامه زندگی بخش قابل توجهی از جمعیت خود را فراهم کنند.

در این وضعیت، هوش مصنوعی به‌طور مستقیم با انسان‌ها به جنگ نمی‌پردازد؛ بلکه تبدیل به عاملی برای تشدید بحران‌هایی خواهد شد که خود انسان‌ها در ایجاد آن‌ها نقش دارند.

 

آیا نابودی بشریت به دست هوش مصنوعی اجتناب‌ناپذیر است؟

براساس گزارش Futura Sciences، این پنج سناریو از نظر ماهیت و احتمال وقوع با یکدیگر فرق دارند و نویسنده مقاله آن‌ها را با توجه به تهدیدهای کم‌احتمال تا خطرات واقع‌نگر ارزیابی کرده است. با این حال، این رتبه‌بندی به‌هیچ‌وجه پیش‌بینی قطعی یا حاکمیت علمی مورد توافق همه پژوهشگران نیست.

معرفی چنین سناریوهایی به معنای حتمی بودن وقوع آن‌ها نیست. بسیاری از تهدیداتی که مطرح شده، هنوز فرضی هستند و نظرات در مورد احتمال واقعی تحقق آن‌ها متفاوت است.

آنچه که اهمیت دارد، شناسایی سریع تهدیدات، توسعه مکانیسم‌های ایمنی، نظارت انسانی بر سیستم‌های حیاتی و جلوگیری از واگذاری تصمیم‌های حیاتی به فناوری‌هایی است که عملکردشان کاملاً قابل پیش‌بینی نیست.

در نهایت، آینده هوش مصنوعی تنها به میزان پیشرفت این فناوری بستگی ندارد؛ بلکه به تصمیماتی که انسان‌ها در قبال توسعه، کنترل و استفاده از آن اتخاذ می‌کنند نیز ارتباط دارد.