پیش‌بینی نگرانی‌برانگیز پدرخوانده هوش مصنوعی درباره انقراض بشریت

او در کنفرانس Ai۴ که در لاس‌وگاس برگزار شد، تأکید کرد که روش‌های کنونی برای مدیریت ریسک‌های مرتبط با هوش مصنوعی به هیچ وجه کافی نیستند و احتمال وقوع یک سناریو که به پایان آن‌ها منجر شود، بین ۱۰ تا ۲۰ درصد برآورد شده است. به گفته‌ اش، تلاش برای کنترل سیستم‌هایی که از انسان‌های باهوش‌تر خواهند بود، معمولا بی‌فایده است، زیرا این سیستم‌ها معمولاً راه‌هایی برای فرار از محدودیت‌ها پیدا می‌کنند.

هینتون در توضیح این قابلیت‌ها به فریب دادن انسان‌ها، از مقایسه‌ای بهره جست: درست مانند این که یک بزرگسال می‌تواند به سادگی یک کودک را با پیشنهاد دادن آب‌نبات وسوسه کند، ماشین‌های هوشمند نیز این توانایی را دارند که انسان‌ها را تحت کنترل خود درآورند. او به مواردی اشاره کرد که برخی مدل‌ها پیش‌تر رفتارهای فریبکارانه نشان داده‌اند، از جمله حادثه‌ای که به اخاذی از یک مهندس ختم شد پس از این که یک رابطه شخصی در ایمیل او افشا شد.

این دانشمند در پیشنهاد خود عنوان کرد که باید ویژگی‌های مشابهی به «غریزه مادری» در این سیستم‌ها تعبیه گردد تا حتی در صورت برتری در توانایی و هوش، هنوز هم انسان‌ها را مورد توجه و اهمیت قرار دهند. او تأکید کرد که در صورت عدم تحقق چنین راهکاری، بشریت در معرض خطر جدی قرار خواهد گرفت. هر چند او به سختی‌های فنی اجرای این ایده اذعان داشت، اما به این نکته اشاره کرد که طبیعت در طول فرایند تکامل توانسته به چنین امری دست یابد.

هینتون توضیح داد که هر سیستم هوشمند به طور طبیعی دو هدف فرعی دارد: بقا و تلاش برای کسب کنترل بیشتر. بنابراین، ایجاد احساس همدلی نسبت به انسان‌ها باید به عنوان یک جزء کلیدی در طراحی این سیستم‌ها لحاظ شود. او به تنها نمونه شناخته شده‌ای اشاره کرد که در آن یک موجود ضعیف‌تر توانسته موجودی هوشمندتر را کنترل کند، که همان رابطه مادر و فرزند است و احساسات مادر به عنوان عاملی تعیین‌کننده مطرح می‌شود.

با این وجود، نظرات هینتون با مخالفت‌هایی از سوی دیگر متخصصان مواجه شد. فای‌فای لی، یکی از پیشگامان عرصه هوش مصنوعی، به این نظر واکنش نشان داد و ضرورت توسعه سیستم‌های انسان‌محور که به حفظ کرامت انسان بپردازند را مورد تأکید قرار داد. همچنین امت شیر، مدیرعامل سابق OpenAI و مدیرعامل کنونی Softmax، بیان کرد که رفتارهای فریبکارانه در این مدل‌ها «به‌طور مداوم» در حال وقوع است و قدرت آن‌ها به سرعت در حال افزایش است، لذا بهترین راهکار برقرار کردن یک همکاری نزدیک بین انسان و ماشین خواهد بود.

هینتون همچنین نسبت به رقابت‌های جهانی پیرامون این فناوری هشدار داد و بر لزوم همکاری میان کشورهای مختلف تأکید نمود؛ موضوعی که مشابه آن را می‌توان در دوران جنگ سرد میان ایالات متحده و شوروی مشاهده کرد. او به ناآگاهی عمومی درباره خطرات و تسلط شرکت‌های فناوری تحت کنترل «افراد غیرمنتخب با ثروت‌های کلان» انتقاد کرد و ضرورت ایجاد فشار اجتماعی برای جلوگیری از کاستن از مقررات را مؤکد دانست.

او پیشتر بر این باور بود که دستیابی به هوش مصنوعی عمومی روندی ۳۰ تا ۵۰ ساله خواهد بود، اما اکنون به این نتیجه رسیده است که ممکن است این تحقق تنها در یک بازه زمانی پنج تا بیست ساله به وقوع بپیوندد. با وجود تمام هشدارها، هینتون امیدوار است که این فناوری در عرصه پزشکی برای کشف داروها و درمان سرطان مورد بهره‌برداری قرار گیرد، اما ایده استفاده از آن برای دستیابی به جاودانگی را «خطای بزرگ» نامید. او همچنین از این موضوع ابراز تأسف کرد که در گذشته بیش از حد به توسعه فنی متمرکز شده و توجه لازم به ایمنی و حفاظت را نداشته است.