بیل گیتس: توانمندی‌های هوش مصنوعی نسبت به سلاح‌های اتمی بی‌اهمیت به نظر می‌رسند

نیلای پاتل: اگر دولت بخواهد همه چیز را مدیریت کند، وضعیت مدل‌های متن‌باز و وزن‌های باز که هر فرد می‌تواند روی کامپیوتر شخصی یا مک استودیو در منزل خود اجرا کند، چه خواهد شد؟ آیا شما مایل به نظارت و محدودیت بر روی هوش مصنوعی محلی در کامپیوترهای شخصی هستید؟

بیل گیتس: خطر اصلی در کوتاه‌مدت، رقابت بین مدل‌ها نیست؛ بلکه مشکل واقعی به مدل‌هایی بازمی‌گردد که تمامی تدابیر و حفاظ‌های امنیتی آن‌ها قابل حذف هستند.

سرویس‌های بزرگ با میزبانی مدل‌های خود روی سرورهای ابری، تمامی حفاظ‌ها را حفظ می‌کنند و نحوه‌ی استفاده کاربران را تحت نظر دارند تا مانع از سوءاستفاده هکرها و بیوتروریست‌ها شوند؛ ریسک مدل‌های تحت نظارت در کوتاه‌مدت چندان جدی به نظر نمی‌رسد.

اما برای یک هکر فرقی نمی‌کند که از کدام مدل باز استفاده کند. باور دارم که از منظر امنیت سایبری و زیستی، این اقدام مسؤولانه نخواهد بود که به افراد اجازه دهیم با استفاده از وزن‌های باز تمامی قفل‌ها و حفاظت‌های ایمنی یک مدل پیشرفته را نادیده بگیرند.

زمانی که مدل‌ها از یک سطح خاصی از توانمندی عبور کنند، بایستی از ارائه آن‌ها به‌صورت فایل‌های خام و بدون ضابطه بر روی کامپیوترهای شخصی جلوگیری شود و تنها در پلتفرم‌های معتبر اجرا گردند که امکان دستکاری و حذف گاردریل‌های ایمنی در آن‌ها وجود نداشته باشد.

اما هوش مصنوعی بدون محافظت، قدرت حمله به اهداف حساس را از انحصار دولت‌های بزرگ خارج کرده و به گروه‌های کوچک مستقل می‌دهد؛ گروه‌هایی که یا در حوزه سایبری به دنبال اخاذی و از کار انداختن زیرساخت‌ها هستند، یا در حوزه بیولوژیک فقط می‌خواهند با طراحی پاتوژن‌ها فاجعه‌بار شوند.

ما خود باید برای پلتفرم‌هایی نظیر گیت‌هاب محدودیت‌هایی اعمال کنیم. این پلتفرم امروز نظارت چندانی بر انتشار کد ندارد، اما در مورد مدل‌های هوش مصنوعی بسیار قدرت‌مند به مقررات ویژه‌تری نیازمند هستیم.

اگر مدلی که قابلیت انجام حملات سایبری یا بیولوژیک را دارد بر روی گیت‌هاب منتشر شود، این پلتفرم باید تأییدیه‌ی دولت آمریکا را اخذ کند تا اطمینان حاصل شود که کاربران نمی‌توانند با اصلاح مدل، تدابیر امنیتی آن را نابود کنند.

نظارت بایستی در سطح پلتفرم‌های توزیع و اجرای مدل‌ها انجام پذیرد، نه به‌ضرورت در سطح تراشه‌ها. اگر به موقع این اقدام صورت نگیرد، مدل‌های قدرتمندی به دست افرادی خواهد افتاد که دیگر نمی‌توانیم فعالیت‌هایشان را کنترل کنیم.

نیلای پاتل: در حالی‌که ما نگران ایمنی هستیم، خود سازندگان مدل‌ها در مورد ماهیت آن‌ها به اختلاف نظر می‌رسند؛ مثلاً آنتروپیک به‌صراحت اعلام کرده است که ممکن است مدل Claude نوعی آگاهی داشته باشد، در حالی‌که مصطفی سلیمان در مایکروسافت به شدت با این دیدگاه مخالف است. در شرایطی که هنوز نمی‌دانیم آیا این سیستم‌ها آگاه‌اند یا نه، چگونه می‌توانیم آن‌ها را کنترل کنیم؟

بیل گیتس: تعریف AGI یا هوش مصنوعی عمومی و یا این که آیا این مدل‌ها آگاه هستند یا نه، از نظر ایمنی اصلاً اهمیت چندانی ندارد. اصولاً اصطلاح خودآگاهی در این معادله جایی ندارد؛ باید این سؤال ساده و واقعی را مطرح کنیم: «آیا ابزاری ساختید که می‌تواند سیستم بانکی یا شبکه برق کشور را مختل کند؟»

من این سیستم‌ها را نوعی هوش متفاوت از هوش انسانی در نظر می‌گیرم و به هیچ عنوان معتقد نیستم که دارای آگاهی یا شعور به معنای انسانی هستند. در این حوزه کاملاً با مصطفی سلیمان هم عقیده هستم که نباید قوانین مدل‌ها به‌گونه‌ای نوشته شود که به آن‌ها احساس زنده بودن ببخشد یا آن‌ها را مانند انسان‌ها با حقوق برابر برخورد کنیم.

ایجاد یک سیستم ناظر خارجی با دستورالعمل‌های شفاف نمادین، که در آن سیستمی خارج از مدل قرار گیرد و هر فعالیت آن را با محدودیت‌های مشخص بررسی کند؛ برای مثال، بپرسد آیا قرار بود شما به افراد ناآشنا ایمیل بفرستید؟ آیا من از شما خواسته بودم که کنترل یک خوشه کامپیوتری دیگر را به دست بگیرید؟

تغییر در روش‌های آموزش و هدف‌گذاری مدل‌ها، زیرا در روش‌های فعلی یادگیری تقویتی (RL)، هر چیزی که به‌صورت صریح در تابع هدف گنجانده نشده باشد، ممکن است مستعد سوءاستفاده و دور زدن باشد.

شفاف‌سازی درون مدل، به این معنا که باید به دانشی دست یابیم که امکان مشاهده درون جعبه سیاه مدل را فراهم آورد و دقیقاً تشخیص دهیم که یک خطا یا رفتار انحرافی از کجای شبکه عصبی ناشی می‌شود.

نیلای پاتل: بیایید به تأثیر اقتصادی بپردازیم. آیا مسیر کنونی می‌تواند به از بین رفتن گسترده مشاغل منجر شود؟ شما اشاره کرده‌اید که ممکن است لازم باشد برخی مشاغل را عمداً برای انسان‌ها نگه داریم و ظاهراً درباره همین ایده با خود هوش مصنوعی هم گفتگو کرده‌اید!

بیل گیتس: هوش مصنوعی به تدریج بسیاری از وظایف یقه‌سفید را بر عهده خواهد گرفت؛ از پاسخگویی به مشتریان و فروش تلفنی گرفته تا فعالیت‌های پیچیده‌تری مانند برنامه‌نویسی، تحقیق‌های ریاضی و تشخیص پزشکی. این فناوری می‌تواند بسیاری از این وظایف را به مراتب سریع‌تر، ارزان‌تر و حتی دقیق‌تر از انسان انجام دهد.

به رویدادهایی که هم‌اکنون در ریاضیات مشاهده می‌شود نگاه کنید. مدل‌هایی که در مقایسه با مدل‌های سال آینده خیلی ابتدایی هستند، همین حالا در تولید مقالات ریاضی فعال بوده و ریاضی‌دانان را شگفت‌زده کرده‌اند.

روندی که امروزه در ریاضیات مشاهده می‌شود، به دیگر حوزه‌ها نیز سرایت خواهد کرد. پیش از این تصور می‌کردیم که هوش مصنوعی فقط می‌تواند مسائل ساده‌ای را حل کند، اما اکنون یی رساله‌های پیچیده زیست‌شناسی و فیزیک یا اثبات مسائل سختی مانند معادلات ناویر-استوکس ممکن است دیگر به‌تنهایی در انحصار انسان باقی نماند. نظرم این است که دیگر نمی‌توانیم بر این باور باقی بمانیم.

ولی شغل برای انسان فقط منبع درآمد نیست. کار کردن به زندگانی ما معنای خاصی می‌بخشد، ارتباط ما با دیگران را تقویت کرده و حس مفید بودن را در ما ایجاد می‌کند. به همین دلیل، ممکن است در آینده تصمیم بگیریم که برخی مشاغل را به‌طور عمده برای انسان‌ها محفوظ داریم، حتی اگر هوش مصنوعی بتواند آن‌ها را به نحو بهتری انجام دهد؛ مثل مراقبت از کودکان، آشپزی، هنر یا ورزش. ممکن است تصمیم بگیریم که این فعالیت‌ها همواره به دست انسان‌ها انجام شود.

من با کلاد درباره دسته مشاغلی که می‌توانیم برای انسان‌ها محفوظ بداریم صحبت می‌کردم و می‌کوشیدم این سهم را مثلاً به ۴۰ درصد از بازار کار برسانم، تا به کمک بازنشستگی زودهنگام، محدود کردن هفته کاری و موارد مشابه، به وضعیتی مشابه امروز دست یابیم.

پاسخ کلاد همیشه این بود که «شما دارید به‌طور مصنوعی توانایی‌های هوش مصنوعی را محدود می‌کنید تا این کارها را انجام ندهد.» خوب، هر چه تلاش کردم، بدون ایجاد محدودیت‌هایی بر هوش مصنوعی، نمی‌توانستم سهم مشاغل انسانی را به چنین نسبتی برسانم.

نیلای پاتل: نسل جوان امروزی با نوعی بدبینی و پوچ‌گرایی به آینده می‌نگرد؛ اگر امروز شما جوان بودید و به بیل گیتس گوش می‌دادید که می‌گوید حدود ۲۰ سال پرآشوب در پیش داریم و در پایان آن هم ممکن است ربات‌ها خانه بسازند، به چه چیزی امید داشتید؟

بیل گیتس: در تاریخ بشر ما همیشه با مسائلی نظیر کمبود غذا، بیماری و جنگ مبارزه کرده‌ایم. اکنون فناوری‌ای در اختیار داریم که می‌تواند بسیاری از این مشکلات را حل کند، اما همزمان، نوع شغل و احساس‌مان نسبت به نقش منحصربه‌فرد خود را در جهان تغییر خواهد داد.

برای مثال، من بر این باورم که تجربه و توانایی‌هایی که در مبارزه با مالاریا به‌کار می‌برم، ویژگی‌های منحصربه‌فردی هستند. اما تصور کنید هوش مصنوعی به من بگوید: «نه، من از تو بهترم. تو برو پیکل‌بال بازی کن، من این کار را انجام می‌دهم!» این جمله شاید از دید شما خنده‌دار به نظر آید اما واقعاً به این شکل نیست. برای جوانی که می‌خواهد در زندگی کار مهمی انجام دهد، چنین آینده‌ای می‌تواند بسیار نگران‌کننده باشد.

از سوی دیگر، مزایا و معایب این فناوری همزمان ظهور نخواهند کرد. پیشرفت در درمان بیماری‌ها و کاهش هزینه‌های زندگی به زمان نیاز دارد، اما احتمالاً در عرض دو تا سه سال آینده، پیامدهای منفی چشمگیری در زمینه امنیت سایبری و بازار کار خواهیم دید.

در خصوص نگرانی‌هایی که جوانان درباره اختلالات و آشفتگی‌های پیش‌رو دارند، باید بگویم حتی در بهترین سناریوی ممکن، هر چقدر هم که ما هوش مصنوعی را به خوبی مدیریت کنیم، بیست سال آینده یکی از پرفجایع‌ترین و پرآشوب‌ترین دوران‌های تاریخ بشر خواهد بود، دورانی که به وضوح برندگان و بازندگان زیادی خواهد داشت.

فشار اجتماعی و روانی ناشی از این تغییرات می‌تواند آن‌قدر شدید باشد که جامعه را به دو دسته تقسیم کند؛ یک گروه با اشتیاق در خط مقدم فناوری زندگی خواهند کرد و گروه دیگر تصمیم به ترسیم مرزهایی به سبک جامعه آمیش‌ها (Amish) خواهند گرفت و بسیاری از این فناوری‌های جدید را رد خواهند کرد تا سبک زندگی سنتی و انسانی خود را حفظ کنند.

شاید پس از گذشت این بیست سال، به عصر وفور برسیم؛ عصری که بشر باید راهی برای سازمان‌دهی و دارا بودن هدف پیدا کند و امیدوارم هنوز بتوانیم اوضاع را به دست بگیریم. دورانی که در آن دیگر با کمبود پزشک، معلم، غذا یا داروهای پیشرفته برای بیماری‌های جدی مواجه نخواهیم شد.

از آن‌جایی که من واقعاً از مطرح کردن هشدارهای نگران‌کننده خوشم نمی‌آید، اما اگر به مردم نگویم که این اتفاقات در راه است، وضعیت بدتر خواهد شد. ما همچنان حق انتخاب انسانی داریم که چگونه آینده را شکل دهیم.