اخطار آنتروپیک درباره گام بعدی هوش مصنوعی؛ زمانی که ماشین، وارث خود را خلق میکند
یکی از پژوهشگران آنتروپیک پس از کار با ایجنتهای خودمختار در یک پروژه پیچیده نظرات خود را ابراز میکند: «کلاد این کار را بدون نیاز به کمک من در عرض یکی دو روز به انجام رساند. آینده اکنون در دسترس ما است.»
اکنون کُندی انسان در تأیید کدها بزرگترین مانع در برابر تندوری پردازشها به شمار میرود
اما سرعت فوقالعاده هوش مصنوعی در فرآیند کدنویسی و توسعه، بحران جدیدی را بههمراه دارد. در علوم کامپیوتر، قانونی به نام «قانون امداهل» (Amdahl’s law) وجود دارد که بیان میکند که حداکثر کارایی یک سیستم توسط کندترین بخش آن محدود میشود. با پایین آمدن قابل توجه زمان لازم برای تولید کد، اجرای آزمایش و استخراج نتایج، دقت در بررسی انسانی مختل میشود.
در حقیقت، با سرازیر شدن انبوهی از کدهای جدید، «فرآیند بررسی و تأیید نهایی کدها بهوسیله انسان» به یک گلوگاه و مانع در جریان توسعه تبدیل گردیده است. حالا مدلها به حدی ایده، ابزار و شبیهسازیهای جدید در ثانیه تولید میکنند که انسانها با مشکل در هدایت و بررسی آنها مواجه میشوند.
سه سناریو برای آینده ماشینها
آیا با توجه به سرعت حیرتآور اتوماسیون، گامهای بعدی در صنعت هوش مصنوعی به کدام سمت میروند؟ آیا این روند ترقی ادامه خواهد یافت و اگر چنین باشد، واکنش ما چه خواهد بود؟ نویسندگان گزارش آنتروپیک، سه سناریوی محتمل را برای آینده به تصویر میکشند:
مسیر اول؛ توقف روند و مواجهه با محدودیتهای فیزیکی: شاید روند نمایی پیشرفتها در واقع به شکل منحنیهای S باشد که بهزودی به حالت افقی و مسطح درخواهد آمد. در این سناریو، ممکن است که معماریهای فعلی مانند ترانسفورمرها به نقطهی اوج خود برسند و عبور از این بنبست، نیازمند کشفی تازه و بنیادی باشد.
شاید محدودیتهای زنجیره تأمین مانند کمبود تراشه یا ظرفیت شبکههای برق و پهنای باند پیش از رسیدن به مرزهای هوشمندی، موجب توقف توسعه شود.
محدودیتهای زنجیره تأمین و ساختار ترانسفورمرها میتواند شیب نمودارهای پیشرفت هوش مصنوعی را کاهش دهد
آنتروپیک معتقد است حتی اگر پیشرفت در زمینه هوش مصنوعی همین امروز و در همین سطح متوقف شود، هنوز هم دنیای ما دستخوش تغییرات عمیق و قابل توجهی خواهد شد؛ بهطور مثال، در پروژه Glasswing، مدل پیشنمایش Mythos توانست تنها در عرض چند هفته، بیش از ۱۰ هزار آسیبپذیری نرمافزاری حیاتی را در مهمترین سیستمهای جهانی شناسایی کند.
در چنین سطحی از بلوغ، یک استارتاپ با ۱۰۰ نفر میتواند به اندازه یک سازمان با ۱۰۰۰ نفر خروجی داشته باشد؛ چراکه هر کارمند در راس سلسلهای از ایجنتهای خودمختار قرار دارد. با این حال، هنوز شواهدی مبنی بر کند شدن روند رشد مشاهده نشده و این امر احتمال وقوع سناریوی اول را به شدت کمرنگ میکند.
مسیر دوم؛ شتاب مرکب و بهرهوری بیپایان: سناریویی که بهنظر میرسد هماکنون در آن قرار داریم، زمانی که توسعهی سیستمها بهطور عمده بهصورت خودکار انجام میشود؛ اما انسانها همچنان میتوانند جهتگیریهای تحقیقاتی را معین و نتایج را ارزیابی کنند.
در چنین دنیایی، شرکتهای ۱۰۰ نفره میتوانند اقداماتی را انجام دهند که پیشتر نیازمند ۱۰هزار یا حتی ۱۰۰هزار نیروی انسانی بود. در اولین مرحله، خدمات عمومی و وظایف دانشی در مقیاس وسیع دچار تحول میشوند.
ابزارهای نظارت و کنترل با هزینهای ناچیز به دست نهادهای سودجو میرسد
با این حال، مسیر دوم با جنبههای تاریکی نیز همراه است که نمیتوان آن را نادیده گرفت. ابزارهای نظارت و کنترل که پیشتر به لشکری از نیروی انسانی نیاز داشتند، اکنون با هزینهای اندک به دست افراد تمامیتخواه میافتند تا بهصورت شخصیسازی شده با عملیات تأثیرگذاری روانی بر روی هر یک از اعضای جامعه اقدام کنند، در مقیاسی که هیچ گروه انسانی قادر به رقابت با آن نیست.
در نهایت، نقش انسان در شرکتهای پیشرو عمدتاً به تلاش برای اعتبارسنجی خروجیهای ماشینی تقلیل مییابد.
مسیر سوم؛ خودبهبودی عمده و حذف انسان: افراطیترین و در عین حال نگرانیآورترین سناریو از نظر آنتروپیک به دورهای اشاره میکند که سیستمها میتوانند با بهکارگیری قابلیتهای معادل نبوغ انسانی، مدلهای جانشین خود را طراحی، اصلاح و توسعه دهند. ماشینها تبدیل به طراحان و توسعهدهندگان ماشینهای بعدی خود خواهند شد.
در جهانی که با پیمودن مسیر سوم ایجاد میشود، سرعت پیشرفت هوش مصنوعی تنها به میزان توان محاسباتی آن بستگی خواهد داشت. انسانها از چرخه توسعه کنار گذاشته میشوند و فقط بهعنوان ناظران در یک آزمایشگاه مجازی وسیع نقش خواهند داشت. پیشرفتهایی که از این مسیر حاصل میشود به سرعت به دیگر حوزههای علمی انتقال خواهد یافت و نرخ تولید دانش و شکوفایی علمی را بهطرزی بیسابقه افزایش خواهد داد.
آیا مدلهای خودمختار قادر به توسعهی اخلاقیات و ارزشهای انسانی نیز خواهند بود؟
گرچه در این مرحله آنتروپیک نسبت به موضوع همراستایی هشدار میدهد؛ زمانی که خود ماشینها، ماشینهای آینده را طراحی میکنند آیا میتوانند آنقدر خردمند باشند که اخلاقیات و ارزشهای انسانی را توسعه دهند و در صورت نیاز روند پیشرفت را کنترل کنند؟ یا این احتمال وجود دارد که خطاهای نادر و جزئی موجود در مدلهای کنونی در پروسه خودبهبودی سیستمها جمع شوند و در طول زمان به مرحلهای برسند که بشر کنترل ماشینها را تا ابد از دست بدهد؟
به اعتقاد پژوهشگران آنتروپیک، پیشبینی اقتصاد و سازوکارهای چنین جهانی عملاً غیرممکن است؛ زیرا با قدرتگرفتن ماشینهایی که خود را بهبود میبخشند، کار انسانی هیچ رقابتی در بازار نخواهد داشت.
تأثیر هوش مصنوعی بر جهان واقعی؛ سرعت سیلیکونی، ریتم انسانی
گزارش آنتروپیک با نگاهی واقعبینانه خاطرنشان میسازد که حتی اگر ماشینها در آزمایشگاههای دیجیتال به سطح خودبهبودی برسند و هوش خود را در کسری از ثانیه ارتقا دهند، تعامل آنها با دنیا و جوامع انسانی بهطور قابل توجهی سرعت آنها را محدود خواهد کرد. در واقع، اینجا هم با تأثیر «قانون امداهل» مواجهیم؛ اما اینبار نه در کدهای برنامهنویسی، بلکه در ساختارهای زیستی و اجتماعی انسان.
