هشدار آنتروپیک در خصوص نزدیک شدن هوش مصنوعی به سطح خودتحسینی؛ آیا مدیریت AI پیچیده‌تر خواهد شد

شرکت آنتروپیک به تازگی هشدار داده است که ممکن است هوش مصنوعی به زودی به مرحله‌ای برسد که با استفاده از قابلیت‌های خود، فرایند یادگیری و پیشرفت نسل‌های آینده مدل‌ها را به طرز قابل‌توجهی تسریع کند. این وضعیت که به عنوان «خودبهبودی بازگشتی» (RSI) شناخته می‌شود، نویدبخش دستاوردهای عظیم فناوری است و همزمان مسائل جدی درباره امنیت و کنترل هوش مصنوعی را به وجود می‌آورد.

این هشدار در نسخه ویرایش‌شده گزارش ثبت عرضه سهام آنتروپیک (S-1A) منتشر شده است؛ گزارشی که علاوه بر ارائه اطلاعات مالی شرکت، به برخی از خطرات بالقوه ناشی از توسعه سریع هوش مصنوعی نیز اشاره می‌کند.

خودبهبودی بازگشتی به حالتی اطلاق می‌شود که در آن یک سیستم هوش مصنوعی قادر است با استفاده از توانایی‌های خود، فرایند آموزش و توسعه نسل‌های بعدی را بهبود بخشد. در این سناریو، پیشرفت مدل‌ها می‌تواند با سرعتی افزایشی ادامه یابد و ظرفیت‌های هوش مصنوعی در مدت زمان کوتاهی به صورت قابل‌توجهی افزایش یابد.

منتقدان هوش مصنوعی معتقدند که تحقق این سناریو می‌تواند تبعات خطرناکی داشته باشد؛ زیرا ممکن است سیستم‌هایی به وجود آیند که قابلیت‌های آنها از توانایی‌های نظارتی و کنترلی انسان فراتر برود. در مقابل، حامیان این فناوری بر این باورند که خودبهبودی بازگشتی می‌تواند به افزایش بهره‌وری، تسریع اکتشافات علمی و دستیابی به پیشرفت‌های بزرگی منجر شود که در شرایط عادی نیاز به زمان بیشتری دارد.

آنتروپیک همچنین هر دو جنبه این تحولات را جدی ارزیابی می‌کند. این شرکت در گزارشش تأکید نموده که در حال حاضر از سیستم‌های هوش مصنوعی در فرایند تحقیق و توسعه داخلی خود استفاده می‌کند، اما همزمان هشدار داده است که این رویکرد می‌تواند خطرات قابل‌توجهی از نظر ایمنی به همراه داشته باشد.

بر اساس اظهارات آنتروپیک، به کارگیری هوش مصنوعی جهت توسعه مدل‌های قدرتمندتر ممکن است سرعت پیشرفت فناوری را از توانایی شرکت‌ها برای طراحی، اعتبارسنجی و اجرای تدابیر ایمنی فراتر ببرد.

این شرکت همچنین در گزارش جدید خود به یک نکته کلیدی اشاره کرده است: آنتروپیک در گذشته نتوانسته بود شتاب‌های قابل‌توجه در روند توسعه برخی از قابلیت‌های هوش مصنوعی را تا پیش از وقوع به درستی تشخیص دهد. از این رو، این احتمال وجود دارد که در آینده نیز نتواند به‌موقع پیشرفت واقعی مدل‌های خود را شناسایی کند.

بخش دیگری از گزارش نشان می‌دهد که برآوردهای داخلی آنتروپیک در مورد مدل‌های آینده بیانگر این است که این شرکت به آستانه‌ای نزدیک می‌شود که در سیاست «مقیاس‌پذیری مسئولانه» خود به عنوان «پیشرفت بسیار شتاب‌یافته نسبت به هوش مصنوعی» تعریف شده است.

با این وجود، آنتروپیک بر این نکته تأکید کرده که هیچ‌یک از مدل‌های کنونی این شرکت هنوز از این آستانه عبور نکرده و ارزیابی داده‌ها در این زمینه همچنان ادامه دارد.

این شرکت همچنین اعلام کرده که در آینده نزدیک، نخواهد گذاشت توسعه نسل‌های متوالی مدل‌های پیشرفته به طور کامل بر عهده هوش مصنوعی باشد. به گفته آنتروپیک، حتی اگر از نظر فنی امکان طراحی و تولید مدل‌های جدید بدون دخالت قابل‌توجه انسان فراهم شود، این شرکت قصد دارد نظارت انسانی بر این فرایند را حفظ کند.

آنتروپیک همچنین از بررسی تغییراتی در سیاست مقیاس‌پذیری مسئولانه خود خبر داده است تا اطمینان حاصل کند کنترل بر توسعه مدل‌های پیشرفته همچنان در دستان انسان‌ها باقی می‌ماند.

با این حال، برخی منتقدان بر این باورند که گزارش‌های ثبت عرضه سهام علاوه بر افشای اطلاعات و خطرات بالقوه، می‌توانند جنبه تبلیغاتی نیز داشته باشند؛ بنابراین باید با احتیاط بر روی ادعای نزدیک شدن به مرحله خودبهبودی بازگشتی تمرکز کرد.

بر اساس گزارش Techcrunch، با وجود این ملاحظات، پیشرفت‌های قابل‌توجه مدل‌های کلود (Claude)، به‌ویژه در زمینه‌های برنامه‌نویسی، ریاضیات و امنیت سایبری، نشان‌دهنده گسترش سریع قابلیت‌های هوش مصنوعی آنتروپیک در سال جاری است. اگر پیش‌بینی‌های این شرکت درباره نزدیکی به خودبهبودی بازگشتی صحیح باشد، موضوع نظارت و تدوین مقررات برای توسعه هوش مصنوعی اهمیت دوچندانی خواهد یافت.