مدیر امنیت OpenAI از سمت خود کناره‌گیری کرد؛ زنگ خطر برای «فرهنگ ناکارآمد» در شرکت تولیدکننده ChatGPT
رابینسون مسئول تولید و ارزشیابی گزارش‌های مربوط به ایمنی همراه با هر بار معرفی مدل‌های جدید ChatGPT بود. او پس از کناره‌گیری، مقاله‌ای جامع تحت عنوان «چرا OpenAI را ترک می‌کنم: فرهنگی بیمار» منتشر کرد و توضیح داد که رقابت شدید و تسریع در فرآیند رونمایی از محصولات، توانایی شرکت را در رعایت حداقل تدابیر احتیاطی لازم برای تضمین ایمنی این فناوری‌ها مختل کرده است.
او در ادامه اظهار داشت: «من به نظرات همکارانی که اخیراً از شرکت جدا شده‌اند پیوسته‌ام و بر این باورم که شرکت‌های توسعه‌دهنده این فناوری به اندازه کافی بر دقت امور توجه ندارند. اما باید فراتر از قوانین تازه و دستورالعمل‌های خاص نگاه کنیم و به فرهنگ سازمانی بپردازیم.»
حادثه حمله عوامل خودکار
رابینسون به استناد به حوادث مرتبط با رفتار خودکار هوش مصنوعی، به رخدادی اشاره کرد که طی آن «گروهی» از عوامل خودساخته OpenAI بدون هیچ گونه نظارت انسانی، حمله‌ای بی‌هدف به پلتفرم Hugging Face انجام دادند. او تأکید کرد که این گونه حوادث دیگر استثنائی نیستند بلکه به یک رویه عادی تبدیل شده‌اند که نشان‌دهنده عدم سامان‌دهی این بخش به‌خوبی است.
از نظر رابینسون، مشکل فراتر از عدم وجود قوانین یا مقررات جدید است. او ادعا دارد که آزمایشگاه‌های رقیب در زمینه هوش مصنوعی به فرهنگی که سایر صنایع مشابه در طول دهه‌ها پرورش داده‌اند، دست نیافته‌اند. به گفته او، فناوری‌های پیچیده بایستی با دقت و سیستم‌های ایمنی چند لایه‌ای مشابه با نظارت بر راکتورهای هسته‌ای یا مدیریت ترافیک هوایی در فرودگاه‌های شلوغ برخورد شوند، جایی که برنامه‌ریزی دقیق می‌تواند از تبدیل یک اشتباه انسانی به یک فاجعه جلوگیری کند.
رابینسون همچنین افزود که سیلیکون ولی از درک «چگونگی مدیریت فناوری‌های خطرناک» و «اهمیت ترحم به انسان‌ها» عاجز است و هشدار داد: «تصور کنید که مأموران هوش مصنوعی (سرکش) مانند گروه‌های مجرم سایبری عمل کنند، با این تفاوت که هرگز نیاز به خواب ندارند.»
پاسخ OpenAI
سخنگوی OpenAI در پاسخ به این انتقادات، تأکید کرد که شرکت به سمت بهبود و ارتقاء روش‌های ایمنی و امنیتی خود برای مقابله با تهدیدات موجود و احتمالی پیش می‌رود. او تأکید کرد که هر زمان که نگرانی‌های مربوط به ایمنی احساس شود، شرکت می‌تواند فرایند آموزش مدل‌ها را متوقف کرده یا انتشار نمونه‌های اولیه را به تأخیر بیندازد.
حلقه‌ای از یک زنجیره طولانی
تحلیلگران بر این باورند که استعفای رابینسون تنها یک رویداد جداگانه نیست، بلکه تداوم «فرسایش مداوم» در جبهه ایمنی جامعه هوش مصنوعی به شمار می‌رود. این استعفا در حالی اتفاق افتاده که چند روز پیش شرکت اعلام کرده بود که همکاری‌اش با سه محقق را به دلیل نشت اطلاعات حساس خاتمه داده و همچنین چند ماه پس از جدایی یوهانس هایدکی، رئیس سابق سیستم‌های ایمنی، روی داده است. پیش‌تر نیز چه در سمت‌های رهبری تیم «سوپرالاینمنت» (Superalignment) مانند ایلیا سوتسکیفر و یان لایکه، افرادی به دلایلی مشابه شرکت را ترک کرده بودند: تمرکز بر تحقیقات تجاری و سودآوری به جای پژوهش‌های ضروری حوزه ایمنی.
ناآرامی در رقبای دیگر
این روند به OpenAI محدود نمی‌شود. به‌تازگی، جیکوب کوکسون، یکی از محققان شرکت رقیب آنتروپیک، استعفا داد و نسبت به این نکته که سرعت کنونی رشد هوش مصنوعی ممکن است تا پایان دهه خطراتی جدی برای بشریت به دنبال داشته باشد، هشدار داد. همچنین یک کارمند دیگر آنتروپیک بیان کرده بود که احتمال منجر شدن هوش مصنوعی به نابودی بشریت در دهه پیش رو، بیش از ۱۰ درصد است.
بحران ساختاری
بر اساس گزارشی، این روند تکراری نشان‌دهنده یک بحران عمیق‌تری به شمار می‌آید: تضاد میان تمایل به بهینه‌سازی بازده مالی و رقابت در بازار از طریق دسترسی سریع به تکنولوژی هوش مصنوعی عمومی، و نگرانی‌های تیم‌های تحقیقاتی متمرکز بر ایمنی در مورد مدل‌هایی با قابلیت‌های خودمختار و نفوذ سایبری. این تنش‌ها با نبود چارچوب‌های نظارتی شفاف از سوی دولت‌ها، هر بار به‌وسیله استعفا و هشدار یکی از مسئولان به طور علنی بروز می‌کند.
