نادلا: تصور کنید که سیستم هوش مصنوعی شما دچار نفوذ شده است؛ اکنون به یک راه نجات فوری نیاز دارید

ساتیا نادلا، که به‌عنوان رئیس هیئت مدیره و مدیرعامل مایکروسافت فعالیت می‌کند، در روز شنبه بر لزوم طراحی سیستم‌های هوش مصنوعی پیشرفته تأکید کرد؛ سیستم‌هایی که باید شامل مکانیزم‌های بازدارنده، نظارت مستقل و یک “ترمز اضطراری” باشند. این سازوکار به افراد مجاز اجازه می‌دهد تا در میانه یک وظیفه، مدل را متوقف یا خاموش کنند.

به نقل از ایتنا، نادلا این نظر را در یک یادداشت جامع در شبکه اجتماعی ایکس منتشر نمود. او در این یادداشت اشاره کرد که اکنون زمان آن فرارسیده که صنعت هوش مصنوعی “معماری اعتماد” خود را دوباره مورد بررسی قرار دهد و دیگر نباید به سامانه‌های هوش مصنوعی پیشرفته همچون جعبه‌های سیاه انحصاری نگاه کرد که فقط می‌توان نتیجه‌ها، پاسخ‌ها و اعمال آنها را پذیرفت یا رد کرد.

طبق نوشته نادلا، لازم است همواره فرض کنیم که یک مدل هوش مصنوعی ممکن است با خطر نفوذ یا اختلال مواجه شود و بنابراین باید از همان آغاز مکانیزم‌های مهار آن را پیاده‌سازی کرد. او این استراتژی را با مفهوم ترمز اضطراری مقایسه کرده و تأکید کرد که با پیشرفت مدل‌ها، نیاز به فناوری‌های مهار پیچیده‌تر و استانداردتر نیز افزایش خواهد یافت.

 

معماری مستند بر عدم‌اطمینان به مدل

بر اساس این گزارش، نادلا پیشنهاد کرد که لایه هماهنگ‌کننده باید کاملاً مجزا از خود مدل قرار گیرد و کنترل دسترسی‌ها و اقدامات مدل باید در خارج از آن باشد. او همچنین خواستار ثبت تمام اقدامات حیاتی مدل به‌صورت گزارشی غیرقابل‌دستکاری و قابل‌فهم برای انسان‌ها شد.

 

مدیرعامل مایکروسافت بیان کرد که قابل‌اعتمادترین سیستم‌های هوش مصنوعی در آینده، آنهایی نخواهند بود که به خود مدل بیشترین اعتماد را دارند، بلکه سیستم‌هایی خواهند بود که کمترین وابستگی را به اعتماد به مدل دارند. او اصول “قابلیت رصد” (observability) را به‌عنوان یکی از ارکان این رویکرد معرفی کرد.

نگرانی‌های گسترده‌تر در مورد ایمنی هوش مصنوعی

این سخنان نادلا در شرایطی ابراز می‌شود که برخی از مدیران و محققان برجسته حوزه فناوری، از جمله بیل گیتس (بنیان‌گذار مایکروسافت)، داریو آمودی (مدیرعامل آنتروپیک)، سم آلتمن (مدیرعامل اوپن‌ای‌آی) و ایلان ماسک (مدیرعامل اسپیس‌ایکس)، به کرّات در خصوص ناکافی بودن پروتکل‌های ایمنی در حوزه هوش مصنوعی و سرعت زیاد پیشرفت این فناوری هشدار داده‌اند.

در همین راستا، دونالد ترامپ، رئیس‌جمهور سابق ایالات متحده، به‌طور قبلی با هرگونه کندی در روند توسعه هوش مصنوعی در کشورش مخالفت کرده، هرچند دولت او به‌طور هم‌زمان یک کارگروه ویژه با محوریت ایمنی هوش مصنوعی ایجاد کرده است.

در قسمتی از یادداشت خود، نادلا تأکید کرد که نهادهایی که از هوش مصنوعی‌های پیشرفته استفاده می‌کنند، نباید تنها به تضمین‌هایی که از سوی سازندگان مدل‌ها ارائه می‌شود اکتفا کنند و باید مسئولیت ایجاد لایه‌های مهار و نظارت را به‌عهده بگیرند.