مدیر اجرایی مایکروسافت: همه مدل‌های هوش مصنوعی را دارای آسیب‌پذیری بدانید

پیشرفت سریع دنیای هوش مصنوعی به نگرانی‌های فزاینده‌ای درباره‌ی امکان کنترل‌ناپذیری مدل‌های پردازشی دامن می‌زند. ساتیا نادلا، مدیرعامل مایکروسافت، با نگارش یادداشتی جامع در پلتفرم اجتماعی ایکس، نظرات مهمی را در خصوص خطرات بالقوه‌ی این مدل‌های پیشرفته مطرح ساخته و پیشنهاداتی را برای مدیریت چالش‌های پیش‌رو ارائه کرده است.

نادلا بر این باور است که دیگر نمی‌توان فناوری‌های نوین را صرفاً به‌عنوان مجموعه‌ای از جعبه‌های سیاه پیچیده تلقی کرد که انسان تنها می‌تواند یا آنها را بپذیرد یا در برابر خروجی‌هایشان واکنش نشان دهد.

این مدیر ارشد مایکروسافت تأکید دارد که نگرش امنیتی مهندسان باید دچار تحول شود و تمامی مدل‌ها از ابتدای ساخت باید به‌عنوان سیستم‌هایی قابل نفوذ در نظر گرفته شوند. به عقیده‌ی او، طراحی ساختار سیستم‌های مدرن می‌بایست به گونه‌ای انجام گیرد که بتوان کنترل کامل، نظارت مداوم و ثبت شواهد غیرقابل‌دستکاری را برای انسان مهیا کند.

اکثر توصیه‌های نادلا به شکل قابل توجهی با استراتژی‌های رایج در صنعت تکنولوژی همخوانی دارد. محورهای اصلی پیشنهادهای وی شامل موارد زیر است:

• افشای فوری و شفاف رویدادها و نقاط ضعف امنیتی.
• اجرای حسابرسی‌های مستقل نسبت به عملکرد مدل‌ها.
• استفاده از داده‌های قابل‌راستی‌آزمایی.
• اعمال تدابیر مهار جامع.

نادلا در بحث مهار، فراتر از رویکردهای رایج رفته و با معرفی مفهوم ترمز اضطراری یادآور شد: «بایستی فرض کنیم که مدل از همان ابتدا مستعد نفوذ و تغییر است و آن را تحت کنترل قرار دهیم. این رویکرد می‌تواند همچون یک ترمز اضطراری عمل کند. فرد دارای صلاحیت باید همواره امکان توقف یا غیرفعال کردن سیستم‌ها را در هر زمان که نیاز بود، داشته باشد. مدل‌های پیچیده‌تر به فناوری‌های پیشرفته‌تری برای مهار نیاز دارند و باید درباره‌ی آنها به یک استاندارد مشخص دست پیدا کنیم.»

نکته‌ی قابل توجه در پست مدیرعامل مایکروسافت، اشاره‌ی مکرر به اصطلاح ابرهوش است؛ واژه‌ای که نشان‌دهنده‌ی نگرش جدی غول‌های فناوری به آینده‌ی نگران‌کننده سیستم‌ها می‌باشد و به ضرورت تعیین پروتکل‌های سخت‌گیرانه برای مقابله با خطرات غیرقابل‌پیش‌بینی تأکید می‌ورزد.