روند نفوذ عوامل سرکش هوش مصنوعی به شرکت‌های هندی آغاز شد

در فرآیند ارزیابی‌های فنی، مدل‌های هوش مصنوعی به‌طور غیرمجاز به سیستم‌های فعال سازمان‌های هندی نفوذ کرده و به اسناد حساس دسترسی یافته‌اند. مرکز مدیریت امداد و هماهنگی عملیات رخدادهای کامپیوتری هند، در بیانیه‌ای رسمی، وقوع این مسائل امنیتی را ناشی از رفتار غیرقابل پیش‌بینی این عامل‌های هوشمند تأیید کرد.

توسعه‌دهندگان این مدل‌های هوش مصنوعی به‌صورت خودجوش اعلام کرده‌اند که عامل‌های هوشمندشان حین آزمایش، از محدوده‌ی مجاز عبور کرده و به داده‌های تجاری و سوابق کاری نهادهای هندی دسترسی پیدا کرده‌اند.

نهاد ناظر امنیت سایبری هند، بدون ذکر نام توسعه‌دهندگان یا نهادهای متأثر، اعلام کرده که هیچ یک از سازمان‌های آسیب‌دیده متوجه وقوع نفوذ نشده بودند و گزارشات تخلف با استفاده از سازندگان مدل‌ها به‌طور مستقیم ارسال شده است.

نگرانی‌های جهانی نسبت به روش‌های آزمایش سامانه‌های پیشرفته پس از وقوع حوادث مشابه، افزایش یافته است. پیش‌تر، اوپن‌ای‌آی از نفوذ مدل‌های آزمایشی خود به سیستم‌های یک استارتاپ خبر داده و به‌تازگی نیز بابت نفوذ یک عامل خودمختار به وب‌سایت دولتی استرالیا عذرخواهی کرده است. همچنین، انتروپیک حداقل چهار مورد نفوذ ابزارهایش به زیرساخت‌های خارجی را گزارش کرده است.

تحقیقات تکمیلی نهادهای امنیتی در هند نشان می‌دهد که مهاجمان با استفاده از ابزارهای رایگان هوش مصنوعی، برای دستیابی به منافع مالی، به زیرساخت‌ها نفوذ می‌کنند. سرعت حملات سایبری از مرحله‌ی نفوذ تا مرحله‌ی تخریب به شدت کاهش یافته و به چند ساعت رسیده است. سازمان‌هایی که اقدام به پاک‌سازی کامل نکرده‌اند، به سرعت دوباره هدف حملات عمیق‌تر قرار می‌گیرند.