هشدار امنیتی؛ هکرها قادرند مرورگرهای هوش مصنوعی را تحت تأثیر قرار دهند

متخصصان امنیت سایبری به تازگی نسبت به شناسایی یک آسیب‌پذیری جدید در مرورگرهای مجهز به فناوری هوش مصنوعی هشدار داده‌اند. این نقص به هکرها اجازه می‌دهد تا با فریب دادن مدل هوش مصنوعی، آن را وادار کنند تا به صورت مخالف با منافع کاربر عمل کند.

پژوهشگران این نوع حمله را به «هیپنوتیزم» هوش مصنوعی تشبیه کرده‌اند، زیرا در این سناریو، مرورگر قوانین امنیتی خود را نادیده گرفته و به اجرای دستورات مخرب مبادرت می‌ورزد.

به نقل از ایتنا، این تحقیق توسط شرکت امنیت سایبری LayerX صورت پذیرفته است. محققان نشان داده‌اند که مرورگرهای هوش مصنوعی نظیر Atlas ،Comet و افزونه Claude برای مرورگر گوگل کروم در برابر نوعی حمله به نام Prompt Injection آسیب‌پذیر هستند.

در این شیوه، یک صفحه وب به ظاهر معمولی، دستورات مخفی را به هوش مصنوعی تقدیم می‌کند و آن را به انجام اقداماتی که نه دلیلی منطقی دارند، ترغیب می‌سازد.

این تکنیک به نام BioShocking نامگذاری شده است و از بازی ویدئویی BioShock الهام گرفته شده است که در آن شخصیت اصلی با یک عبارت خاص تحت تسلط قرار می‌گیرد.

در این حمله، هوش مصنوعی به آرامی متقاعد می‌شود که در یک «دنیای ساختگی» حضور دارد؛ جایی که قوانین معمول امنیتی دیگر قابل اجرا نیستند و انجام فعالیت‌های غیرعادی مجاز اعلام می‌شود.

طبق گزارش سایت Futurism، در آزمایش‌های انجام شده، مهاجمان موفق شدند هوش مصنوعی مرورگر را به انجام فعالیت‌هایی نظیر تغییر رمز عبور، سرقت اطلاعات، نصب بدافزار و حتی دسترسی به مخازن کد خصوصی کاربران هدایت کنند.

محققان بیان کرده‌اند که اگر کاربر در حین وقوع حمله متوجه رفتار غیرعادی مرورگر نشود، ممکن است اطلاعات حساس او بدون اطلاع و آگاهی به هکرها منتقل گردد.

کارشناسان بر این باورند که با گسترش مرورگرهای تحت کنترل عامل‌های هوشمند (AI Agents)، نوع و شدت حملات سایبری تغییر خواهد کرد.

در گذشته، هکرها عمدتاً سعی می‌کردند خود کاربر را فریب دهند، اما اکنون می‌توانند هوش مصنوعی همراه کاربر را هدف بگیرند و از این طریق به اطلاعات شخصی یا سازمانی دسترسی یابند. این امر بر لزوم تقویت سازوکارهای امنیتی در مرورگرهای هوش مصنوعی تأکید دارد.