۱۰. تکنیک مخفی‌کردن متن از چشم انسان حالا به سلاح اسپمرها تبدیل شده است
یک تکنیک نسبتاً عجیب Unicode که قبلاً بیشتر در حملات علیه مدل‌های هوش مصنوعی مورد توجه پژوهشگران امنیتی قرار داشت، حالا توسط اسپمرها نیز استفاده می‌شود.
این تکنیک معمولاً با عنوان ASCII Smuggling شناخته می‌شود.
ایده اصلی آن این است که مهاجم متنی ایجاد کند که کامپیوتر قادر به خواندن آن باشد، اما کاربر انسانی عملاً چیزی نبیند.
ماجرا به بخشی شامل ۱۲۸ کاراکتر Tag در Unicode مربوط می‌شود. این کاراکترها از نظر عملکرد می‌توانند مجموعه‌ای از نویسه‌های مشابه ASCII را نمایش دهند، اما یک تفاوت مهم دارند: کاراکترهای کدشده برای نرم‌افزار قابل خواندن هستند ولی در نمایش عادی تقریباً کاملاً از چشم انسان پنهان می‌مانند.
این قابلیت پیش‌تر برای Prompt Injection مخفی در سیستم‌های هوش مصنوعی مورد استفاده قرار گرفته بود.
برای مثال مهاجم می‌تواند ایمیلی ایجاد کند که برای کاربر کاملاً طبیعی به نظر برسد، اما در بخشی نامرئی از متن دستورهایی برای مدل هوش مصنوعی قرار داده باشد.
اگر یک دستیار AI ایمیل را بخواند، ممکن است دستور مخفی را نیز پردازش کند، در حالی که صاحب ایمیل اصلاً از وجود آن خبر ندارد.
اکنون محققان مشاهده کرده‌اند که اسپمرها نیز از همین تکنیک استفاده می‌کنند.
این مسئله می‌تواند برای فیلترهای ضداسپم، موتورهای تحلیل محتوا و ابزارهای امنیتی دردسر ایجاد کند زیرا آنچه کاربر می‌بیند الزاماً همان چیزی نیست که نرم‌افزار در داده خام دریافت می‌کند.
اهمیت ماجرا با افزایش استفاده از AI Agentها بیشتر می‌شود. اگر ایجنت‌ها به ایمیل، اسناد، صفحات وب یا پیام‌های کاربران دسترسی داشته باشند، مهاجم می‌تواند تلاش کند دستورهایی نامرئی را در همان محتوا مخفی کند.
به همین دلیل Prompt Injection اکنون فقط مسئله‌ای مربوط به چت‌بات‌ها نیست؛ بلکه به یکی از موضوعات مهم امنیت سیستم‌هایی تبدیل شده که اجازه می‌دهند مدل هوش مصنوعی به ابزارهای واقعی دسترسی داشته باشد.
