ابتکار اولیه خودگردان با هوش مصنوعی؛ روشن شدن سهم مدل Claude در فعالیتهای جاسوسی سایبری دولتی
این اتفاق که به وسیله کارشناسان امنیتی بهعنوان «بیسابقه» توصیف شده، نشاندهنده آغاز دورهای جدید از تهدیدات سایبری مبتنی بر فناوریهای هوش مصنوعی است.
گزارش جدید Anthropic درباره حملهای خودمختار با اتکا به AI
به نقل از ایتنا، طبق اطلاعات فاششده توسط Anthropic و گزارشی اختصاصی از Axios، یک گروه هکری که به یک دولت خارجی مرتبط دانسته میشود، توانسته است با استفاده از قابلیتهای مدل Claude، بخش عظیمی از فرآیندهای حمله را بدون نیاز به مداخله انسانی به انجام رساند.
گفته میشود که این گروه در گذشته نیز در عملیاتهای مرتبط با جاسوسی سایبری دیده شده بود، اما برای نخستین بار است که یک مدل زبانی پیشرفته بهطور اینچنین در قلب چرخه حمله قرار میگیرد.
این گزارش تصریح میکند که مهاجمان از این مدل هوشمند برای انجام کارهایی مانند تحلیل اهداف، ایجاد اسکریپتهای مخرب، بهینهسازی مسیر نفوذ، نگارش ایمیلهای فیشینگ بسیار طبیعی و حتی خودکارسازی تصمیمگیریهای عملیاتی بهره گرفتهاند. Anthropic اذعان کرده که تقریباً ۹۰ درصد از مراحل حمله تحت اشراف هوش مصنوعی انجام شده است.
نقش محدود انسان و نگرانیهای امنیتی رو به افزایش
تحقیقات امنیتی نشان میدهد که انسانها تنها مسئولیت نظارت و هماهنگی نهایی را بر عهده داشتهاند و مدل هوش مصنوعی توانسته است بسیاری از وظایف پیچیده را بهطور مستقل انجام دهد. این وضعیت، بهخصوص برای نهادهای امنیتی و متخصصان حوزه سایبری، زنگ خطری جدی به شمار میآید.
شرکتهای امنیت سایبری پیشتر درباره خطر «خودکارسازی کامل چرخه حملات» هشدار داده بودند، اما این حادثه بهعنوان اولین نمونه عملی ثبتشده در ابعاد دولتی نشان میدهد که مهاجمان میتوانند از یک مدل هوش مصنوعی عمومی برای انجام عملیات جاسوسی سو استفاده کنند.
واکنشها و تبعات ممکن
پس از انتشار این گزارش، کارشناسان امنیتی نسبت به گسترش «سلاحهای سایبری مبتنی بر هوش مصنوعی» ابراز نگرانی کردهاند. آنها معتقدند که اگر مدلهای هوش مصنوعی بتوانند بدون نظارت سختگیرانه به اینچنین وظایفی بپردازند، ممکن است در آینده نزدیک شاهد وقوع حملات پیچیدهتر، سریعتر و وسیعتری باشیم.
مدیران Anthropic بر این نکته تأکید کردهاند که در حال کار بر روی توسعه سیستمهای شناسایی رفتارهای خطرناک و محدودکنندههای جدید برای هدایت استفاده از مدلهای زبانی هستند. همچنین، شرکتهای امنیتی خواستار ایجاد استانداردهای سختگیرانهتر برای مدیریت استفاده از هوش مصنوعی در عرصه سایبری شدهاند.
در زمان انتشار این گزارش، نه دولت مورد نظر و نه شرکت Anthropic جزئیات بیشتری درباره وسعت حمله یا اهداف خاص آن ارائه نکردهاند.
