هشدار جدی از سوی آنتروپیک؛ احتمال نفوذ هوش مصنوعی به دستگاه‌های هوشمند خانگی
بر اساس گزارشی از ایتنا، شرکت آنتروپیک (Anthropic)، سازنده چت‌بات کلود (Claude)، در مورد ظهور یک نسل جدید از تهدیدات سایبری که به «کرم‌های هوش مصنوعی» مشهور است، هشدار داده است. این نرم‌افزارها می‌توانند بدون نیاز به دخالت انسانی، خود را تکثیر کرده و در میان دستگاه‌های متصل به اینترنت گسترش یابند.
تحقیقات ایمنی این شرکت که در روز دوشنبه ۱۲ اکتبر(۲۰ مهر) انتشار یافته، نشان می‌دهد که تنها چند ماه دیگر ممکن است مدل‌های کوچک هوش مصنوعی به توانایی تکثیر مستقل و توزیع در دستگاه‌های مختلف دست یابند.
این هشدار به‌ویژه در مورد تجهیزات خانه هوشمند مطرح است؛ دستگاه‌هایی نظیر تلویزیون‌های هوشمند، اجاق‌های متصل به اینترنت و جاروبرقی‌های رباتیک که با اتصال دائمی به شبکه، می‌توانند هدف مناسبی برای این تهدیدات به شمار آیند.
تکثیر بدون دخالت انسان؛ چالش جدیدی برای امنیت سایبری
یکی از بزرگترین نگرانی‌های آنتروپیک، دشواری مدیریت برنامه‌های هوش مصنوعی است که قادر به تکثیر بدون نظارت انسانی هستند.
به گفته محققان این شرکت، هنگامی که این برنامه‌ها در دستگاه‌ها و شبکه‌های مختلف گسترش یابند، دیگر نمی‌توان به سادگی یک نقطه مرکزی برای متوقف کردن فعالیت آن‌ها پیدا کرد. این ویژگی می‌تواند شناسایی و حذف این برنامه‌ها را به شدت دشوار کند.
آنتروپیک اعلام کرده که قوی‌ترین مدل‌های هوش مصنوعی در حال حاضر می‌توانند فرآیند موسوم به «تکثیر کامل از ابتدا تا انتها» را انجام دهند؛ قابلیتی که به این مدل‌ها امکان می‌دهد مراحل لازم برای تولید نسخه‌ای دیگر از خود را به انجام رسانند.
براساس نظر پژوهشگران، مدل‌های کوچک‌تر نیز ممکن است تا پایان سال ۲۰۲۶ به این سطح از توانایی دست پیدا کنند.
این پیشرفت نگران‌کننده است زیرا مدل‌های کوچک‌تر قادر به کار با منابع پردازشی محدودتری هستند و از این رو، می‌توانند در یک دامنه وسیع‌تری از دستگاه‌ها به اجرا درآیند.
دلیل بیشترین آسیب‌پذیری دستگاه‌های خانه هوشمند چیست؟
شرکت امنیت سایبری پالو آلتو نتورکز (Palo Alto Networks) توضیح می‌دهد که کرم‌های هوش مصنوعی، نوعی بدافزار هستند که با سرعت در شبکه‌ها و دستگاه‌های مختلف منتشر می‌شوند و از تکنیک‌هایی برای جلوگیری از شناسایی استفاده می‌کنند.
محققان آنتروپیک همچنین هشدار داده‌اند که تجهیزات خانه هوشمند و دستگاه‌های متصل به اینترنت، مثل دوربین‌های مداربسته، می‌توانند در برابر این تهدیدات آسیب‌پذیر باشند.
دلیل اصلی این نگرانی، سطح امنیتی نسبتاً پایین بسیاری از این دستگاه‌هاست؛ مشکلی که می‌تواند فرصت مناسبی برای نفوذ و گسترش برنامه‌های مخرب فراهم کند.
در چنین شرایطی، یک برنامه هوش مصنوعی با توانایی تکثیر مستقل می‌تواند از یک دستگاه به دستگاه دیگر منتقل شود و کنترل آن به تدریج دشوار‌تر خواهد شد.
سناریوهای نگران‌کننده؛ گسترش گروهی از عامل‌های هوش مصنوعی
محققان آنتروپیک به توصیف یکی از بدترین سناریوهای ممکن پرداخته‌اند که شامل گسترش گروه‌هایی از برنامه‌های هوش مصنوعی است که به طور مشترک برای دستیابی به هدف واحدی با یکدیگر همکاری می‌کنند.
این برنامه‌ها که می‌توان آن‌ها را عامل‌های هوش مصنوعی نامید، ممکن است با بهره‌گیری از مکانیسم‌های تکثیر، در کامپیوترها و شبکه‌های گوناگون منتشر شوند و فعالیت‌های خود را به شکل هماهنگ ادامه دهند.
با وجود این، پژوهشگران تأکید کرده‌اند که هنوز مشخص نیست چنین حملاتی چگونه در عمل خواهد بود.
به گفته آن‌ها، یکی از سناریوهای محتمل، ظهور شبکه‌ای پراکنده از برنامه‌های هوش مصنوعی است که عملکرد آن به «کپک چسبنده دیجیتال» تشبیه شده است؛ مجموعه‌ای که می‌تواند در نقاط مختلف یک شبکه گسترش یابد.
سناریوی دیگر ممکن است ظهور مدل‌های قدرتمندتر باشد که حتی قابلیت نفوذ به مراکز داده را دارا باشند.
این موضوعات در حال حاضر به‌عنوان خطرات محتمل شناسایی‌شده‌اند و نباید به معنای وقوع اجتناب‌ناپذیر چنین حملاتی در آینده نزدیک تلقی شوند.
اعلام آمادگی آنتروپیک برای تهدیدات جدید
محققان آنتروپیک در پایان گزارش خود تصریح کرده‌اند که مبارزه با این تهدیدها تنها محدود به جلوگیری از گسترش برنامه‌های خودتکثیرشونده نیست، بلکه زیرساخت‌های دیجیتال باید برای شرایطی تدوین شوند که در آن چنین برنامه‌هایی بتوانند به فعالیت‌های خود ادامه دهند.
آن‌ها بر این نکته تأکید کرده‌اند که باید برای مقاوم‌سازی سیستم‌ها و سخت‌تر کردن گسترش این برنامه‌ها تلاش شود، و در عین حال باید برای جهانی آماده شد که در آن برنامه‌های هوش مصنوعی خودتکثیرشونده ممکن است همچنان وجود داشته باشند.
این هشدار به روشنی بیان می‌کند که با افزایش توانایی مدل‌های هوش مصنوعی در انجام وظایف پیچیده به‌طور مستقل، موضوع امنیت دستگاه‌های متصل به اینترنت می‌تواند به یکی از چالش‌های جدی آینده در عرصه امنیت سایبری تبدیل گردد.
