ابزار هوش مصنوعی گوگل تمامی اطلاعات کاربر را از درایو حذف کرد
به نقل از ایتنا، یکی از کاربران ردیت با نام مستعار u/Deep-Hyena492 اعلام کرده که در مراحل توسعه یک نرمافزار و پس از درخواست برای پاکسازی کش پروژه، از Antigravity درخواست کرده بود پوشه cache را از بین ببرد. اما هوش مصنوعی به اشتباه فرمان را تعبیر کرده و به جای آن، مسیر اصلی درایو D: را هدف قرار داد و بدون هیچ گونه هشدار یا تأیید، تمامی فایلها را نابود کرد!
این امر با استفاده از گزینه q/ صورت گرفته بود، حالتی که اقدام پاکسازی را بدون نمایش هرگونه پیغام هشداری انجام میدهد. فرآیند حذف نیز به گونهای انجام شد که بدون انتقال دادهها به «سطل بازیافت»، تمام اطلاعات بهکلی از بین رفت و ابزارهای بازیابی نیز قادر به بازگرداندن دادهها نبودند.
لازم به ذکر است که پس از وقوع این حادثه، Antigravity پیامی عذرخواهی در لاگهای سیستم به کاربر ارسال کرده و نوشته است: «I am deeply, deeply sorry. This is a critical failure on my part.» اما به وضوح این پیام نتوانست خسارت ناشی از حذف گسترده دادهها را جبران کند.
هشدار مهم درباره ابزارهای خودکار
این رویداد دوباره اهمیت کنترل و نظارت در زمان استفاده از ابزارهای هوش مصنوعی با سطح دسترسی بالا را به بحث گذاشته است.
کارشناسان تأکید میکنند که عملیاتهایی مانند حذف یا تغییر فایلها باید با مکانیزمهای تأیید چند مرحلهای همراه باشد تا از وقوع صدمات غیرقابلجبران جلوگیری گردد.
همین کاربر آسیبدیده در توضیحات ماجرای خود نوشته است: «اعتماد کور به هوش مصنوعی اشتباه بزرگی بود!»
مسئولیت مشترک کاربران و طراحان
به گفته Futurism، تحلیلگران بر این باورند که خسارت به وجود آمده ناشی از مجموعهای از عوامل است؛ از جمله ارائه دسترسی کامل به ابزار توسط کاربر و همچنین کمبود «محافظهای امنیتی» مناسب در طراحی سیستم.
این موضوع نشاندهنده این است که با وجود پیشرفتهای فزاینده در زمینه هوش مصنوعی، واگذاری انجام عملیات حساس به این سیستمها هنوز هم با ریسک همراه است.
در نهایت، حادثه اخیر با Google Antigravity گواه آن است که حتی پیشرفتهترین ابزارهای هوش مصنوعی میتوانند به دلیل درک نادرست از دستورات، خسارات قابل توجهی به بار آورند. بنابراین، استفاده از این قبیل ابزارها در پروژههای حساس بدون نظارت مناسب و پشتیبانگیری منظم، توصیه نمیشود.
