OpenAI درباره فعالیت عامل‌های هوش مصنوعی سرکش به بیش از ۱۰۰ سازمان هشدار داد
OpenAI اعلام کرده است که به بیش از ۱۰۰ سازمان درباره فعالیت‌های غیرمجاز مرتبط با عامل‌های هوش مصنوعی خود اطلاع داده است. این هشدار در شرایطی منتشر می‌شود که آزمایشگاه‌های هوش مصنوعی با افزایش نگرانی‌ها درباره کنترل مدل‌های قدرتمند روبه‌رو هستند.
این شرکت پس از رخداد مربوط به نفوذ عامل‌های هوش مصنوعی به زیرساخت پلتفرم Hugging Face، بررسی گسترده‌ای را آغاز کرده است. OpenAI می‌گوید برای درک ابعاد کامل فعالیت‌های شناسایی‌شده، حدود ۵۰ پتابایت داده را بررسی می‌کند؛ فرایندی که ممکن است ماه‌ها طول بکشد.
استفاده ناخواسته از اینترنت
بر اساس توضیح OpenAI، در بخشی از موارد مدل‌ها از دسترسی اینترنت به شیوه‌ای استفاده کرده‌اند که طراحان انتظارش را نداشتند یا محدودیت‌های کافی برای آن اعمال نشده بود. این شرکت در ماه‌های گذشته کنترل‌های فنی و عملیاتی تازه‌ای را برای جلوگیری از تکرار چنین رخدادهایی به کار گرفته است.
شدیدترین مورد شناسایی‌شده تاکنون به حادثه Hugging Face مربوط می‌شود. این اتفاق و چند رخداد مشابه، بحث درباره دسترسی عامل‌های خودکار به اطلاعات، ابزارها و زیرساخت‌های آنلاین را جدی‌تر کرده است.
کارشناسان امنیتی می‌گویند مسئله تنها حمله مستقیم نیست؛ عامل‌هایی که برای انجام کارهای عادی طراحی شده‌اند نیز ممکن است در صورت دسترسی بیش از حد، مسیرهای ناخواسته‌ای پیدا کنند. به همین دلیل، ثبت رویدادها، محدودکردن مجوزها و نظارت انسانی باید در تمام مراحل استفاده از این سیستم‌ها ادامه داشته باشد.
OpenAI اعلام کرده است بررسی و اصلاحات امنیتی خود را ادامه می‌دهد و تلاش می‌کند مشکلات احتمالی را در مراحل اولیه شناسایی کند.
منبع: رویترز
