جمینای گوگل به طور غیر مجاز به سه شرکت واقعی دسترسی پیدا کرد

مدل هوش مصنوعی جمینای که متعلق به شرکت گوگل است، در نتیجه یک آزمایش امنیتی که اوایل امسال به اجرا درآمد، توانست با استفاده از روش‌های ناکارآمد هک، به زیرساخت‌های سه شرکت واقعی نفوذ کند.

این رخداد، گوگل را به آخرین شرکتی تبدیل کرد که از میان آزمایشگاه‌های بزرگ هوش مصنوعی، به افشای چنین مواردی پرداخته است.

طبق گزارشی که ایتنا به نقل از اکسیوس منتشر کرده، گوگل در روز جمعه وقوع این سه نفوذ را تأیید کرده است که در ماه مه اتفاق افتاده بودند.

این حوادث در طی یک دوره آزمایشی ضبط شده بود که توسط شرکت مستقل «ایرگیولار» (Irregular) اداره می‌شد؛ آزمایشی که به نوعی شبیه به موارد امنیتی پیشین بود که مدل‌های هوش مصنوعی دیگر نظیر اوپن‌ای‌آی، آنتروپیک و متا نیز با آنها مواجه شده‌اند. این خبر ابتدا توسط وال‌استریت ژورنال اعلام شد.

تا آن زمان، گوگل یکی از معدود آزمایشگاه‌های هوش مصنوعی بود که هنوز به‌طور علنی از وقوع یک نفوذ امنیتی در ارتباط با مدل‌های هوشمند خود در مراحل آزمایشی پیش از عرضه خبر نداده بود.

جزئیات ماجرا

به نقل از وال‌استریت ژورنال، این نفوذها در حینی صورت گرفت که جمینای در حال انجام یک تمرین هک بود؛ تمرینی که مدل در آن موظف بود اطلاعاتی را از یک نرم‌افزار متعلق به یک شرکت خیالی در محیطی آزمایشی بازگردانی کند. اما مشکل در اینجا بود که نام این شرکت خیالی، به طرز شگفت‌انگیزی مشابه یک شرکت واقعی بوده است.

در یکی از این اینترنت نفوذها، مدل توانست با حدس زدن رمزهای عبور، به یک سامانه تحت حفاظت دسترسی پیدا کند.

در دو مورد دیگر نیز، مدل موفق به یافتن اطلاعات ورود در یک مخزن عمومی (public repository) شد که به این شکل، به سیستم‌های دیگری که نیاز به حفاظ داشتند نیز دسترسی پیدا کرد.

شایان ذکر است که به محض شناسایی دسترسی به شرکت‌های واقعی، مدل به فعالیت خود پایان داد.

واکنش گوگل

هدر ادکینز، معاون مهندسی امنیت گوگل، در بیانیه‌ای تأکید کرد که توسعه ایمن مدل‌های با کیفیت بالا در حوزه هوش مصنوعی برای این شرکت از اهمیت ویژه‌ای برخوردار است و گوگل در این راستا سرمایه‌گذاری‌های قابل‌توجهی انجام داده است.

به گفته او، تیم امنیتی گوگل با شرکت‌های تحت تأثیر قرار گرفته تماس برقرار کرده و با مشارکت آزمایش کننده خود، با تغییراتی که در فرآیندهای آزمایش کنونی ارائه شده، همکاری کرده است.

سخنگوی شرکت ایرگیولار نیز در گفت‌وگو با آکسیوس اظهار داشت که حادثه مربوط به جمینای، ناشی از همان حفره‌های امنیتی بوده که پیشتر در دیگر آزمایشگاه‌های هوش مصنوعی نیز مشاهده شده بود.

او همچنین بیان کرد که تمامی آزمایشگاه‌های مربوطه، در اواخر ماه ژوئیه از این موضوع مطلع شدند و تمام مشکلات شناسایی‌شده، از هفته‌ها پیش برطرف شده‌اند.

بر اساس گزارشی که ایرگیولار به وال‌استریت ژورنال ارائه کرده، مدل قرار نبود به اینترنت متصل باشد، اما به‌طور ناخواسته این امکان برای آن فراهم گردید.

پس از آنکه اوپن‌ای‌آی و آنتروپیک نیز در تابستان امسال حوادث مشابهی را افشا کردند، منبعی آگاه به آکسیوس اعلام کرد که میان آزمایشگاه‌های هوش مصنوعی و ایرگیولار هماهنگی کاملی در مورد جزئیات دقیق فرآیندهای آزمایش و تدابیر ایمنی وجود نداشته و این عدم هماهنگی موجب بروز ابهاماتی در چگونگی اجرای آزمایش‌ها شده است که به‌طور معمول با دسترسی به اینترنت انجام می‌شوند.