محققان با استفاده از کلود، ابزار هوش مصنوعی آنتروپیک، به حسابهای کارمندان اوپنایآی در چتجیپیتی نفوذ کردند
به گزارش ایتنا، سه محقق امنیتی از تیم هکترون (Hacktron) که روی شناسایی ضعفهای امنیتی در آزمایشگاههای پیشرو هوش مصنوعی کار میکردند، با کنار هم قرار دادن دو آسیبپذیری مجزا موفق شدند کنترل چند حساب متعلق به کارمندان اوپنایآی را در چتجیپیتی به دست بگیرند.
آنها سپس با تکیه بر همین سطح دسترسی نشان دادند که میتوانند بهراحتی وارد مخزن کد داخلی اوپنایآی نیز شوند.
تمام این روند، از شناسایی اولیه ضعف امنیتی تا رسیدن به مخزن داخلی اوپنایآی، کمتر از ۷۲ ساعت زمان برد و برای این گروه پژوهشی، پاداشی ۶۵۰۰ دلاری از برنامه باگبانتی اوپنایآی در پلتفرم باگکراد (Bugcrowd) به همراه داشت.
مسیر ورود: انجمن پشتیبانی اوپنایآی
اعضای این تیم در گزارشی که منتشر کردهاند، نوشتهاند که تا دو ماه پیش، هر کاربر یا کارمند اوپنایآی که وارد انجمن پشتیبانی این شرکت میشد، در معرض خطر ربودهشدن حسابهای چتجیپیتی و کدکس (Codex) خود قرار داشت. به گفته آنان، با توجه به اینکه کاربران، سرویسهای گوناگونی مانند گیتهاب، اسلک و ایمیل را به کدکس و چتجیپیتی متصل میکنند، دامنه اثر این آسیبپذیری میتوانست بسیار وسیع باشد.
این پژوهشگران روز ۲۵ ژوئیه از طریق انجمن اوپنایآی که بر بستر پلتفرم دیسکورس (Discourse) اجرا میشود، نخستین نفوذ را انجام دادند.
به گفته این تیم، پس از پیشرفت در کار و رسیدن به نتیجه، بلافاصله بعد از کشف ضعف امنیتی، موضوع را به اوپنایآی اطلاع دادند. آنها در ادامه نوشتند: «سپس کنترل حساب یکی از کارمندان اوپنایآی را که حساب کدکس او به سازمان گیتهاب اوپنایآی متصل بود، در دست گرفتیم. برای نشان دادن شدت این آسیبپذیری، بدون آنکه به هیچ کد داخلی واقعی دسترسی داشته باشیم، دستوری به حساب کدکس این کارمند ارسال کردیم تا یک پولریکوئست در مخزن اصلی و داخلی اوپنایآی برای ما باز کند. پس از آن، هرگونه آزمایش بیشتر را متوقف کردیم.»
نه اوپنایآی و نه آنتروپیک تاکنون به درخواست سایت رجیستر برای اظهار نظر پاسخی ندادهاند.
واکنش اوپنایآی و اقدامهای اصلاحی
اوپنایآی کمتر از ۱۴ ساعت پس از دریافت گزارش، این آسیبپذیری را برطرف کرد و وضعیت آن را «حلشده» اعلام نمود و مبلغ ۶۵۰۰ دلار نیز به تیم هکترون پرداخت کرد.
این شرکت در توضیحی که هکترون منتشر کرده، تأکید کرده است که آزمون انجامشده روی سرویس انجمن پشتیبانی مورد نظر که بر پایه دیسکورس اجرا میشود، بهصورت صریح از محدوده برنامه باگبانتی این شرکت خارج بوده و این پاداش تنها بهدلیل یافته مرتبط با سمت اوپنایآی پرداخت شده است، نه فعالیتهای انجامشده علیه دیسکورس.
دیسکورس نیز در واکنش به این رخداد، اصلاحیهای برای بازسازی و ترمیم سامانه خود منتشر کرد.
پژوهشگران در پایان گزارش خود نوشتند که کل این عملیات هک، تنها چند روز کار برای یک عامل هوش مصنوعی و چند ساعت تلاش انسانی را طلب کرده است و تأکید کردند: «کاری که زمانی به یک تیم با منابع قابلتوجه و ماهها کوشش نیاز داشت، اکنون میتواند در چند روز انجام شود. فرضیات امنیتی باید خود را با توانمندیهای مهاجمان هماهنگ کنند.»
