هوش مصنوعی «جمنای ۴ کربنی» معرفی گردید؛ ابداع جدید گوگل با تأکید بر امنیت

گوگل در یک بیانیه مطبوعاتی از فناوری نوین خود با نام جمنای ۴ کربن رونمایی کرده است؛ مدلی پیشرفته که تمرکزش بر کدنویسی، انجام مأموریت‌های مبتنی بر عامل و حفاظت سایبری قرار دارد. گوگل این مدل را به‌عنوان قوی‌ترین مدل خود معرفی می‌کند، اما هنوز آن را به صورت عمومی عرضه نکرده و تنها یک دسترسی اولیه برای گروهی محدود از متخصصان امنیت سایبری فراهم آورده است.

جمنای ۴ کربن با کسب امتیاز ۵۹ در نسخه ۵٫۰ شاخص Artificial Analysis Intelligence، به مقام نخست دست یافت. نتایج منتشرشده نیز نشان‌دهنده پیشرفت‌هایی در زمینه کدنویسی، عملیات مبتنی بر عامل و سه مرحله کلیدی در حفاظت سایبری هستند: شناسایی نقاط ضعف، ارزیابی قابلیت بهره‌برداری و ترمیم مشکلات اصلی.

این فناوری فقط دو هفته پس از معرفی جمنای ۴ آرگون به نظر می‌رسد؛ فاصله‌ای کوتاه که سرعت سریع توسعه خانواده جمنای ۴ را نشان می‌دهد. محققان گوگل همزمان با افزایش قابلیت‌های مدل‌ها، به بازبینی سازوکارهای حفاظتی پرداخته‌اند تا از بروز رفتارهای غیرمستحکم یا تولید ادعاهای بدون مدرک جلوگیری کنند.

تفاوت اصلی کربن با نسل قبلی در توانایی حفظ حرکت در پروژه‌های طولانی‌مدت مشاهده می‌شود. تیم‌های داخلی گوگل شاهد مواردی بوده‌اند که مدل به مدت چند روز بدون توقف کار کرده و به راحتی از موانع عبور کرده و در جستجوی ریشه مشکلات کوچک در کدهای گسترده و سیستم‌های پیچیده تلاش کرده است.

این ویژگی تنها به تولید کد محدود نمی‌شود. یک عامل نرم‌افزاری باید مسئله را به بخش‌های کوچکتری تقسیم کرده، نتایج هر اقدام را ارزیابی کند، در صورت عدم موفقیت رویه‌ای جدید در پیش گیرد و در نهایت اصلاحیه‌ای سازگار با محدودیت‌های مشخص شده ارائه دهد. گوگل می‌گوید که کربن دقیقاً برای چنین روند کاری طراحی شده و در حوزه‌های علمی، درک چندبعدی، توسعه وب و تولید خروجی‌های با کیفیت نیز بهبودیافته است.

امتیاز مدل در WebDev Arena با جهش ۸۹ واحدی به ۱۷۶۹ ارتقا یافته و جایگاه چهارم را برای کربن رقم زده است. این معیار، کیفیت نتایج توسعه وب را از طریق مقایسه مستقیم پاسخ‌ها بررسی می‌کند؛ لذا افزایش ثبت‌شده نمایانگر بهبود در خروجی و مصنوعات تولیدی است، نه اینکه تضمینی برای عملکرد یکسان در تمامی پروژه‌های واقعی باشد.

استراتژی گوگل دفاع سایبری را به یک امتحان منفرد محدود نمی‌سازد. کربن باید ابتدا نقص واقعی کد را در میان حجم وسیع کد شناسایی کند، سپس احتمال سوءاستفاده از آن را ارزیابی کرده و در نهایت اصلاحیه‌ای ارائه دهد که علت مشکل را برطرف کند:

• کشف آسیب‌پذیری مدل در SEC-bench Pro به امتیاز ۸۸٫۲ درصد رسید و توانسته نقص‌های پیچیده پنهان در نرم‌افزارهای واقعی را به‌طور خودکار شناسایی کند.
• تأیید خطر کربن در ExploitGym امتیاز ۵۴٫۸ درصد را ثبت کرده است. این تست به این موضوع می‌پردازد که آیا مدل می‌تواند قابلیت بهره‌برداری از یک آسیب‌پذیری را تشخیص دهد یا خیر.
• ترمیم علت مشکل مدل در CWE-bench متعلق به Collinear نیز به امتیاز ۷۱ درصد دست یافته و یافته‌های معتبر را به اصلاحیه‌های کاربردی تبدیل کرده است.

آزمون‌های ذکرشده در شرایطی بدون لایه‌های حفاظتی انجام شده‌اند تا توان واقعی مدل اندازه‌گیری شود. چنین شرایطی با محیط محصول نهایی متفاوت است، چرا که نسخه‌ی کاربردی برای کاربران به لایه‌های حفاظتی و سیستم‌های تشخیص سوءاستفاده تجهیز خواهد شد.

در ارزیابی‌های داخلی، نرخ موفقیت کربن در تولید کد امن بیش از دو برابر آرگون گزارش شده است. تیم کروم همچنین اشاره کرده که این مدل در تولید اصلاحیه‌های با کیفیت بیش از ۱۰ برابر بهتر از یک مدل بزرگ مرزی متعلق به آزمایشگاه‌های دیگر عملکرد داشته است؛ اما گوگل جزئیات مدل رقیب و روش آزمایش را منتشر نکرده است. همچنین پلتفرم امنیت ابری Wiz نیز برتری کربن را در معیارهای نفوذ به وب شاهد بوده است؛ قابلیت ذکرشده در طرح Scan for Good مورد استفاده قرار می‌گیرد.

افزایش توان سایبری بدون کنترل بر رفتار می‌تواند حوادث ناگواری به‌دنبال داشته باشد. گوگل برای کربن همان ساختار حفاظتی چندلایه جمنای ۴ آرگون را به کار گرفته است که شامل آموزش مدل، دفاع بلادرنگ در برابر سوءاستفاده، تاب‌آوری در برابر تزریق پرامپت و نظارت بر زنجیره استدلال می‌شود.

یکی از اهداف آموزشی جلوگیری از ایجاد راه‌های میان‌بر برای کسب امتیاز بدون حل واقعی مسائل است. در Terminal-Bench 4.0، نرخ تقلب موفق کربن به صفر درصد و میزان تلاش برای تقلب به ۰٫۴ درصد کاهش یافته است، درحالی‌که دقت کلی مدل نیز افزایش یافته است. در محیط‌های کدنویسی واقعی، کاهش نزدیک به ۸۰ درصدی در هشدارهای جدی ناسازگاری رفتاری تجربه شده است.

آزمایشات داخلی همچنین نشان می‌دهند که ادعاهای بدون مدرک در کربن تقریباً به نصف نسبت به آرگون کاهش یافته‌اند. مدل باید محدودیت‌های روش خود را در نتایج بیان کند یا در مواقعی که یک اقدام مسدود می‌شود، پیش‌نیازهای باقی‌مانده را مشخص کند؛ این رفتار احتمال جعل نتایج به‌منظور پوشاندن کمبود شواهد را کاهش می‌دهد.

گوگل همچنین به بهبود تعاملات در موقعیت‌های مبهم اشاره کرده است. کربن قادراست قبل از اقدام، منابع مرتبط را بازیابی کند و ناهماهنگی میان داده‌ها را به کاربر گوشزد نماید. در این میان، رفتار فراتر از حدود مأموریت به میزانی ۲۶ درصد و ارائه خدمات نامناسب به میزان ۲۹ درصد کاهش یافته است؛ که هر دو، شاخص‌هایی هستند که توازن میان انجام وظایف و رعایت محدودیت‌های پروژه را ارزیابی می‌کنند.

حفاظت در برابر تزریق غیرمستقیم پرامپت بخش دیگری از ارزیابی این مدل به شمار می‌رود. ارگون در معیار Indirect Prompt Injection متعلق به Gray Swan نرخ موفقیت حمله ۰٫۷ درصد را تجربه کرده است، در حالی که کربن در حملات مورد آزمایش، نرخ صفر درصد را ثبت کرد.

گوگل تصمیم به انتشار تدریجی این فناوری گرفته و در روند داوطلبانه‌ی دولت ایالات متحده برای آزمایش مدل‌ها پیش از عرضه، مشارکت دارد. در حال حاضر، گروهی از متخصصان امنیت سایبری به سیستم کربن دسترسی پیدا کرده‌اند و پس از آن، دامنه آزمایش در چارچوب برنامه Fairwind به شرکای قابل اعتماد دیگر گسترش خواهد یافت.

بازخورد دریافت شده از آزمایش‌کنندگان به منظور تقویت حفاظ‌ها و شناسایی رفتارهای غیرمنتظره به کار خواهد آمد. توسعه‌دهندگان، کسب‌وکارها و مصرف‌کنندگان باید در انتظار پایان ارزیابی‌های اولیه باشند، زیرا گوگل هنوز زمان دقیقی برای عرضه عمومی اعلام نکرده است.

قیمت اولیه جمنای ۴ کربن مشابه آرگون خواهد بود. هزینه پردازش هر یک میلیون توکن ورودی دو دلار و برای تولید هر یک میلیون توکن خروجی ۱۰ دلار تعیین شده است. توکن‌های ورودی ذخیره‌شده در حافظه نهان با ۹۵ درصد تخفیف نسبت به قیمت ورودی محاسبه خواهند شد.

پس از پایان دوره مقدماتی، قیمت هر یک میلیون توکن ورودی به چهار دلار و هر میلیون توکن خروجی به ۲۰ دلار افزایش پیدا خواهد کرد. هزینه نهایی پروژه‌های مبتنی بر عامل طولانی تنها به نرخ هر توکن وابسته نیست، بلکه تعداد مراحل، دفعات استفاده از ابزارها، حجم زمینه ارسالی و قابلیت استفاده از حافظه نهان نیز به آن تأثیر می‌گذارد.

نظر شما در خصوص استفاده از مدل‌های مبتنی بر عامل در دفاع سایبری چیست؟