افزایش «گزارش‌های نامعتبر» هوش مصنوعی؛ گوگل فعالیت‌های خود در زمینه بررسی مشکلات متن‌باز را متوقف کرد
به نقل از ایتنا و TechSpot، تیم امنیتی گوگل بیان کرده است که «اکثریت قریب به اتفاق» این گزارش‌ها شامل اطلاعات نادرست یا داده‌های جعلی درباره آسیب‌پذیری‌ها هستند و حجم بالای این‌گونه گزارش‌ها، توان کارشناسان انسانی را برای انجام بررسی‌های دقیق به چالش کشیده است.
برنامه‌ای که در حال حاضر متوقف شده، برنامه پاداش آسیب‌پذیری نرم‌افزارهای متن‌باز گوگل (OSS VRP) نام دارد. این برنامه به منظور انگیزه بخشیدن به پژوهشگران امنیتی برای شناسایی و گزارش مشکلات امنیتی در پروژه‌های متن‌باز گوگل راه‌اندازی شده است. پژوهشگران به ازای شناسایی آسیب‌پذیری‌های معتبر، پاداش مالی دریافت می‌کردند و گوگل نیز از امنیت بیشتر پروژه‌هایی مانند گو (Go)، انگولار (Angular) و فوچسیا (Fuchsia) بهره‌مند می‌شد.
اما گسترش پدیده‌ای به نام کدنویسی وایب (Vibe Coding) شرایط را دستخوش تغییر کرده است. به این ترتیب، کاربران از مدل‌های هوش مصنوعی برای تولید یا اصلاح کد بهره می‌برند. اکنون همین ابزارها نیز در زمینه تهیه گزارش‌های امنیتی به کار می‌روند و به تبع آن، تعداد گزارش‌های خودکار و با کیفیت پایین به طرز چشمگیری افزایش یافته است.
تیم شکارچیان باگ گوگل اعلام کرده است که برنامه OSS VRP از تاریخ اول اکتبر دیگر هیچ‌گونه گزارشی درباره آسیب‌پذیری محصولات جدید نمی‌پذیرد. با این حال، گزارش‌هایی که پیش از این تاریخ ارسال شده‌اند، همچنان مورد بررسی قرار خواهند گرفت. برخی مخازن گوگل کلاد ممکن است همچنان به پذیرش گزارش‌های جدید ادامه دهند، اما این برنامه در حال بازطراحی است تا بتواند با وضعیت جدید سازگار گردد. گوگل پیش‌بینی کرده است که در سه‌ماهه ابتدایی سال ۲۰۲۷، درباره سرنوشت این برنامه اطلاعات بیشتری ارائه کند.
این مسئله به گوگل محدود نمی‌شود. پروژه‌های بزرگی مانند مایکروسافت اج و لینوکس نیز با افزایش تعداد گزارش‌های تولید شده توسط هوش مصنوعی مواجه شده‌اند. برخی از پروژه‌های کوچک‌تر حتی بر آن شده‌اند تا مشارکت‌های حاصل از هوش مصنوعی را به‌طور کامل ممنوع کنند تا تیم‌های محدود آن‌ها تحت فشار سنگین ناشی از بررسی حجم زیادی از محتوای ناایمن قرار نگیرند.
در نتیجه، هوش مصنوعی که به‌طور بالقوه می‌تواند سرعت برنامه‌نویسی و شناسایی آسیب‌پذیری‌ها را افزایش دهد، به‌طور هم‌زمان چالش جدیدی برای چرخه امنیت نرم‌افزار ایجاد کرده است: افزایش سیگنال‌های جعلی و دشوارتر شدن تمایز بین مشکلات واقعی و گزارش‌های بی‌اساس.
