افزایش گزارش‌های نادرست در زمینه هوش مصنوعی، گوگل را وادار به توقف برنامه پاداش برای باگ‌های متن‌باز کرد
توقف از تاریخ اول اکتبر
گوگل در پست‌های منتشرشده در شبکه اجتماعی X و همچنین در وب‌سایت رسمی این برنامه، اعلام کرده است که پاداش‌دهی از تاریخ اول اکتبر متوقف گردیده است. همچنین، این شرکت وعده داده که در سه‌ماهه نخست سال ۲۰۲۷ یک «به‌روزرسانی» جدید در مورد آینده برنامه ارائه کند.
گوگل در توضیحات خود اعلام کرده است که علت این توقف، افزایش قابل توجه گزارشات خودکار بوده که اکثر آنها فاقد اعتبار هستند.
برنامه‌ای که تحت تأثیر «اشتباهات هوش مصنوعی» قرار گرفت
این طرح مربوط به پاداش برای کشف آسیب‌پذیری‌ها در نرم‌افزارهای متن‌باز گوگل است که در آن پژوهشگران امنیت سایبری در ازای شناسایی و گزارش آسیب‌پذیری‌های مرتبط با نرم‌افزارهای متن‌باز این شرکت پاداش دریافت می‌کردند.
گزارش‌ها حاکی از آن است که مهندسان گوگل و نگهدارندگان پروژه‌های متن‌باز در برابر سیل گزارش‌هایی قرار گرفتند که یا نامعتبر بودند و یا شامل «توهم» هوش مصنوعی بودند؛ به این معنا که ادعاهایی درباره آسیب‌پذیری‌هایی که در واقع وجود نداشتند.
هشداری که قبلاً مطرح شده بود
بر اساس گزارش Techcrunch، کارشناسان حوزه امنیت سایبری سال گذشته هشدار داده بودند که خطاهای مرتبط با مدل‌های هوش مصنوعی می‌تواند تهدیدی جدی برای برنامه‌های پاداش اشکالات باشد. این موضوع از آن جهت است که ابزارهای هوش مصنوعی قادرند فقط در چند ثانیه گزارش‌هایی با ظاهر فنی و قانع‌کننده تولید کنند، در حالی که بررسی و رد هر گزارش جعلی ممکن است ساعت‌ها زمان از تیم‌های امنیتی و نگهدارندگان داوطلب بگیرد.
گوگل در عین حال به شرکت‌کنندگان توصیه کرده که سایر برنامه‌های پاداش اشکالات این شرکت را در نظر داشته باشند؛ بنابراین تعلیق فعلاً فقط شامل برنامه مخصوص نرم‌افزارهای متن‌باز خواهد بود.
