Google оголосила про призупинення прийому звітів про вразливості своїх продуктів в рамках Програми винагород за виявлення вразливостей у програмному забезпеченні з відкритим кодом (OSS VRP). Це рішення ухвалено через різке збільшення недійсних звітів, згенерованих штучним інтелектом. Компанія анонсувала, що новини щодо подальшої діяльності програми будуть опубліковані в першому кварталі 2027 року.
Призупинення стосується лише нових звітів, поданих після 1 жовтня, тоді як раніше надіслані залишаються чинними. Google уточнила, що певні повідомлення про проблеми у хмарних сервісах можуть продовжувати прийматися через Cloud VRP, якщо вони пов'язані з репозиторіями, що впливають на продукти Google Cloud, а також триває прийом звітів щодо ланцюга постачання OSS VRP.
OSS VRP була створена для заохочення незалежних дослідників до вивчення та відповідального розкриття вразливостей у проєктах Google з відкритим кодом. Хоча цей процес зазвичай вимагав значних зусиль і професійних навичок, нещодавно розвиток великих мовних моделей і автоматизованих AI-скриптів упростив його, що призвело до виникнення багатьох некоректних звітів.
Розробники Google та інші фахівці у сфері відкритого коду повідомили про тисячі звітів, які містили вигадані помилки або "галюцинації". Це створило значне навантаження на команду, оскільки їм доводилося багато часу витрачати на ручну перевірку коду замість усунення реальних критичних вразливостей. Цей фактор став основною причиною призупинення програми.
Схожі проблеми спостерігалися й у інших компаній. Розробники Linux зазначали, що були "вражені" рекордною кількістю 2000 вразливостей, виявлених AI-інструментами за кожен реліз ядра. Також Intel призупинила свою програму винагород, яка пропонувала до $100 тисяч за знайдені помилки, хоча офіційно не підтвердила, що причина цього також пов'язана з AI-звітами.