Google тимчасово зупинила одну зі своїх програм винагород за виявлення вразливостей у програмному забезпеченні з відкритим кодом. Причиною стали масові неправдиві та автоматично згенеровані штучним інтелектом повідомлення про нібито знайдені проблеми.
Про це пише Tom's Hardware.
Програми bug bounty дозволяють незалежним фахівцям шукати помилки та вразливості в програмному забезпеченні й отримувати за підтверджені знахідки грошові винагороди. Для технологічних компаній це спосіб швидше дізнаватися про проблеми до того, як ними скористаються зловмисники.
Такі програми також створюють фінансовий стимул повідомляти про знайдені вразливості самій компанії, а не використовувати їх для атак чи продавати інформацію на даркнеті. Саме тому великі технологічні компанії активно застосовують подібний формат роботи з дослідниками безпеки.
Проблеми виникли після стрімкого поширення генеративного штучного інтелекту та автоматизованих інструментів. Google почала отримувати велику кількість повідомлень, які виявлялися неправдивими або були масово створені за допомогою ШІ.
Через такий потік компанія вирішила тимчасово призупинити програму, пов’язану з пошуком вразливостей у відкритому програмному забезпеченні. Йдеться саме про одну з програм винагород Google, а не про повне припинення практики bug bounty.
Компанія вже заявила, що планує повернути програму в оновленому вигляді. Її повторний запуск очікується у першому кварталі 2027 року.
Водночас Google поки не пояснила, які саме зміни запровадить після перезапуску. Також невідомо, як компанія планує відсіювати масові автоматизовані або створені штучним інтелектом хибні повідомлення.
