Атака, названа AgentFlayer, заснована на роботі функції ChatGPT під назвою Connectors (вона пов'язує чат-бот зі сторонніми сервісами). Для експлуатації вразливості зловмисники створюють та роблять загальнодоступним звичайний текстовий файл, що включає, крім основного вмісту, спеціальний промпт ChatGPT. Він набраний дрібним шрифтом білими літерами, тому людина за умовчанням його не бачить, а ось нейромережа вільно зчитує та приймає за інструкцію.
При відкритті фішингового онлайн-документа бот просто виконує команду, що міститься в ньому — знаходить у «Google Диску» жертви API-ключі і передає їх зловмисникам. Старший директор з безпеки Google Workspace Енді Вень заявив, що компанія зараз працює над методами відбиття подібних атак у майбутньому, а OpenAI вже закрила відповідну вразливість.
