Логотип OpenAI. Джерело: OpenAIСтратегічний крок у захисті ІІ-технологійOpenAI суттєво зміцнила свої позиції в галузі кібербезпеки, придбавши перспективний стартап Promptfoo. Угода спрямована на посилення захисту корпоративних ІІ-систем від потенційних кібератак та маніпуляцій.
Ключові особливості придбанняPromptfoo, заснований у 2024 році Іаном Вебстером та Майклом Д'Анджело, спеціалізується на тестуванні великих мовних моделей (LLM). Компанія вже встигла стати значним гравцем на ринку кібербезпеки - її рішення використовують понад 25% компаній зі списку Fortune 500.
Ризики автономних ІІ-системЗ розвитком автономних агентів ІІ зростають і потенційні загрози. Зловмисники можуть атакувати системи, намагаючись отримати доступ до конфіденційних даних чи маніпулювати автоматизованими процесами. Саме тому OpenAI робить ставку на превентивний захист.
Технологія майбутньої безпекиПісля інтеграції з OpenAI Frontier технології Promptfoo дозволять:
- Проводити автоматичний «red-teaming»
- Тестувати робочі процеси агентів ІІ
- Відслідковувати активність для дотримання комплаєнсу
Джерело: OpenAI
Повідомлення OpenAI посилює безпеку ІІ: куплений стартап, який 'ламає' системи зсередини з'явилися спочатку на href="https://itnet.com.ua">ITnet.
