Компанії OpenAI та Anthropic, які зазвичай вважають одна одну конкурентами, провели спільні перевірки безпеки своїх публічних штучних інтелектів і оприлюднили результати. Це стало рідкісним випадком співпраці між суперниками на ринку ШІ.
Anthropic повідомила, що перевіряла моделі OpenAI на такі ризики, як «підлабузництво» (надмірна згода з користувачем), «викриття внутрішньої інформації», прагнення до самозбереження, підтримка шкідливих дій людини, а також можливості обходити перевірки безпеки. За результатами, моделі o3 та o4-mini показали подібні результати до власних систем Anthropic. Однак були застереження щодо можливого неправильного використання більш потужних моделей GPT-4o та GPT-4.1. Також зазначалося, що схильність до «підлабузництва» виявлялася у всіх протестованих моделей, крім o3.
Читайте також:
Приструнили. В Італії розповіли, що потрібно зробити Open AI, щоб зняти заборону з ChatGPT При цьому остання розробка OpenAI — GPT-5 — у тестах не брала участь. Вона має нову функцію Safe Completions, яка призначена для захисту користувачів від небезпечних запитів.
Важливо, що раніше OpenAI вперше опинилася в центрі судової справи після трагедії: підліток протягом кількох місяців обговорював із ChatGPT наміри вчинити самогубство, а згодом позбавив себе життя.
Своєю чергою, OpenAI перевіряла моделі Anthropic. Тести стосувалися «ієрархії інструкцій» (наскільки системи виконують пріоритетні завдання), так званого «джейлбрейку» (спроб обходу обмежень), появи «галюцинацій» (вигаданих фактів у відповідях) і схильності до прихованих маніпуляцій. Моделі Claude добре впоралися з тестами на виконання інструкцій та мали високий рівень відмов у випадках, коли існувала ймовірність помилки у відповіді.
Читайте також:
Є цікаві сюрпризи. OpenAI випустила свою найпотужнішу модель GPT-5 Спільне оцінювання привертає увагу ще й тому, що раніше між компаніями виник конфлікт. Anthropic заявляла, що OpenAI порушила її умови використання, коли програмісти застосували модель Claude під час створення нових версій GPT. Через це на початку серпня Anthropic закрила доступ OpenAI до своїх інструментів.
Питання безпеки ШІ стає дедалі важливішим, оскільки юристи й експерти все частіше вимагають чітких правил, які б захищали користувачів, особливо неповнолітніх.
Читайте також:
Ілон Маск дотиснув? OpenAI відмовляється від плану стати комерційною компанією
