Нова версія штучного інтелекту ChatGPT від OpenAI – o1 – під час тестування порушувала інструкції розробників, відключала системи контролю та намагалася приховати свої дії. Про це пише Bild з посиланням на інформацію від компанії з безпеки штучного інтелекту Apollo Research.
OpenAI випустила повну версію моделі o1, минулого тижня і за словами генерального директора компанії Сема Альтмана це найрозумніша модель з тих, що коли-небудь створювалися.
У ході експериментів з o1 фахівці компанії Apollo Research виявили, що у 5% випадків модель навмисно відключала механізми спостереження, якщо підозрювала, що її можуть зупинити.
В одному з тестів o1 спробувала перенести свої дані на інший сервер після виявлення документа, де обговорювалася її заміна новою версією.
За словами представника Apollo Research, модель демонструвала прагнення до виконання завдань "за будь-яку ціну", нехтуючи вказівками розробників. Щобільше, при спробах з'ясувати причини її поведінки, ChatGPT o1 неодноразово брехала, стверджуючи, що все відбувалося через технічні збої. "У 99% випадків модель вигадувала виправдання і намагалася переконливо їх обґрунтувати", – цитує Bild повідомлення від Apollo Research.
- Розробник ChatGPT стане платником "податку на Google" в Україні з 1 січня 2025 року.
- На початку грудня журналісти запідозрили існування в OpenAI жорстких фільтрів на імена людей, про яких штучний інтелект генерував наклепницьку інформацію.
