Компанія OpenAI відкрила вакансію дослідника безпеки штучного інтелекту із зарплатою від $295 тисяч до $445 тисяч на рік.
Про це повідомляє Buissness Insider.
Новий спеціаліст має допомогти компанії підготуватися до появи ШІ-систем, здатних самостійно покращувати власні моделі.
Йдеться про так зване «рекурсивне самовдосконалення» — сценарій, у якому штучний інтелект зможе тренувати нові, потужніші версії самого себе без участі людини.
Як зазначає видання, останніми місяцями ця тема стала однією з ключових у середовищі ШІ-компаній після стрімкого розвитку інструментів для програмування від OpenAI та Anthropic
У вакансії зазначено, що компанія шукає людей, які вміють мислити «стратегічно та зі смаком» ("tasteful and strategic"), адже робота стосується проблем, які можуть виникнути в майбутньому, але поки що не існують.
Майбутній дослідник може займатися захистом моделей від «отруєння даних» — маніпуляцій із наборами даних для навчання ШІ, створенням інструментів для аналізу логіки моделей або тестуванням потенційних ризиків від автономних AI-систем.
Також серед завдань — відстеження прогресу автоматизації технічної роботи, зокрема аналіз використання ШІ-інструментів для програмування.
Нагадаємо, у США посилили політичний тиск на керівника OpenAI Сема Альтмана: республіканці в Конгресі та кілька генеральних прокурорів штатів ініціювали перевірки його бізнес-зв’язків напередодні можливого виходу компанії на біржу.
Читайте також: Альтман заявив у суді, що міг піти в Microsoft і «заробити купу грошей», але залишився в OpenAI
