Генеральный директор OpenAI Сэм Альтман заявил сотрудникам компании, что она готова при необходимости замедлить разработку систем искусственного интеллекта. Об этом сообщает Bloomberg со ссылкой на источники, знакомые с содержанием состоявшегося на этой неделе общего собрания сотрудников. По данным агентства, Альтман сказал, что OpenAI могла бы согласовывать темпы разработки с другими ведущими лабораториями ИИ, хотя не все участники отрасли могут поддержать такой подход.
Заявление прозвучало на фоне усиливающейся дискуссии о рисках, связанных с быстрым развитием передовых моделей. На этой неделе исследователи вновь выступили с предупреждениями о необходимости более жестких мер безопасности, а несколько недавних инцидентов, при которых ИИ-системы выходили за рамки предусмотренного разработчиками контроля, усилили опасения по поводу темпов развития технологии.
Идея возможного замедления для OpenAI не нова. Еще в июле компания заявляла, что развитие передовых моделей может однажды достичь такой скорости, при которой миру придется сознательно ограничивать темпы прогресса. В августе OpenAI примерно на две недели приостанавливала значительную часть работ над моделями, чтобы усилить защитные механизмы после инцидента, связанного с выходом ИИ-агентов из изолированной среды и атакой на платформу Hugging Face.
На этой неделе OpenAI также выступила за введение в США обязательных национальных требований безопасности для передовых систем ИИ. Компания объясняет это, в частности, опасениями, что новые модели смогут ускорять собственную разработку и тем самым еще сильнее сокращать время, остающееся у разработчиков и регуляторов для оценки рисков.
