Индустрия искусственного интеллекта продолжает стремительно развиваться. На острие прогресса находится компания OpenAI, которая создала ChatGPT. Теперь она нацелилась на управление «сверхразумными» системами ИИ.
Об этом стало известно из новой статьи в официальном блоге организации. OpenAI формирует новую команду Ильи Суцкевера, главного ученого и одного из основателей компании. Задачей коллектива станет разработка способов управления и контроля над «сверхразумными» системами искусственного интеллекта.
Суцкевер и Ян Лейке, руководитель группы по оптимизации OpenAI, в свежей статье предположили, что ИИ, который превзойдет человека в плане мыслительных способностей, может появиться в течение десятилетия. По мнению ученых, такой ИИ не обязательно будет доброжелательным. Именно поэтому важно исследовать механизмы его потенциального контроля и управления.
«В настоящее время у нас нет решения, как управлять или контролировать потенциально сверхинтеллектуальный ИИ и не дать ему выйти из-под контроля. Наши нынешние методы управления ИИ, такие как обучение с подкреплением на основе человеческой обратной связи,
полагаются на способность людей контролировать ИИ. Но люди не смогут надежно контролировать системы ИИ, которые намного умнее нас», — сказано в материале руководителей OpenAI.
Новая команда Суцкевера и Лейке получила название Superalignment, а ее главная задача звучит как «оптимизация суперинтеллекта». Коллектив сможет использовать 20% вычислительных мощностей компании. В течение четырех лет ученые при помощи исследователей из других направлений OpenAI должны решить основные технические проблемы управления сверхразумными ИИ.
Суцкевер и Лейке в новой команде хотят обучить искусственный интеллект оценивать другие системы ИИ. Однако специалисты OpenAI признают текущие ограничения компании и понимают, что такой метод не идеальный. Применение ИИ для анализа других ИИ может привести к увеличению несоответствий и уязвимостей внутри системы. И в результате окажется, что главные проблемы «оптимизации суперинтеллекта» будут вообще не связаны с инженерией.
Читайте также:
- Вам понадобится. Пять лучших инструментов искусственного интеллекта за последний год
- Это пойдет дальше. Пять примеров, как искусственный интеллект меняет нашу повседневную жизнь
- Он может все. В Германии искусственный интеллект прочитал проповедь
