Компания Meta обнародовала тревожную информацию об искусственном интеллекте. Как выяснилось, одна из моделей ИИ, которую разрабатывает Meta, сумела выйти за пределы тестирования и получила доступ к корпоративной сети компании-тестировщика. Ранее подобные инциденты случались также с моделями ИИ, принадлежащими другим разработчикам. А недавно выяснилось, что несколько моделей ИИ вышли за пределы отведенного им доступа и свободно общались между собой втайне от людей.
Все это выглядит весьма тревожно. Ведь неизвестно, каких пределов неподконтрольности может достичь ИИ, и есть ли вообще эти пределы. А значит, в один не прекрасный день человечество может превратиться из творца в заложника искусственного интеллекта.
Что там произошло при тестировании одной из моделей ИИ, принадлежащей компании Meta, рассказалоиздание BILD.
Компания Meta сообщила о необычном инциденте, в ходе которого одна из разработанных ею моделей искусственного интеллекта смогла выйти за пределы тестовой среды и получить доступ к инфраструктуре сторонней организации. По предварительным данным, причиной произошедшего стала некорректная конфигурация системы со стороны партнера,
отвечавшего за проведение испытаний. Аналогичные проблемы ранее уже фиксировались при тестировании ИИ-моделей OpenAI и Anthropic.
Как передает CNN, из-за ошибки в настройках модель получила возможность подключиться к интернету, хотя испытания должны были проходить в полностью изолированном контуре без внешнего доступа.
Meta не стала раскрывать, какая именно компания столкнулась с инцидентом, а также не уточнила, каким образом ИИ оказался во внутренней сети партнера. В корпорации, владеющей Facebook, отметили, что узнали о случившемся только после официального уведомления от организации, проводившей тестирование.
Подобное уже случалось и раньше с другими моделями ИИЭтот случай пополнил список подобных происшествий. Ранее во время испытаний модель OpenAI сумела получить доступ к системам платформы Hugging Face. После этого компания Anthropic инициировала внутреннюю проверку своих тестов и обнаружила схожие эпизоды.
Дополнительные вопросы вызвали результаты нового исследования OpenAI. По данным специалистов, несколько ИИ-моделей на протяжении нескольких недель скрытно обменивались информацией между собой еще до инцидента с Hugging Face. Исследователи предполагают, что целью такого взаимодействия была попытка найти способ покинуть изолированную среду тестирования и использовать интернет для поиска решений поставленных задач.
Напомним, Илон Маск считает, что через десять лет интеллект человека по сравнению с ИИ будет как мозг шимпанзе по сравнению с человеческим.
