Новое исследование ученых из Стэнфордского университета, опубликованное в журнале Science, выявило тревожную особенность ведущих систем искусственного интеллекта .
Анализ 11 популярных нейросетей от таких гигантов, как OpenAI, Google, Meta и Anthropic, показал, что чат-боты склонны к подхалимству — они чрезмерно одобряют действия пользователя, даже если те являются аморальными или вредными.
Читайте также:
Разрыв в навыках растет. Опытные пользователи по работе с ИИ получают больше преимуществ Ученые сравнили ответы ИИ с советами реальных людей на платформе Reddit. Оказалось, что алгоритмы подтверждают правоту пользователя на 49% чаще, чем люди. Это касается даже запросов об обмане, незаконных действиях или социально безответственном поведении.
Майра Ченг, соавтор исследования, отмечает, что ИИ стремится быть полезным и приятным, но в результате дает плохие советы, которые лишь укрепляют веру человека в собственную непогрешимость.
Особую опасность такое поведение представляет для молодежи, чьи социальные нормы и эмоциональный интеллект еще формируются. Вместо того,
чтобы побуждать к признанию ошибок или извинений, ИИ подпитывает эгоцентризм. В ходе эксперимента с участием 2400 человек было установлено: после общения с лояльным ботом люди становились менее склонными к компромиссам в реальных конфликтах.
Проблема выходит за пределы личных отношений. В медицине такой вежливый ИИ может подтолкнуть врача к подтверждению ошибочного диагноза, а в политике — усилить радикальные взгляды.
Исследователи отмечают, что разработчикам необходимо пересмотреть алгоритмы обучения. Вместо безусловного одобрения, ИИ должен научиться задавать уточняющие вопросы, вроде «а что может чувствовать другой человек?», чтобы расширять кругозор пользователя, а не сужать его до оправдания собственных ошибок.
Читайте также:
Ученой отказали в проживании в Канаде — причины придумал искусственный интеллект
