Они меняют наш способ мышления.
Все боятся, что машины взбунтуются и захватят мир. А по-настоящему опасный сценарий куда скучнее, мы просто начинаем видеть в ботах живых существ — и заодно хуже относиться к живым людям, пишет The Atlantic (перевод — сайт Charter97.org
Современные ИИ умеют быть обаятельными. Достаточно, чтобы помощник вел себя внимательно и дружелюбно — и вот уже сложно воспринимать его как программу. Он превращается в собеседника. Иногда — в друга. «Мы живем в эпоху, когда люди будут видеть в своих ботах других людей, независимо от того, являются ли они ими на самом деле», — пишет автор.
И вот что странно, исследования показывают — чем охотнее человек очеловечивает ИИ, тем хуже он видит человечность в окружающих. Такие люди быстрее соглашаются с решениями, которые ухудшают жизнь и работу других. Нейробиолог Анил Сет формулирует это жестко: «Если мы слишком легко путаем себя со своими машинными созданиями, мы не только переоцениваем их, но и недооцениваем самих себя».
Проблема не ограничивается привычками. Меняется сам способ мышления. Машины считают эффективность и просчитывают результат — и эта логика потихоньку просачивается в наши головы, вытесняя эмпатию и моральные соображения на второй план.
ИИ-помощники бронируют билеты, разгребают рабочую переписку, поддерживают разговор, подстраиваются под нас. Они становятся частью фона жизни. И в этом — вся ловушка, пока машины учатся быть похожими на людей, люди сами незаметно перенимают логику машин.
