Суд в Германии постановил, что Google несет прямую ответственность за ложную информацию, которую распространяет функция AI Overview. Суд пришел к выводу, что такие сгенерированные ИИ обзоры являются собственным контентом компании, а не просто подборкой результатов поиска.
Об этом пишет издание Engadget.
Основанием для дела стали ложные утверждения о двух издателях из Мюнхена. В ответах AI Overview их связали с мошенничеством, ловушками с подписками и сомнительными бизнес-практиками. Суд установил, что система смешала данные о разных компаниях и создала связи, которых не было ни в источниках, ни в реальности.
Издатели направили Google требование прекратить распространение ложной информации, однако, по их словам, компания не отреагировала должным образом. После этого Земельный суд Мюнхена выдал временный запрет, который не позволяет Google в дальнейшем распространять ложные сведения об этих компаниях.
В решении указано, что ответственность за фактические ошибки возлагается на Google, поскольку AI Overview пересказывает информацию собственными словами и в собственной структуре.
В одном из случаев система утверждала, что один из издателей известен сомнительными бизнес-практиками, а также создала отдельный перечень якобы тревожных признаков и рекомендаций для пользователей. На самом же деле информация касалась другой организации. Кроме того, ИИ сгенерировал утверждения, которых вообще не было в результатах поиска.
Суд фактически разграничил ответственность поисковой системы и сервиса AI Overview. Обычный поиск лишь помогает находить материалы сторонних ресурсов, тогда как AI Overview создает новые содержательные утверждения путем анализа и объединения информации с разных сайтов.
Во время слушаний Google заявила, что пользователи могут проверять правильность сводок с помощью ссылок на источники. Также компания отметила, что люди понимают, что информации, созданной искусственным интеллектом, не следует доверять без проверки. В то же время исследования показывают, что после просмотра таких обзоров на ссылки переходит лишь около 1% пользователей.
По данным недавнего исследования, AI Overview ошибается примерно в 9% случаев. Google ранее сообщала, что ежемесячно с этой функцией взаимодействуют около 2 миллиардов человек. При таких масштабах это может означать более 2 миллиардов неправильных ответов в год.
Еще одно исследование выявило проблему с источниками информации. Анализ показал, что 56% правильных ответов невозможно подтвердить с помощью ссылок, которые приводит система. То есть пользователи часто не могут проверить, откуда именно AI Overview взял приведенные утверждения.
Читайте также:
- Работает, пока вы спите. Новое приложение от Google использует личные данные для генерирования ежедневных советов
- Экологические проекты. Google пообещала возвращать больше воды, чем потребляют ее дата-центры к 2030 году
- $4,99 в месяц. Google снизил цену AI Plus в США и удвоил объем хранилища
