Немецкий суд постановил, что компания Google может нести прямую ответственность за клеветнические утверждения, сгенерированные её системой AI Overviews. По сути, суд указал, что простого предупреждения пользователям о необходимости перепроверять результаты поиска, полученные с помощью ИИ, недостаточно для снятия ответственности за содержание этих результатов.
Региональный суд Мюнхена вынес предварительное судебное распоряжение в отношении компании Google после того, как два немецких издателя обнаружили, что в обзорах, сгенерированных искусственным интеллектом, их ложно представляли как причастных к мошенничеству и «сомнительным деловым практикам», хотя статьи, на которые давались ссылки, не подтверждали этих утверждений.
Это решение может иметь последствия далеко за пределами Германии. Суд фактически постановил, что Google может нести прямую ответственность за клеветнический контент, сгенерированный его системой AI Overviews. Суд отверг привычные оправдания типа «это всего лишь ИИ, не стоит ему слишком доверять» и четко дал понять: если вы создаете систему, которая уверенно порочит людей или компании, вы можете нести ответственность за то, что она говорит, даже если этот контент был «выдуман» ИИ.
Обзоры ИИ — это не безобидные рекомендации. В данном случае суд расценил их как собственные заявления компании Google со всеми вытекающими из этого юридическими последствиями.
Когда издатели направили письмо с требованием прекратить нарушение, Google не сразу пресек появление подобных утверждений. Именно этот момент оказался решающим при вынесении решения. Суд отметил, что, в отличие от традиционных результатов поиска, которые просто перечисляют контент третьих лиц, обзоры на основе искусственного интеллекта генерируют «независимые, новые и содержательные утверждения».
А поскольку только Google может корректировать модели и алгоритмы, на основе которых формируются эти утверждения, только Google способна надежно предотвратить повторение системой тех же или аналогичных ложных сведений. В данном случае суд постановил, что Google может быть привлечена к ответственности.
На протяжении многих лет поисковые системы пользовались широкой защитой, исходя из того, что при индексации открытого Интернета в больших масштабах появление некоторого количества вредоносного контента неизбежно. Отображение результата поиска не означает его одобрения. Поисковая система — это канал, а не издатель.
Ситуация меняется, когда система искусственного интеллекта «AI Overview» обобщает, перефразирует, а порой и придумывает факты, а затем публикует их в верхней части результатов поиска.
Обзоры на основе ИИ — это дополнительная функция, не имеющая принципиального значения для работы поисковой системы. Однако привлекательность таких обзоров заключается в быстрых и уверенных ответах, и именно это делает их опасными. Когда эти ответы оказываются неверными, многие пользователи могут не переходить по ссылкам, чтобы проверить источники.
Это решение носит предварительный характер и может быть обжаловано, но сигнал ясен: результаты поиска, полученные с помощью ИИ, — это не волшебная палочка, способная избавить от ответственности. Предупреждения о возможных ошибках могут оказаться недостаточными, когда система внедряется в широких масштабах, генерирует новый контент и рассчитана на то, чтобы пользователи ей доверяли.
По цифрам
Обзоры Google AI создаются на основе Gemini — модели искусственного интеллекта от Google. Как и другие системы искусственного интеллекта, она может давать уверенные ответы, которые оказываются неверными или недостаточно обоснованными.
Исследовательский центр Pew Research проанализировал данные о просмотрах сотен пользователей и обнаружил, что когда на странице результатов Google появляется обзор, сгенерированный искусственным интеллектом, доля переходов по традиционным результатам поиска снижается с примерно 15 % до около 8 %.
Анализ обзоров, созданных с помощью ИИ, проведенный газетой «New York Times», показал, что их точность составляет примерно девять из десяти случаев. Однако, учитывая, что Google обрабатывает более пяти триллионов запросов в год, даже небольшой процент ошибок может привести к миллионам неверных ответов.
Причем эти ошибки не всегда связаны с некачественными источниками. Даже если Google дает ссылку на страницу с правильной информацией, его ИИ все равно может выдать неверный ответ. Более половины точных ответов были классифицированы как «необоснованные», что означает, что сайты, на которые ссылался AI Overview, не полностью подтверждали предоставленную им информацию.
Главный урок здесь заключается в том, что нужно тщательно проверять ответы, полученные с помощью искусственного интеллекта. Не стоит доверять ответу только потому, что он звучит убедительно и содержит ссылки.
Пользователей можно подтолкнуть к реальным угрозам или отвратить от эффективных средств защиты просто потому, что система искусственного интеллекта прозвучала убедительно на странице результатов поиска.
Если вы обнаружите ложные или порочащие репутацию резюме, сгенерированные ИИ, касающиеся вас или вашей компании, тщательно зафиксируйте их. Сделайте скриншоты, сохраните поисковые запросы, подайте запросы на исправление и сохраните записи об ответе платформы. Или об отсутствии такового.
Мошенникам не нужно взламывать ваш компьютер. Им достаточно, чтобы вы один раз нажали кнопку.
Malwarebytes Identity Theft выявляет подозрительную активность, прежде чем она станет проблемой.
