Google несет ответственность за содержание и достоверность своих резюме, созданных с помощью ИИ, постановил немецкий суд

Компания Google несет полную ответственность за (не)достоверность утверждений своего искусственного интеллекта, который она использует в поисковых системах для автоматических резюме — так называемых AI Overviews. К такому выводу пришел суд Баварии, вынеся предварительное распоряжение, запрещающее Google и далее распространять ложную информацию о двух немецких компаниях.

Первым на это обратил внимание на этой неделе немецкий журналист Матиас Бастиан на сайте The Decoder. В этом деле два немецких издателя специализированной литературы жаловались, что когда они вводят свои названия в поисковик, ИИ от Google помечает их как подозрительные и «известные сомнительными деловыми практиками и связанные с мошенничеством». Поскольку, по мнению компаний, никаких доказательств для таких утверждений не существовало, в начале года обе обратились напрямую к Google с призывом прекратить подобные действия. Однако компания проигнорировала это. И тогда издатели подали на Google в Мюнхенский земельный суд — и, согласно сайту Ars Technica, добились успеха.

Суд в предварительном решении от 28 мая постановил, что Google не имеет права и дальше распространять эти утверждения об издательствах, иначе за каждое нарушение ему грозит штраф до 250 тысяч евро (пять миллионов крон), а в случае повторного нарушения — возможно, даже арест для членов руководства на срок до 6 месяцев. Одновременно американская корпорация должна оплатить 80% судебных издержек.

Аргументация Google не увенчалась успехом

Оператор поисковой системы защищался аргументами, которые должны были освободить его от ответственности за содержание AI-резюме. В частности, тем, что большинство пользователей понимают недостатки в коммуникации AI-ботов, ответственных за эти резюме, и осознают, что данные еще необходимо проверить. 

В этом случае ответственность за этот новый контент — по мнению немецкого суда — полностью лежит на Google, который также должен нести последствия за возможные ошибочные утверждения, содержащиеся в резюме ИИ. Кроме того, суд указал, что аргументы защиты Google несостоятельны еще и по той причине, что «в данном случае резюме, сгенерированное ИИ, содержало заявления, которых в результатах поиска вообще нет», пишет Ars Technica.

Суд также указал, что резюме в поисковых системах, создаваемые ИИ, являются лишь «дополнительной функцией, без которой использование поисковой системы по-прежнему возможно» и без которой пользователи по-прежнему без каких-либо проблем находят «в потоке данных» соответствующие результаты.

По мнению портала, это немецкое дело и его исход могут иметь глобальные последствия. Пока что крупные игроки в сфере ИИ, по данным Ars Technica, полагались на то, что отображение предупреждений о возможной дезинформации защитит их от подобных исков, связанных с недостоверными или ложными результатами. Ожидается, что компания Google обжалует это решение суда.

Почему результаты могут быть ложными

Согласно прошлогоднему опросу, все больше людей используют и доверяют резюме ИИ — и Google также все чаще отдает им предпочтение перед классическим поиском до эпохи ИИ, к которому пользователи привыкали более двух десятилетий. В мае этого года компания решила изменить свою систему поиска таким образом, что резюме ИИ теперь однозначно являются основным результатом.

И это в ситуации, когда эти модели по-прежнему допускают огромное количество ошибок. Обширный анализ газеты New York Times, опубликованный в апреле этого года, показал, что около 10% результатов таких поисков являются ложными — это может показаться не так уж и много, но при таком количестве запросов это означает миллионы неправильно отвеченных вопросов ежедневно, что зачастую может нанести ущерб конкретным людям или компаниям.