В Евросоюзе вступили в силу правила об обязательной маркировке контента, созданного ИИ

Видит ли человек на экране фотографии и видео, запечатлевающие реальные сцены, или речь идет об искусственной конструкции, созданной компьютером, — или же на другом конце чата находится живой человек или автоматизированная система — вот вопросы, на которые сейчас мало кто может ответить.

Поэтому ЕС выдвигает требование прозрачности. С августа вступает в силу обязанность маркировать контент, созданный или отредактированный с помощью искусственного интеллекта, который выглядит как реальный. Брюссель также подготовил рекомендации о том, как могла бы выглядеть такая маркировка, пишет ЧТК.

«В настоящее время не существует обязательного формата. На практике, вероятно, наиболее широко будут использоваться водяные знаки, поскольку их проще всего реализовать, но это может быть и небольшой текст, размещённый где-нибудь на изображении», — сообщила юрист Яна Ворличек-Соукупова из юридической фирмы Dentons.

Дипфейки представляют риск, прежде всего, в случае важных общественных и политических тем — таких, как, например, выборы. С помощью искусственного интеллекта можно распространять манипулятивные или вводящие в заблуждение материалы.

Требования к прозрачности касаются также услуг мобильных операторов, банков или интернет-магазинов, которые используют чат-ботов на базе ИИ. Согласно опросу, инструменты искусственного интеллекта хотя бы изредка используют почти три четверти чехов. Они видят в них помощь в рутинных задачах, но также и потенциальную угрозу.

«Европейцы имеют право знать, было ли то, что они видят, слышат или читают, создано или изменено искусственным интеллектом, особенно если такой контент может повлиять на общественную дискуссию», — подчеркнула заместитель председателя Европейской комиссии Хенна Вирккунена.

Новые требования AI Act обязывают компании раскрывать, когда пользователи взаимодействуют с искусственным интеллектом или потребляют созданный им контент. За нарушение правил предусмотрены штрафы до 15 млн евро или 3% мирового годового оборота компании.

В Чехии контролировать соблюдение новых требований будет Чешское телекоммуникационное управление (ČTÚ). Ведомство также напоминает, что организации, использующие системы распознавания лиц, эмоций или биометрической категоризации, обязаны информировать об этом всех людей, попадающих в зону их действия. Например, посетители магазинов или других помещений должны быть предупреждены, если установленные камеры используют ИИ для анализа лиц или эмоций.

При этом часть требований AI Act, касающихся систем искусственного интеллекта с высоким уровнем риска, начнет применяться позже. После принятия пакета изменений AI Omnibus их вступление в силу перенесли на 2 декабря 2027 года.