Возможно ли отличить голос искусственного интеллекта от человеческого?
31 марта 2024
16:11
2184
Сегодня искусственный интеллект (ИИ) может настолько хорошо имитировать человеческую речь, что отличить ее практически невозможно. В случае с изображениями и видео он пока не идеален, но в ближайшем будущем технология наверстает упущенное. Так в интервью, присланном ČTK Чешской академией наук (AV ČR), заявила Барбара Зитова из Института теории информации и автоматизации AV ČR. В среду депутаты Европарламента одобрили новые правила функционирования искусственного интеллекта.
«Технология искусственного интеллекта быстро развивается, потому что растут вычислительные мощности, эксперты собирают больше данных и, что самое главное, поскольку эта область становится все более интересной, все больше людей начинают проводить исследования», — сказала Зитова.
По словам ученой, создать так называемый deep fake можно очень быстро. Обычно на это уходит не более двух минут. Английский термин, состоящий из слов deep и fake, используется для описания продвинутых поддельных видео, звуков или изображений, которые зачастую сложно отличить от настоящих.
В настоящее время программное обеспечение предлагает некую защиту в виде согласия конкретного человека, но, безусловно, существуют программы, которые могут это обойти. «В случае с аудио достаточно даже минутной записи, и я знаю по опробованному мной приложению, что там нет никаких ограничений и не требуется согласия», — добавила Зитова.
По словам Зитовой, создать deep fake может даже непрофессионал. «Технология доступна широкой публике. Некоторые компании начинают взимать плату за свои услуги, но это не останавливает тех, кто пытается чего-то добиться с помощью такой аферы», — говорит исследовательница.
Можно проверить личность собеседника по телефону с помощью информации, которая должна быть известна только ему, или пароля. Другой вариант — подумать над содержанием сообщения и перезвонить человеку. «Вполне реально, что у нас появится приложение на мобильных телефонах, которое будет проверять, кто на той стороне — искусственный интеллект или человек», — говорит Зитова. По ее словам, банкам следует отказаться от голосового подтверждения личности.
Deep fake чаще всего появляется в СМИ и политике. Он представляет угрозу перед выборами, считает эксперт. «Мы не можем запретить искусственный интеллект, мы можем его как-то ограничить, но главная защита — это образование в этой области и образование со стороны СМИ», — сказала Зитова.
В среду депутаты Европарламента одобрили новые правила работы искусственного интеллекта. Закон об искусственном интеллекте — первый в своем роде в мире, говорят эксперты. Правила вводят классификацию технологий в зависимости от их использования и устанавливают различные уровни ограничений в зависимости от степени риска. ЕС хочет полностью запретить некоторые системы, в то время как другие инструменты, такие как алгоритмы распознавания лиц, будут подвергаться жесткому регулированию.
«На практике новые правила, принятые европарламентариями, могут наложить некоторые ограничения на то, в каких областях и при каких условиях они будут развернуты и использованы. Поставщики должны будут иметь одобрение, источники данных и так далее. Но в то же время есть элемент того, что в тот момент, когда с вами разговаривает искусственный интеллект, люди должны знать, что они разговаривают с ним, а не с реальным человеком», — говорит Зитова.
По словам ученой, создать так называемый deep fake можно очень быстро. Обычно на это уходит не более двух минут. Английский термин, состоящий из слов deep и fake, используется для описания продвинутых поддельных видео, звуков или изображений, которые зачастую сложно отличить от настоящих.
В настоящее время программное обеспечение предлагает некую защиту в виде согласия конкретного человека, но, безусловно, существуют программы, которые могут это обойти. «В случае с аудио достаточно даже минутной записи, и я знаю по опробованному мной приложению, что там нет никаких ограничений и не требуется согласия», — добавила Зитова.
По словам Зитовой, создать deep fake может даже непрофессионал. «Технология доступна широкой публике. Некоторые компании начинают взимать плату за свои услуги, но это не останавливает тех, кто пытается чего-то добиться с помощью такой аферы», — говорит исследовательница.
Можно проверить личность собеседника по телефону с помощью информации, которая должна быть известна только ему, или пароля. Другой вариант — подумать над содержанием сообщения и перезвонить человеку. «Вполне реально, что у нас появится приложение на мобильных телефонах, которое будет проверять, кто на той стороне — искусственный интеллект или человек», — говорит Зитова. По ее словам, банкам следует отказаться от голосового подтверждения личности.
Deep fake чаще всего появляется в СМИ и политике. Он представляет угрозу перед выборами, считает эксперт. «Мы не можем запретить искусственный интеллект, мы можем его как-то ограничить, но главная защита — это образование в этой области и образование со стороны СМИ», — сказала Зитова.
В среду депутаты Европарламента одобрили новые правила работы искусственного интеллекта. Закон об искусственном интеллекте — первый в своем роде в мире, говорят эксперты. Правила вводят классификацию технологий в зависимости от их использования и устанавливают различные уровни ограничений в зависимости от степени риска. ЕС хочет полностью запретить некоторые системы, в то время как другие инструменты, такие как алгоритмы распознавания лиц, будут подвергаться жесткому регулированию.
«На практике новые правила, принятые европарламентариями, могут наложить некоторые ограничения на то, в каких областях и при каких условиях они будут развернуты и использованы. Поставщики должны будут иметь одобрение, источники данных и так далее. Но в то же время есть элемент того, что в тот момент, когда с вами разговаривает искусственный интеллект, люди должны знать, что они разговаривают с ним, а не с реальным человеком», — говорит Зитова.
ЧИТАЙТЕ ПО ТЕМЕ :
