ИИ может быть использован для быстрого распространения пропаганды
5 июля 2024
19:30
1122
Языковые модели, основанные на искусственном интеллекте (ИИ), могут быть использованы для быстрого распространения пропаганды, влияния на общественное пространство или переполнения информационной среды. Об этом заявила военная разведка (VZ) в своем годовом отчете за 2023 год. По мнению разведки, этот тип ИИ также может быть использован для автоматизированных кибератак или массовой активности в социальных сетях для поляризации общества.
Создание высококачественных и реалистичных изображений и видеороликов позволяет, например, создавать порнографические материалы, направленные на конкретных политических деятелей с целью шантажа или влияния на выборы, утверждает VZ. «Аудиовизуальные технологии генеративного ИИ позволяют, например, создавать пропагандистские видеоролики, распространяемые через социальные сети», — говорится в сообщении разведывательного агентства. В случае генерации звука голос выбранного представителя может быть воссоздан и использован, например, для фишинговых атак, когда целью становятся конкретные учреждения или люди.
Комбинация этих технологий позволяет создавать реалистичные, так называемые deepfake-видео, сообщает VZ. «Такая попытка была зафиксирована в начале российского вторжения в Украину, когда был распространен deepfake президента (Владимира) Зеленского, призывающего украинские вооруженные силы сложить оружие», — пишет VZ. Из-за низкого качества видео атака не увенчалась успехом. «Однако это говорит скорее о неготовности Российской Федерации к конфликту, чем о низком качестве генеративных технологий», — добавляет VZ.
По словам VZ, прошлый год стал значительной вехой в использовании потенциала искусственного интеллекта, над практическим применением которого секретная служба интенсивно работает в своей деятельности. Например, ИИ может сыграть важную роль в автоматической оценке спутниковых снимков и других данных. Он также может быть полезен при обучении пилотов, создании сценариев для военных игр или планировании логистики. «В будущем можно ожидать, что ИИ будет использоваться и для поддержки командования, особенно на тактическом уровне», — говорится в ежегодном отчете.
По данным VZ, оружейные компании работают над использованием ИИ в военных целях. Это можно увидеть, например, в небольших беспилотниках-смертниках в Украине, где ИИ обнаруживает военные цели. «В будущем (...) можно будет использовать рои этих небольших дронов с достаточно продвинутыми технологиями ИИ для уничтожения конкретных целей (людей) при очень низких затратах», — отмечает VZ. Однако, если эта технология станет более доступной, она рискует быть использованной в террористических целях, предупреждает он.
Появление и развитие ИИ и связанной с ним экономики, говорит VZ, дает возможность государствам, которые начнут действовать рано и в достаточной степени, увеличить свою экономическую мощь и позиции на международном уровне. «С другой стороны, существует риск концентрации возможностей в нескольких государствах в случае отсутствия конкуренции, вызванной небольшим количеством сильных, активных игроков», — добавляет VZ. Если глобальные игроки будут недостаточно активны, существует риск массовой концентрации этой экономики у двух или трех сверхдержав, что также приведет к усилению их военной и разведывательной мощи«.
Технологические сдвиги, однако, не означают, что от традиционной войны откажутся, считает VZ. «Поэтому способность обеспечивать оборону с помощью обычных вооружений и систем вооружений остается необходимым условием обороноспособности страны», — говорится в годовом отчете.
Комбинация этих технологий позволяет создавать реалистичные, так называемые deepfake-видео, сообщает VZ. «Такая попытка была зафиксирована в начале российского вторжения в Украину, когда был распространен deepfake президента (Владимира) Зеленского, призывающего украинские вооруженные силы сложить оружие», — пишет VZ. Из-за низкого качества видео атака не увенчалась успехом. «Однако это говорит скорее о неготовности Российской Федерации к конфликту, чем о низком качестве генеративных технологий», — добавляет VZ.
По словам VZ, прошлый год стал значительной вехой в использовании потенциала искусственного интеллекта, над практическим применением которого секретная служба интенсивно работает в своей деятельности. Например, ИИ может сыграть важную роль в автоматической оценке спутниковых снимков и других данных. Он также может быть полезен при обучении пилотов, создании сценариев для военных игр или планировании логистики. «В будущем можно ожидать, что ИИ будет использоваться и для поддержки командования, особенно на тактическом уровне», — говорится в ежегодном отчете.
По данным VZ, оружейные компании работают над использованием ИИ в военных целях. Это можно увидеть, например, в небольших беспилотниках-смертниках в Украине, где ИИ обнаруживает военные цели. «В будущем (...) можно будет использовать рои этих небольших дронов с достаточно продвинутыми технологиями ИИ для уничтожения конкретных целей (людей) при очень низких затратах», — отмечает VZ. Однако, если эта технология станет более доступной, она рискует быть использованной в террористических целях, предупреждает он.
Появление и развитие ИИ и связанной с ним экономики, говорит VZ, дает возможность государствам, которые начнут действовать рано и в достаточной степени, увеличить свою экономическую мощь и позиции на международном уровне. «С другой стороны, существует риск концентрации возможностей в нескольких государствах в случае отсутствия конкуренции, вызванной небольшим количеством сильных, активных игроков», — добавляет VZ. Если глобальные игроки будут недостаточно активны, существует риск массовой концентрации этой экономики у двух или трех сверхдержав, что также приведет к усилению их военной и разведывательной мощи«.
Технологические сдвиги, однако, не означают, что от традиционной войны откажутся, считает VZ. «Поэтому способность обеспечивать оборону с помощью обычных вооружений и систем вооружений остается необходимым условием обороноспособности страны», — говорится в годовом отчете.
ЧИТАЙТЕ ПО ТЕМЕ :
