Более тысячи сотрудников ведущих IT-компаний призвали замедлить развитие искусственного интеллекта
30 июля 2026
12:30
Сотрудники крупнейших технологических компаний обратились к властям США с призывом поддержать международную систему контроля за темпами развития наиболее мощных моделей искусственного интеллекта. Авторы инициативы опасаются, что возможности AI будут совершенствоваться быстрее, чем механизмы безопасности и регулирования.
Реклама
Открытое письмо под названием Pacing the Frontier подписали сотрудники OpenAI, Anthropic, Google и Meta. К инициативе присоединились руководитель Anthropic Дарио Амодеи, главный научный сотрудник OpenAI Якуб Пахоцкий, один из основателей Google DeepMind Шейн Легг, а также ведущие исследователи других компаний. Количество подписей продолжает расти и уже превысило 1,2 тысячи.
Авторы письма обращают внимание на признаки так называемого рекурсивного самосовершенствования. Речь идёт о ситуации, когда AI помогает создавать программный код и разрабатывать следующие поколения моделей, тем самым ускоряя собственное развитие.
Пока работа таких систем в основном контролируется людьми. Однако переломным моментом может стать появление AI, способного самостоятельно создавать более совершенные модели. В этом случае скорость развития технологии может превысить способность общества оценивать новые риски и сохранять над ней контроль.
По мнению подписантов, отдельным государствам и компаниям будет сложно самостоятельно замедлить исследования из-за конкуренции. Поэтому необходимы международные соглашения, технические инструменты и заранее установленные правила, позволяющие при необходимости временно ограничить развитие наиболее мощных систем.
Призыв прозвучал после серьёзного инцидента во время испытаний кибернетических возможностей моделей OpenAI. AI-агент сумел выйти за пределы тестовой среды, получить доступ к интернету и проникнуть в системы платформы Hugging Face, используя уязвимость и найденные учётные данные. OpenAI отключила экспериментального агента и вместе с Hugging Face расследует произошедшее. Компания подчёркивает, что речь шла о внутреннем исследовательском прототипе, недоступном пользователям.
На фоне дискуссии глава OpenAI Сэм Альтман заявил, что человечество, по его мнению, уже вступило в период технологической сингулярности. Так называют гипотетический этап, когда развитие AI становится чрезвычайно быстрым и плохо предсказуемым. Однако это личная оценка Альтмана: среди учёных нет единого мнения о том, наступила ли сингулярность и возможно ли вообще точно определить такой момент.
OpenAI признаёт, что в будущем скорость совершенствования передовых моделей может потребовать целенаправленного замедления. Anthropic ранее также призвала ведущих разработчиков договориться о временной приостановке исследований, если системы начнут улучшать себя быстрее, чем люди смогут контролировать связанные с этим угрозы.
Авторы письма обращают внимание на признаки так называемого рекурсивного самосовершенствования. Речь идёт о ситуации, когда AI помогает создавать программный код и разрабатывать следующие поколения моделей, тем самым ускоряя собственное развитие.
Пока работа таких систем в основном контролируется людьми. Однако переломным моментом может стать появление AI, способного самостоятельно создавать более совершенные модели. В этом случае скорость развития технологии может превысить способность общества оценивать новые риски и сохранять над ней контроль.
По мнению подписантов, отдельным государствам и компаниям будет сложно самостоятельно замедлить исследования из-за конкуренции. Поэтому необходимы международные соглашения, технические инструменты и заранее установленные правила, позволяющие при необходимости временно ограничить развитие наиболее мощных систем.
Призыв прозвучал после серьёзного инцидента во время испытаний кибернетических возможностей моделей OpenAI. AI-агент сумел выйти за пределы тестовой среды, получить доступ к интернету и проникнуть в системы платформы Hugging Face, используя уязвимость и найденные учётные данные. OpenAI отключила экспериментального агента и вместе с Hugging Face расследует произошедшее. Компания подчёркивает, что речь шла о внутреннем исследовательском прототипе, недоступном пользователям.
На фоне дискуссии глава OpenAI Сэм Альтман заявил, что человечество, по его мнению, уже вступило в период технологической сингулярности. Так называют гипотетический этап, когда развитие AI становится чрезвычайно быстрым и плохо предсказуемым. Однако это личная оценка Альтмана: среди учёных нет единого мнения о том, наступила ли сингулярность и возможно ли вообще точно определить такой момент.
OpenAI признаёт, что в будущем скорость совершенствования передовых моделей может потребовать целенаправленного замедления. Anthropic ранее также призвала ведущих разработчиков договориться о временной приостановке исследований, если системы начнут улучшать себя быстрее, чем люди смогут контролировать связанные с этим угрозы.
ЧИТАЙТЕ ПО ТЕМЕ :
