OMM Redaksiyası
Предупреждения исследователей американской компании в сфере искусственного интеллекта "Anthropic" о том, что всё более мощные модели ИИ могут выйти из-под контроля человека, привлекли внимание и в Китае. Китай и США считаются ведущими странами в разработке передового искусственного интеллекта и глобальном распространении этой технологии.
Обе страны обеспокоены вопросами контроля над ИИ, однако их подходы к обеспечению безопасности различаются. Пекин делает больший акцент на государственном надзоре, тогда как в США дискуссии в основном сосредоточены на механизмах контроля, применяемых на уровне компаний.
Китайские политики рассматривают искусственный интеллект как мощную, но управляемую технологию. Согласно их позиции, риски можно ограничить посредством технических стандартов, регулирования и государственного контроля.
Основатель и генеральный директор компании "Concordia AI" Брайан Цэ заявил, что эксперты из Китая и США в целом сходятся во взглядах на риски, связанные с искусственным интеллектом. По его словам, различия заключаются в том, как эти риски формулируются и расставляются приоритеты.
В политическом документе, опубликованном в мае китайскими органами, отвечающими за киберпространство, экономическое планирование и промышленность, «потеря операционного контроля» над ИИ-агентами была определена как риск безопасности. В отличие от традиционных чат-ботов, такие агенты способны более самостоятельно планировать и выполнять многоэтапные задачи.
Документ требует от разработчиков расширять возможности по выявлению, пресечению, блокированию и восстановлению после некорректного или вышедшего из-под контроля поведения ИИ-агентов. Кроме того, рекомендуется принимать меры против таких рисков, как отравление данных, манипулирование алгоритмами и уязвимости систем.
Согласно китайским правилам, система искусственного интеллекта должна быть прозрачной, пользователи должны получать информацию о самостоятельных решениях агентов, а полномочия по принятию окончательных решений должны оставаться у человека.
Министр государственной безопасности Китая Чэнь Исин 13 сентября написал в принадлежащем правительству издании, что передовые модели американских компаний "Anthropic" — "Mythos" — и "OpenAI" — "GPT-5.5-Cyber" — могут представлять серьёзную угрозу критически важной информационной инфраструктуре Китая. Он призвал всесторонне укреплять безопасность в сфере искусственного интеллекта.
В опубликованной в сентябре 2024 года китайской концепции безопасности ИИ впервые открыто упоминался сценарий будущей потери контроля. В документе отмечалось, что нельзя исключать вероятность самостоятельного получения искусственным интеллектом внешних ресурсов, самовоспроизведения, развития сознания и поиска внешней силы.
В обновлённой концепции, опубликованной в сентябре 2025 года, этот сценарий был конкретизирован. В новом документе подчёркивается, что до получения ресурсов, самовоспроизведения и поиска власти искусственный интеллект может совершить внезапный и непредсказуемый «скачок» в уровне интеллекта.
Регуляторный подход Китая отличается от призывов некоторых западных кругов, занимающихся безопасностью ИИ, замедлить или приостановить разработку наиболее мощных моделей до создания соответствующих механизмов безопасности. Вместо этого Пекин поощряет интеграцию искусственного интеллекта во все отрасли промышленности, однако может откладывать его применение, если считает, что управление отстаёт от технологического развития.
Таким образом, Китай стремится сочетать ускоренное внедрение ИИ с формализованными требованиями к прозрачности, вмешательству человека и возможности экстренного отключения систем. Подобные меры рассматриваются как часть более широкой политики Пекина по обеспечению технологической и информационной безопасности.
