OMM Redaksiyası
Руководители крупных компаний в сфере искусственного интеллекта призвали Совет Безопасности ООН создать глобальную систему надзора за этой технологией, предупредив, что её стремительное развитие может создавать риски для человечества. Об этом сообщила Al Jazeera со ссылкой на Associated Press и Reuters.
Генеральный директор Anthropic Дарио Амодеи заявил Совету, что неправильно управляемый искусственный интеллект может стать угрозой для всего человечества. Глава OpenAI Сэм Альтман также предупредил, что люди могут утратить контроль над будущим развитием ИИ.
Встреча была созвана Францией в рамках мероприятий, проходивших параллельно с Генеральной Ассамблеей ООН в Нью-Йорке. Она состоялась на фоне растущих призывов экспертов, правительств и организаций гражданского общества к усилению гарантий, призванных обеспечить сохранение человеческого контроля над развитием ИИ.
Лидеры ИИ призвали установить международные правила
Альтман заявил, что важнейшие решения в сфере ИИ не должны приниматься исключительно лабораториями в Сан-Франциско. По его словам, развитие этой технологии должно определяться демократическими процессами и правительствами, подотчётными своим гражданам.
Амодеи и Альтман присоединились к призывам к действиям со стороны министров иностранных дел Франции и Великобритании. Они заявили, что международному сообществу необходимы общие правила, регулирующие разработку и использование ИИ.
Генеральный директор компании «Hugging Face» Клеман Деланг заявил Совету, что его компания использовала ИИ для защиты от атак со стороны ИИ-агентов. По его словам, компания прибегла к китайской модели искусственного интеллекта, поскольку в отношении неё действовало меньше ограничений, чем в отношении сопоставимых американских инструментов.
«На нас напал ИИ, но, что ещё важнее, мы защитились с помощью ИИ», — сказал Деланг.
США выступили против централизованного глобального контроля
Администрация президента США Дональда Трампа выступила против введения новых международных ограничений для индустрии ИИ. Представлявший США на встрече Майкл Кратсиос заявил, что Вашингтон отвергает попытки международных организаций установить централизованный контроль и глобальное управление ИИ.
США и Китай конкурируют в разработке всё более мощных систем искусственного интеллекта. Эксперты считают, что это соперничество может привести к тому, что обе страны в ближайшей перспективе будут менее готовы принять существенные новые ограничения.
Ожидается, что председатель КНР Си Цзиньпин во время визита в Вашингтон на этой неделе обсудит, следует ли регулировать ИИ и каким образом это необходимо делать.
ООН расширяет роль в управлении ИИ
Глава направления по взаимодействию с ООН в International Crisis Group Дэниел Форти заявил, что среди государств — членов ООН растёт понимание необходимости международного сотрудничества и единых правил в сфере ИИ, несмотря на то что ведущие страны сосредоточены на коммерческих и стратегических возможностях этой технологии.
На протяжении нескольких лет ООН проводит многосторонние обсуждения вопросов, связанных с защитой работников от рисков, обусловленных ИИ, обеспечением доступа к технологии и контролем за её применением в военных конфликтах. В 2024 году Генеральная Ассамблея ООН единогласно приняла свою первую резолюцию по искусственному интеллекту. Документ, не имеющий обязательной силы, призвал страны защищать персональные данные, отслеживать риски, связанные с ИИ, и обеспечивать соблюдение прав человека.
В прошлом году Генеральная Ассамблея учредила Независимую международную научную комиссию по ИИ и Глобальный диалог по управлению ИИ. Комиссия предоставляет правительствам независимые оценки, а диалог служит площадкой для обсуждения подходов к регулированию искусственного интеллекта.
Канадский эксперт по ИИ и сопредседатель научной комиссии Йошуа Бенжио заявил Совету Безопасности, что опасности, связанные с ИИ, являются «реальными и непосредственными». По его словам, эта угроза не признаёт национальных границ и не может быть сдержана какой-либо одной страной.
