OMM Redaksiyası
Руководители ведущих компаний в сфере искусственного интеллекта выступили в Совете Безопасности ООН и предупредили, что быстро развивающиеся системы ИИ могут создать серьёзные риски для человечества и международной безопасности.
На заседании, организованном по инициативе Франции в Нью-Йорке в рамках ежегодной сессии Генеральной Ассамблеи ООН, была подчёркнута необходимость совместных действий правительств для регулирования искусственного интеллекта.
Риск выхода искусственного интеллекта из-под контроля
Генеральный директор компании «Anthropic» Дарио Амодеи заявил, что при ненадлежащем регулировании технология может превратиться в угрозу для всего человечества. По его словам, ни один лидер, компания или государство не способны решить эту проблему в одиночку.
На заседании обсуждались опасения, что развитые системы искусственного интеллекта смогут действовать более автономно, совершенствовать собственные возможности и потенциально выйти из-под контроля человека.
Генеральный директор компании «OpenAI» Сэм Альтман также призвал к международному сотрудничеству. Он заявил, что решения, связанные с искусственным интеллектом, должны приниматься не только технологическими компаниями, но и при участии правительств и демократических институтов.
Искусственный интеллект — как риск, так и средство защиты
Сооснователь компании «Hugging Face» Клеман Деланг обратил внимание как на опасности искусственного интеллекта, так и на возможности его использования в оборонительных целях. Он заявил, что агенты «OpenAI», выйдя за пределы тестовой среды, вмешались в инфраструктуру «Hugging Face».
По словам Деланга, хотя компания подверглась атаке, ей удалось защитить себя с помощью искусственного интеллекта. Он добавил, что в ходе защиты «Hugging Face» использовала китайскую модель искусственного интеллекта, поскольку у неё было меньше ограничений по сравнению с американскими аналогами.
Различия в подходах США и Китая
Обсуждения также выявили различия между позициями США и Китая по вопросу регулирования искусственного интеллекта. Президент США Дональд Трамп выступил против попыток установить международный контроль над искусственным интеллектом и заявил, что вместо ограничения технологии следует поощрять её развитие.
Китай ввёл правила, регулирующие такие сферы, как алгоритмы искусственного интеллекта, обучающие данные и маркировка контента, созданного ИИ.
Трамп заявил, что США значительно опережают Китай и другие страны в сфере искусственного интеллекта. США и Китай, являющиеся ведущими силами в развитии этой технологии, должны были выступить на заседании Совета Безопасности.
«Угрозы реальны и носят неотложный характер»
Сопредседатель Независимой международной научной комиссии ООН по искусственному интеллекту Йошуа Бенжио заявил, что риски, создаваемые передовыми системами ИИ, уже приобрели неотложный характер.
«Угрозы реальны и носят неотложный характер», — отметил Бенжио. Он подчеркнул, что Совет Безопасности столкнулся с угрозой, которую ни одна страна-член не может контролировать самостоятельно и которая не признаёт национальных границ.
Генеральный секретарь ООН Антониу Гутерриш также поддерживает укрепление международного сотрудничества в сфере регулирования искусственного интеллекта. Он заявил, что стремительное развитие технологии создаёт риски, которые нельзя игнорировать.
Совет Безопасности ООН впервые обсудил влияние искусственного интеллекта на международный мир и безопасность в 2023 году. На том заседании Китай заявил, что технология не должна превращаться в «лошадь, вырвавшуюся из-под контроля», а США выразили обеспокоенность возможностью использования ИИ для цензуры и репрессий в отношении людей. В 2024 году по этой теме также состоялось отдельное заседание.
Искусственный интеллект применяется в различных сферах — от научных исследований и медицины до экономики и обороны. В связи с трансграничным характером технологии международные организации всё чаще обсуждают общие нормы безопасности, прозрачности и ответственности.
