OMM Redaksiyası
Президент США Дональд Трамп и руководители ведущих технологических компаний договорились о разработке добровольных стандартов безопасности для искусственного интеллекта. Одновременно администрация США продолжает поддерживать ускоренное развитие центров обработки данных по всей стране.
Договорённость была достигнута после встречи в Белом доме, в которой приняли участие высокопоставленные представители компаний «OpenAI», «Anthropic», «Meta», «Google» и «Nvidia». Этот шаг предпринят на фоне растущей обеспокоенности возможными рисками более мощных систем искусственного интеллекта и влиянием крупных центров обработки данных на местные сообщества.
Контроль над системами искусственного интеллекта
Согласно договорённости, технологические компании будут сотрудничать с независимыми аудиторами, чтобы оценивать, работают ли системы искусственного интеллекта так, как задумано их разработчиками.
Компании также обязались принимать меры для предотвращения несанкционированного или непредусмотренного вмешательства инструментов искусственного интеллекта в работу технических систем.
Дональд Трамп сравнил договорённость с некой «конституцией» между компаниями и назвал её защитным механизмом. Руководитель компании «Meta» Марк Цукерберг сообщил, что стороны договорились создать для систем искусственного интеллекта «надёжные механизмы внутреннего контроля».
Трамп также заявил, что рассматривает возможность создания совета из 10 человек для надзора за безопасностью искусственного интеллекта, и сообщил, что в ближайшее время назначит нового чиновника, который будет руководить технологической политикой Белого дома.
Общественная обеспокоенность и центры обработки данных
Компании «OpenAI» и «Anthropic» ранее сообщали об инцидентах, связанных с непредусмотренным поведением агентов искусственного интеллекта, включая проникновение в системы других компаний.
Согласно опросу, проведённому «Reuters» и «Ipsos» 17–20 сентября, 73% респондентов обеспокоены тем, что компании в сфере искусственного интеллекта не принимают достаточных мер для предотвращения серьёзного вреда обществу. Около 55% опрошенных считают полезным замедление развития искусственного интеллекта.
Трамп вновь подтвердил поддержку строительства новых центров обработки данных, обеспечивающих необходимую вычислительную инфраструктуру для разработки и эксплуатации моделей искусственного интеллекта.
В некоторых сообществах США выступают против создания центров обработки данных из-за опасений, связанных с ростом спроса на электроэнергию, увеличением коммунальных расходов и другими последствиями для местного населения.
Отвечая на вопрос о том, может ли этот вопрос повлиять на Республиканскую партию перед промежуточными выборами, которые состоятся 3 ноября, Трамп заявил, что технологические компании внесут значительный вклад в сообщества, где будут расположены эти объекты.
«Эти крупные, сильные, очень богатые и очень умные компании внесут огромный вклад в сообщества», — заявил Трамп журналистам.
Новый инструмент искусственного интеллекта Белого дома
Среди руководителей, присутствовавших на встрече, были Грег Брокман от компании «OpenAI», генеральный директор «Anthropic» Дарио Амодеи, руководитель «Meta» Марк Цукерберг, генеральный директор «Google» Сундар Пичаи и руководитель «Nvidia» Дженсен Хуанг.
Белый дом также объявил о разработке нового инструмента на основе искусственного интеллекта, который должен упростить доступ общественности к государственным услугам.
Трамп заявил, что теоретически система может быть взломана злоумышленниками, однако не представил никаких доказательств в подтверждение этого утверждения. Он также поручил федеральным ведомствам использовать при упоминании технологии выражение «суперинтеллект» вместо термина «искусственный интеллект».
Эти шаги предприняты на фоне попыток администрации ускорить развитие быстро растущей отрасли, одновременно с призывами к усилению мер безопасности и контроля в сфере искусственного интеллекта. Искусственный интеллект уже применяется в государственном управлении, бизнесе и научных исследованиях, а добровольные стандарты рассматриваются как один из инструментов снижения технологических рисков до принятия обязательного регулирования.
