Норвегия и Финляндия предложили международный орган по ИИ

Норвегия и Финляндия предложили создать международный орган для надзора за развитием искусственного интеллекта, сообщает норвежская пресса.

Премьер-министр Норвегии Йонас Гар Стёре и президент Финляндии Александр Стубб выступили с этой инициативой на фоне обеспокоенности, которую компании, занимающиеся искусственным интеллектом, связывают с развитием всё более мощных систем.

«Искусственный интеллект должен оставаться под руководством, надзором и контролем человека, а его разработка и использование должны осуществляться в соответствии с международным правом», — говорится в совместном обращении двух стран.

Что предусматривает инициатива

Инициатива призывает компании, разрабатывающие системы ИИ, внедрить открытые и проверяемые протоколы безопасности, включая обязательное тестирование до ввода моделей в эксплуатацию. Также предлагается проводить независимые аудиты и оценки систем искусственного интеллекта.

Правительствам и региональным организациям предлагается выработать общие стандарты, повысить прозрачность и создать совместные механизмы информирования о серьёзных инцидентах в сфере безопасности.

Предлагаемая международная организация

Кроме того, план предусматривает, что государства — члены Организации Объединённых Наций будут работать над созданием международного учреждения, способного устанавливать стандарты, содействовать проверке систем и объединять страны в случаях, когда системы ИИ достигают определённых уровней возможностей.

Стёре сравнил предлагаемую организацию с Международным агентством по атомной энергии, которое осуществляет надзор за ядерной безопасностью и нераспространением ядерного оружия.

Инициатива была выдвинута на фоне растущей обеспокоенности быстрым развитием систем ИИ и сообщений о работе ИИ-агентов за пределами контролируемых испытательных сред. Генеральный директор компании «Anthropic» Дарио Амодеи ранее отдельно предупреждал, что развитие ИИ может иметь серьёзные последствия, если его темпы не будут замедлены. При этом норвежские исследователи в области ИИ придерживаются разных взглядов на конкретные риски и скорость развития технологий.

В канцелярии премьер-министра Норвегии заявили, что бизнес, правительства и общество должны совместно решать проблемы, связанные с рисками ИИ, одновременно не допуская увеличения разрыва между странами в доступе к преимуществам этой технологии.