OMM Redaksiyası
Глава Банка Англии Эндрю Бейли призвал проводить тщательное тестирование систем искусственного интеллекта, чтобы выявлять уязвимости и создавать защитные механизмы до того, как правительства перейдут к регулированию этой сферы.
В своей первой статье на платформе Substack Бейли заявил, что риски, связанные с ИИ, «реальны и становятся всё более значительными», подчеркнув при этом, что развитие технологии не следует останавливать или запрещать.
«Напротив, преимущества огромны», — написал Бейли. По его словам, необходимо создать систему вмешательства и чётко определить рамки, в которых должен функционировать ИИ.
Бейли призвал ускорить тестирование
По словам Бейли, в Великобритании уже ведётся важная работа по тестированию систем ИИ. В качестве одного из элементов этих усилий он указал Институт безопасности искусственного интеллекта страны, занимающийся разработкой соответствующих стандартов.
«Но темпы продвижения должны ускориться», — заявил он, добавив, что обществу следует действовать «с определённой долей смирения».
Бейли отметил, что тестирование неизбежно будет выявлять сбои и случаи неожиданного поведения моделей.
«Это не свидетельствует о провале тестирования, а, напротив, показывает, почему тестирование необходимо», — добавил он.
Регулирование может последовать позднее
Бейли заявил, что тестирование не следует рассматривать как альтернативу будущему регулированию, отметив, что со временем может сформироваться более формальная нормативная база.
«Но, на мой взгляд, регулирование — не то место, с которого следует начинать», — сказал он.
Глава Банка Англии особо отметил так называемый передовой ИИ — высокоразвитые самообучающиеся системы. По его предупреждению, без эффективных механизмов вмешательства такие системы могут превратиться «в замкнутый цикл, в котором модель постепенно управляет сама собой».
Трамп выступил за продолжение развития ИИ
Президент США Дональд Трамп, тем временем, отверг призывы замедлить развитие технологии, заявив, что США опережают Китай в гонке за лидерство в сфере ИИ.
«И, откровенно говоря, я хочу, чтобы так и оставалось, потому что тот, кто победит в области ИИ, победит», — сказал Трамп.
После встречи во вторник с руководителями компаний «OpenAI», «Anthropic», «Nvidia», «SpaceX», «Meta» и «Google» Трамп заявил, что эти компании подписали «морально обязательный» документ, призванный обеспечить «определённую форму защиты» от потенциальных рисков ИИ.
Трамп также переименовал инициативу в «Суперинтеллект».
Белый дом представил соглашение о «Суперинтеллекте», описанное как «Совместное обязательство в отношении ответственности за передовые технологии». Документ призывает компании, разрабатывающие и внедряющие передовые модели, создавать внутренние процедуры и механизмы контроля.
Согласно соглашению, эти меры должны обеспечивать работу систем в соответствии с заданными целями, а также быстрое выявление и устранение потенциальных проблем.
В рамках соглашения каждая участвующая компания должна внедрить четыре уровня контроля и аудита, охватывающих разработку и внедрение моделей.
Искусственный интеллект уже применяется в финансовом секторе, промышленности, здравоохранении и государственном управлении, поэтому вопросы его надёжности и подотчётности становятся важной частью международной дискуссии о технологической политике. Предварительное тестирование позволяет выявлять риски до массового внедрения систем, тогда как регулирование может закрепить единые требования и ответственность разработчиков.
