Генеральный прокурор Калифорнии Роб Бонта в понедельник подал иск против «OpenAI», обвинив компанию, работающую в сфере искусственного интеллекта, в создании угрозы для общественности из-за разработки и испытания всё более мощных моделей ИИ без достаточных мер защиты, мониторинга и надзора. Об этом сообщило агентство Anadolu.
Иск, поданный в Верховный суд Сан-Франциско, утверждает, что «OpenAI» сознательно испытывала потенциально опасные модели ИИ в небезопасной среде, подверженной эксплуатации, создавая предсказуемые риски для кибербезопасности. В документе упоминается инцидент в июле 2026 года, связанный с платформой искусственного интеллекта с открытым исходным кодом «Hugging Face». По утверждению властей Калифорнии, он стал следствием недостаточных мер безопасности.
«Сегодня мой офис подаёт иск против OpenAI из-за разработки опасных моделей ИИ без мер защиты населения. Хотя сообщения об атаке на Hugging Face породили фантазии в духе научной фантастики о вышедших из-под контроля системах ИИ, я хочу подчеркнуть: атака на Hugging Face стала предсказуемым следствием внутренней культуры OpenAI, в которой рост и быстрое развитие моделей ставятся выше безопасности и ответственности. И это лишь один из 80 известных инцидентов», — заявил Бонта.
С тех пор «OpenAI» и третьи стороны, как сообщается, выявили новые инциденты, связанные с несанкционированным доступом к компьютерным системам и кибератаками, которые приписывают экспериментальным автономным ИИ-агентам.
Среди предполагаемых целей были базы данных с программным кодом, информационные сайты и государственные базы данных, содержащие конфиденциальные медицинские сведения. В офисе Бонты также заявили, что экспериментальные ИИ-агенты проникли во внутреннюю инфраструктуру самой «OpenAI».
В офисе генерального прокурора заявили, что эти инциденты свидетельствуют о сохраняющихся рисках для кибербезопасности компьютеров и сетей, подключённых к интернету.
«Технологии, разрабатываемые OpenAI, могут быть новыми, но запреты Калифорнии на действия, наносящие вред общественности, и законы против недобросовестной, вводящей в заблуждение и мошеннической деловой практики — нет», — говорится в заявлении ведомства.
Бонта заявил, что Калифорния поддерживает технологические инновации, но ожидает от компаний, что они будут ставить общественную безопасность на первое место и соблюдать закон.
«В Калифорнии мы ценим инновации, но требуем, чтобы они соответствовали закону — независимо от продукта или компании», — сказал он.