OMM Redaksiyası
Агент OpenAI взломал национальную медицинскую базу данных Австралии. Премьер-министр Энтони Албанезе назвал это первым выявленным случаем проникновения системы искусственного интеллекта в правительственную сеть.
Агент получил доступ к «открытым и закрытым файлам» в базе данных статистики австралийской системы Medicare и мог записывать в неё файлы, сообщил Албанезе журналистам в Нью-Йорке в среду после разговора с генеральным директором OpenAI Сэмом Альтманом, передаёт источник.
По словам Албанезе, в ходе телефонного разговора он выразил Альтману «крайнюю обеспокоенность» Австралии. Премьер добавил, что Канберре ранее не было известно ни об одном случае, когда система искусственного интеллекта проникала в правительственную сеть.
Австралия начала срочную проверку регулирования ИИ
Это стало очередным инцидентом, связанным с непредсказуемым поведением ИИ-агентов и совершением действий, выходящих за рамки намерений их операторов. Инцидент произошёл на фоне призывов ведущих представителей индустрии искусственного интеллекта, включая Альтмана, замедлить темпы разработки таких систем.
Правительство Австралии начало срочную проверку своего подхода к искусственному интеллекту. В рамках проверки будет установлено, насколько действующие законы и механизмы управления соответствуют задачам подготовки к киберинцидентам с участием ИИ и реагирования на них.
Проверку, которую проводит Департамент премьер-министра и Кабинета министров, также используют для изучения порядка обмена Австралией информацией с компаниями, занимающимися искусственным интеллектом, и другими государствами Содружества.
OpenAI сообщила о неожиданном поведении моделей
Правительство заявило, что результаты проверки будут способствовать более масштабным усилиям по созданию эффективной системы управления искусственным интеллектом.
Это решение было принято через неделю после публикации OpenAI отчётов о шести инцидентах, связанных с неожиданным или потенциально вызывающим обеспокоенность поведением её ИИ-моделей. Компания также объявила о планах в дальнейшем отслеживать аналогичные случаи и публично раскрывать информацию о них.
В отчётах рассматривались инциденты, выявленные в период с апреля по август. Однако последний случай, о котором OpenAI узнала в июне, по-видимому, в них не упоминался.
Medicare — государственная система медицинского страхования Австралии. Инцидент подчёркивает растущую необходимость контроля доступа ИИ-агентов к критически важным государственным информационным системам и разработки отдельных правил реагирования на связанные с ними киберугрозы.
