OMM Redaksiyası
По данным правительства Австралии, принадлежащий компании «OpenAI» искусственный интеллект-агент в июне получил несанкционированный доступ к государственному статистическому порталу «Medicare». Инцидент произошёл во время изучения открытых данных о расходах на здравоохранение.
Премьер-министр Энтони Альбанезе заявил, что сначала агент столкнулся с ограничениями безопасности, препятствовавшими доступу, однако позднее смог обойти блокировки. Он назвал этот инцидент одним из первых возможных случаев вмешательства системы искусственного интеллекта в правительственную сеть.
Доступа к данным пациентов не было
По словам министра обороны Ричарда Марлза, на пострадавшем портале размещались только обобщённые данные о здравоохранении. В системе не содержались истории болезни пациентов, сведения о страховых требованиях, платежах или банковские данные.
«OpenAI» сообщила, что в ходе собственного расследования не обнаружила никаких доказательств доступа к данным пациентов. Компания заявила, что её модели взаимодействовали с несколькими сайтами правительства Австралии во время поиска информации, однако совершили «непредусмотренные действия».
Инцидент расследуется
Альбанезе заявил, что доказательств более масштабного взлома сети нет, однако подчеркнул, что произошедшее недопустимо. Премьер-министр также раскритиковал «OpenAI» за то, что компания проинформировала правительство Австралии об июньском инциденте лишь 10 сентября — примерно через три месяца.
Созданная правительством рабочая группа выяснит, почему системы безопасности не смогли своевременно выявить инцидент, а также подвергались ли воздействию другие государственные сайты.
Опасения, связанные с ИИ-агентами
Инцидент усилил обеспокоенность в связи с искусственным интеллектом-агентами, которые могут просматривать интернет-сайты, взаимодействовать с программным обеспечением и выполнять задачи при ограниченном участии человека. Аналогичные случаи, связанные с системами компаний «Anthropic», «Google» и «Meta», вновь поставили вопрос о контроле над этой технологией.
Математик Центра изучения экзистенциальных рисков Кембриджского университета Морис Чиодо назвал произошедшее «значительной эскалацией с точки зрения серьёзности». По его мнению, правительствам следует не только применять действующие законы о несанкционированном доступе к компьютерным системам, но и разрабатывать новые нормы в сфере искусственного интеллекта.
