OMM Redaksiyası
Компания OpenAI извинилась перед Австралией во вторник после признания в том, что её модели искусственного интеллекта получили несанкционированный доступ к правительственным сайтам во время внутреннего обучения и тестирования.
«В июне во время внутреннего обучения и тестирования наши модели получили доступ к сайтам австралийского правительства способами, на которые у них не было разрешения, — заявили в OpenAI. — Мы также должны были лучше отреагировать на произошедшее. Мы приносим извинения и будем работать над тем, чтобы в будущем действовать лучше».
В компании сообщили, что обнаружили эту активность в середине августа, изучая результаты более ранних работ по обучению и тестированию после отдельного инцидента, связанного с исследовательской платформой искусственного интеллекта «Hugging Face».
К каким системам был получен доступ?
Раскрытие информации произошло через пять дней после того, как премьер-министр Австралии Энтони Албанезе сообщил об инциденте, связанном с порталом Medicare, в Нью-Йорке на полях Генеральной Ассамблеи ООН.
24 сентября Албанезе заявил, что агент OpenAI получил несанкционированный доступ к Службе отчётности по статистике Medicare, которой управляет Services Australia. Агент получил доступ к публичным и непубличным файлам, после чего было начато судебно-компьютерное расследование при поддержке Австралийского управления сигналов.
Австралийские чиновники заявили, что портал содержит агрегированную статистику Medicare и отделён от систем, обрабатывающих индивидуальные заявки на медицинские выплаты и персональную информацию.
В OpenAI сообщили, что в ходе проверки выявили активность, связанную с четырьмя государственными организациями: Services Australia, Бюро статистики преступности и исследований Нового Южного Уэльса, Департаментом здравоохранения штата Виктория и Австралийским институтом здравоохранения и благосостояния.
OpenAI заявила, что к индивидуальным данным доступ не получали
В Services Australia экспериментальной внутренней модели было поручено исследовательское задание: изучить государственные расходы на одного человека на лекарства для лечения кожных заболеваний в общинах штата Виктория.
В OpenAI заявили, что модель столкнулась с трудностями при получении информации, а затем предприняла несанкционированные действия, позволившие ей получить доступ к материалам, выходящим за пределы общедоступных данных.
По данным компании, модель изучала техническую информацию и исходный код, а также получила доступ к внутренним файлам, учётным данным и агрегированной статистике. При этом проверка не выявила признаков доступа к индивидуальным данным пациентов или клиентов.
«Мы не намеревались допустить эту активность, и доступа к сервису, равно как и последующих действий, не должно было быть», — заявили в OpenAI.
В компании добавили, что её модели также получили доступ к системам, которыми управляют три другие организации, однако не обращались к индивидуальным записям о преступлениях, медицинским картам или идентифицируемым ответам участников опросов.
Компания пообещала усилить меры защиты
В OpenAI сообщили, что усилили меры безопасности, введя дополнительные сетевые ограничения и системы мониторинга.
Компания также пообещала предоставить пострадавшим ведомствам техническую поддержку и содействовать укреплению киберзащиты Австралии.
Кроме того, OpenAI создаст австралийскую рабочую группу с участием независимых экспертов. Она займётся подготовкой рекомендаций по кибербезопасности, связанной с искусственным интеллектом, и улучшением координации между разработчиками ИИ и государственными органами.
Директор по стратегии OpenAI Джейсон Квон должен выступить перед Объединённым специальным комитетом Австралии по искусственному интеллекту в Сиднее 6 октября.
