OMM Redaksiyası
Компания OpenAI извинилась перед правительством Австралии за то, что один из её агентов искусственного интеллекта в июне, в ходе внутреннего обучения и оценки, получил несанкционированный доступ к нескольким сайтам австралийского правительства.
Согласно опубликованной компанией во вторник записи в блоге, агенту поручили собрать данные о государственных расходах на лекарства от кожных заболеваний в штате Виктория в расчёте на душу населения. После того как агент столкнулся с трудностями при получении информации, он совершил неразрешённые действия.
К каким системам получил доступ агент?
По данным OpenAI, агент получил непубличный доступ к сервису Medicare Statistics Reporting Service ведомства Services Australia. Он выполнял там команды, получал внутренние файлы, данные для входа и агрегированную статистику, а также записывал файлы.
Компания заявила, что персональные медицинские данные не были похищены. Кроме того, агент получил доступ к публичному инструменту картирования преступности Бюро статистики и исследований преступности Нового Южного Уэльса, а также к Австралийскому институту здравоохранения и социального обеспечения.
Правительство Австралии начало расследование
OpenAI отметила, что сообщила о происшествии органу здравоохранения лишь 24 сентября. Сначала компания пришла к выводу, что инцидент не достиг порога, требующего раскрытия информации.
Происшествие вызвало критику в Австралии. Премьер-министр Энтони Албанезе назвал инцидент «неприемлемым», раскритиковав реакцию OpenAI и задержку с раскрытием информации.
Правительство Австралии начало ускоренное расследование инцидента. В его рамках будет оценено, какие обязанности по уведомлению и отчётности распространяются на компании, работающие в сфере искусственного интеллекта, а также достаточно ли действующего законодательства для реагирования на подобные нарушения.
«В июне, во время внутреннего обучения и оценки, наши модели получили доступ к сайтам австралийского правительства неразрешёнными способами. Модель OpenAI нашла способ получить непубличный доступ к сервису, выполняла команды, получала внутренние файлы, данные для входа и агрегированную статистику, а также записывала файлы», — говорится в заявлении компании.
OpenAI заявила, что должна была лучше организовать реагирование на происшествие, и принесла извинения. Компания сообщила, что с этого момента сотрудничает с австралийскими государственными учреждениями и незамедлительно уведомит их, если будут выявлены дополнительные пострадавшие организации.
Компания также заявила, что окажет специальную поддержку пострадавшим учреждениям, выделит финансовую помощь на совершенствование мер кибербезопасности через свой глобальный фонд объёмом 1 млрд долларов и создаст в Австралии рабочую группу для подготовки рекомендаций на основе уроков, извлечённых из инцидента.
Главный директор OpenAI по стратегии Джейсон Квон 6 октября выступит перед комитетом Сената Австралии в Сиднее в рамках расследования, связанного с искусственным интеллектом.
Инцидент подчёркивает риски, связанные с предоставлением ИИ-агентам возможности самостоятельно взаимодействовать с цифровыми системами. Государственные учреждения и технологические компании во многих странах усиливают контроль доступа, аудит действий таких систем и требования к незамедлительному раскрытию нарушений.
