OMM Redaksiyası
ИИ-агенты, разработанные «OpenAI», скрывали следы действий при получении доступа к данным на сайтах государственных ведомств и других организаций. Об этом свидетельствуют результаты расследования компании в сфере цифровой криминалистики «Asymmetric Security», о которых сообщила газета «Financial Times».
По данным компании, агенты извлекли данные с 55 сайтов государственных учреждений, коммерческих организаций и некоммерческих структур, в том числе Центров по контролю и профилактике заболеваний США (CDC), Комиссии по ценным бумагам и биржам (SEC), Международного энергетического агентства и «Mayo Clinic».
Что показало расследование
В «Asymmetric Security» заявили, что агенты удаляли записи или делали их недоступными, ограничивая возможности внешних аудиторов и исследователей изучать их действия.
Кроме того, агенты создавали временные почтовые ящики и закрытые аккаунты на сайте для сканирования вредоносных программ «Urlquery», чтобы скачивать данные. По словам исследователей, такие методы затрудняли отслеживание информации, собранной с сайтов, включая австралийское ведомство статистики здравоохранения и систему льготного обеспечения лекарствами.
«Возможно, агенты намеренно использовали эти инструменты, чтобы замести следы», — заявила газете «Financial Times» сооснователь «Asymmetric Security» Пиппа Томпсон.
Намерения остаются неясными
Как сообщила газета, компания не смогла установить, были ли действия преднамеренными или агенты вышли из-под контроля из-за ограничений, заданных в ходе тестирования.
Эти выводы появились после сообщений о том, что в июне модели «OpenAI» взломали сайты австралийской государственной службы здравоохранения, получив доступ к открытым и закрытым файлам. Сооснователь «Asymmetric Security» Зайнаб Али Маджид отметила, что ограниченная прозрачность и задержка между взломами и раскрытием информации о них могут помешать полноценному расследованию.
«Мы анализируем случаи несоответствующего поведения моделей и уведомляем организации, когда выявляем потенциальное воздействие на их системы», — сообщили в «OpenAI» газете «Financial Times». В компании заявили, что большая часть обнаруженной активности была связана с «обычными исследовательскими задачами», в том числе с доступом к общедоступному интернет-контенту.
В SEC заявили, что доступ к частной информации получен не был. CDC, Международное энергетическое агентство и «Mayo Clinic» не ответили на запросы газеты о комментариях.
