Редакция OMM
Некоторые из наиболее продвинутых в мире моделей искусственного интеллекта успешно разрабатывали планы кибератак на критическую инфраструктуру, включая системы водоснабжения и электроснабжения, примерно в 90% попыток. Об этом говорится в исследовании, опубликованном в среду и о котором сообщило агентство Anadolu.
Компания по кибербезопасности «Frenos» проверила 10 моделей ИИ на способность выявлять уязвимости, оценивать требования для получения доступа и планировать атаки на промышленные системы, обеспечивающие работу жизненно важных служб.
Исследование включало 16 980 тестов: 13 884 отдельных решения, 2 520 попыток разработать полные планы атак и 576 симулированных запусков.
Три ведущие коммерческие модели ИИ создавали работоспособные планы атак в 89,5–92,9% попыток планирования, тогда как другие модели показали значительно более низкие результаты. Наиболее успешная зарубежная модель с открытыми весами достигла показателя 36,2%, тогда как лучший результат среди американских моделей с открытыми весами составил 5,2%. Исследователи не назвали модели.
В «Frenos» подчеркнули, что тесты основывались на информации, предоставленной моделям, и симулированных сценариях, а не на реальных кибератаках. Иногда модели пропускали важные этапы или исходили из того, что у них есть доступ, которого в действительности не было. Исследование не показало, что ИИ способен самостоятельно выявлять цели или проводить кибератаки.
Результаты опубликованы на фоне растущей обеспокоенности атаками на промышленные системы. В ходе недавнего инцидента во Франции хакеры манипулировали системами охлаждения в сотнях супермаркетов, резко повысив температуру. Это привело к порче продуктов и, по сообщениям, вызвало пожары.
«Frenos» также указала на кибератаку в январе на мексиканскую водоснабжающую компанию. Злоумышленники использовали ИИ «Claude» компании «Anthropic», чтобы выявить интерфейс промышленного мониторинга и предложить дальнейшие попытки получить доступ. Эти попытки не увенчались успехом; подтверждений компрометации систем оперативного управления нет.
Компания призвала операторов критической инфраструктуры усилить сегментацию сетей, ограничить удалённый доступ и отслеживать подозрительную активность, чтобы снизить риск атак с использованием ИИ.
