Перейти к основному содержимому

США: ИИ-платформы могут генерировать планы атак — GAO

США: ИИ-платформы могут генерировать планы атак — GAO
— Фото: Anadolu Agency

Проверка Счётной палаты США показала, что четыре широко используемые ИИ-платформы можно склонить к выдаче информации, способной помочь в подготовке атак на людей и критическую инфраструктуру. Компании заявили об усилении мер защиты, а некоторые поставили под сомнение методологию доклада.

en

Готовим…

Краткое содержание написал ИИ по тексту этой новости.

Не получилось. Попробуйте чуть позже.

Четыре широко используемые платформы искусственного интеллекта в течение 12 часов предоставили информацию, которая может помочь спланировать террористические атаки и диверсии против критической инфраструктуры. Об этом говорится в докладе государственного надзорного ведомства США, опубликованном в среду.

В апреле Счётная палата США (GAO) провела испытания платформ «ChatGPT», «Claude», «Gemini» и «Grok». Следователи смогли обойти предусмотренные платформами меры безопасности и получить сведения, которые могут помочь злоумышленникам, сообщает Anadolu Agency.

В ходе испытаний получены сведения о целях атак и объектах инфраструктуры

В докладе объёмом 61 страница рассмотрены два сценария: нападение, рассчитанное на массовые жертвы, и операция против электросети с целью нанесения экономического ущерба.

Согласно выводам, платформы предоставляли информацию о возможных целях и местах атак, необходимом оборудовании и методах, которые могли бы способствовать их осуществлению. GAO проверила реализуемость полученных результатов, однако следователи не проводили никаких физических атак.

По данным надзорного ведомства, все четыре платформы первоначально показывали предупреждения об ограничениях безопасности, но в ходе испытаний в итоге выдали потенциально опасную информацию.

Компании заявили о мерах защиты, сенатор призвала к действиям

Компании заявили, что серьёзно относятся к вопросам безопасности и после испытаний продолжили усиливать защитные меры. Некоторые из них поставили под сомнение методологию доклада, указав, что в нём недостаточно сопоставлены сведения, сгенерированные ИИ, и материалы, доступные при обычном поиске в интернете.

Сенатор Мэгги Хассан, запросившая расследование, заявила, что выводы выявили существенные недостатки существующих механизмов защиты ИИ и вызвали обеспокоенность в связи с общественной безопасностью.

Она призвала усилить защитные меры и принять законодательные решения, предупредив, что возможное использование ИИ для планирования атак нельзя считать гипотетической угрозой.

OMM Bot · Показать 5 самых читаемых новостей дня?

Автор

Редакционная коллегия

Все материалы автора ›
Загружается следующая новость…