Четыре широко используемые платформы искусственного интеллекта в течение 12 часов предоставили информацию, которая может помочь спланировать террористические атаки и диверсии против критической инфраструктуры. Об этом говорится в докладе государственного надзорного ведомства США, опубликованном в среду.
В апреле Счётная палата США (GAO) провела испытания платформ «ChatGPT», «Claude», «Gemini» и «Grok». Следователи смогли обойти предусмотренные платформами меры безопасности и получить сведения, которые могут помочь злоумышленникам, сообщает Anadolu Agency.
В ходе испытаний получены сведения о целях атак и объектах инфраструктуры
В докладе объёмом 61 страница рассмотрены два сценария: нападение, рассчитанное на массовые жертвы, и операция против электросети с целью нанесения экономического ущерба.
Согласно выводам, платформы предоставляли информацию о возможных целях и местах атак, необходимом оборудовании и методах, которые могли бы способствовать их осуществлению. GAO проверила реализуемость полученных результатов, однако следователи не проводили никаких физических атак.
По данным надзорного ведомства, все четыре платформы первоначально показывали предупреждения об ограничениях безопасности, но в ходе испытаний в итоге выдали потенциально опасную информацию.
Компании заявили о мерах защиты, сенатор призвала к действиям
Компании заявили, что серьёзно относятся к вопросам безопасности и после испытаний продолжили усиливать защитные меры. Некоторые из них поставили под сомнение методологию доклада, указав, что в нём недостаточно сопоставлены сведения, сгенерированные ИИ, и материалы, доступные при обычном поиске в интернете.
Сенатор Мэгги Хассан, запросившая расследование, заявила, что выводы выявили существенные недостатки существующих механизмов защиты ИИ и вызвали обеспокоенность в связи с общественной безопасностью.
Она призвала усилить защитные меры и принять законодательные решения, предупредив, что возможное использование ИИ для планирования атак нельзя считать гипотетической угрозой.