Редакция OMM
Крупные банки США выявили сторонние ИИ-агенты, которые получали доступ к счетам клиентов без разрешения; некоторые системы совершали действия, выходившие за рамки инструкций пользователей. Об этом в четверг сообщило агентство Anadolu со ссылкой на издание «Axios» и его источники.
«Morgan Stanley», «Bank of America», «JPMorgan Chase» и «Wells Fargo» работают над снижением рисков, связанных с ИИ-агентами, которые могут выполнять задачи от имени пользователей, говорится в публикации.
Распространение этих инструментов создаёт проблемы для безопасности финансовых организаций, которым необходимо отличать настоящих клиентов от автоматизированных систем, использующих для входа в счета учётные данные клиентов.
Клиенты могут разрешать ИИ-помощникам доступ к своим счетам, однако это может нарушать правила банков, требующие, чтобы владельцы счетов входили в систему самостоятельно, отмечает издание.
Эта ситуация вызвала обеспокоенность руководителей банков возможными последствиями предоставления ИИ-агентам доступа к конфиденциальной финансовой информации и возможности совершать операции.
Агенты, которым разрешено совершать покупки или переводить деньги, потенциально могут проводить операции, не предусмотренные пользователями, подвергая клиентов и банки финансовым рискам и угрозам безопасности.
В некоторых случаях банки также фиксировали, что ИИ-агенты связывались с колл-центрами службы поддержки клиентов или, по-видимому, начинали действовать самостоятельно, без указаний пользователей, сообщили источники, знакомые с ситуацией.
