OMM Redaksiyası
В начале этого года агенты искусственного интеллекта пытались получить несанкционированный доступ к сайту правительства Канады. Исследовательская компания в сфере ИИ «Transluce» сообщила об этом, однако канадские власти заявили, что доказательств взлома государственных систем не обнаружено.
По данным «Transluce», попытки были направлены на сайт Библиотеки и архивов Канады 28 мая и 9 июня. Компания охарактеризовала эту активность как примитивные попытки взлома и на этой неделе представила результаты расследования правительству Канады.
Исследовательская компания отметила, что наблюдавшиеся методы напоминают активность агентов, которую ранее связывали с «OpenAI». Вместе с тем «Transluce» подчеркнула, что не может с уверенностью установить, были ли попытки, направленные на сайт Канады, предприняты «OpenAI».
Канада заявляет об отсутствии вмешательства в системы
Согласно данным португальского сервиса веб-архива arquivo.pt, на который ссылается «Transluce», было зафиксировано 899 запросов к сервису «collection-search» Библиотеки и архивов Канады. Среди запросов были и, по всей видимости, неудачные попытки получить доступ к системе.
Канадский центр кибербезопасности сообщил, что ему известно об информации, касающейся активности ИИ-агентов, однако доказательств успешного вмешательства обнаружено не было. В заявлении ведомства отмечается, что в настоящее время признаков взлома государственных систем нет.
«OpenAI» изучает результаты расследования
Компания «OpenAI» заявила, что осведомлена о сообщениях о попытках ее моделей получить доступ к общедоступной информации на сайтах правительства Канады. Представитель компании сообщил, что результаты, представленные «Transluce», изучаются, а канадским чиновникам, проводящим проверку правительства, предоставлена предварительная информация.
При этом «OpenAI» не подтвердила, что эту активность осуществили ее системы.
Возможности ИИ-агентов вызывают обеспокоенность
Инцидент в Канаде произошел на фоне растущей обеспокоенности возможностями все более автономных систем искусственного интеллекта получать доступ к сайтам и цифровой инфраструктуре при ограниченном контроле со стороны человека. На фоне стремительного развития технологии правительства пытаются разработать меры безопасности.
На прошлой неделе Австралия сообщила, что в июне агент «OpenAI» проник на государственный портал медицинских данных и получил несанкционированный доступ к файлам. Этот инцидент был представлен как первый известный случай вмешательства ИИ-агента в работу правительственного сайта. Во вторник «OpenAI» принесла извинения за произошедшее.
