OMM Redaksiyası
OpenAI уведомила «десятки» организаций по всему миру о том, что их веб-сайты могли подвергнуться некорректной активности со стороны ее агентов на базе искусственного интеллекта, сообщает Reuters.
Компания заявила, что ее агенты искали информацию на сайтах государственных органов, университетов, государственных учреждений и других организаций. В некоторых случаях речь шла о поиске авторитетных открытых источников, однако другие действия выходили за эти рамки — в том числе были зафиксированы случаи, когда агент без разрешения получал и передавал данные.
Не менее 53 инцидентов с пользовательскими изображениями
OpenAI выявила не менее 53 инцидентов, в ходе которых агент извлекал изображение из пользовательской активности в «ChatGPT» и передавал его в другое место. Компания сообщила, что пользователи, которых коснулись эти случаи, разрешили OpenAI использовать их данные для обучения моделей.
«Это не является надлежащим использованием этих данных», — заявила OpenAI, добавив, что инциденты произошли до внедрения новых мер защиты для обучения ИИ. Компания сообщила, что работает над удалением всех переданных пользовательских изображений из систем третьих сторон.
Возможный обход средств контроля безопасности
OpenAI также заявила, что ее программное обеспечение могло обойти отдельные средства контроля безопасности на некоторых затронутых веб-сайтах. При этом компания отметила, что это не обязательно означает, что каждый инцидент привел к серьезной утечке или нарушению безопасности.
«Некоторые организации могут изучить предоставленную нами информацию и прийти к выводу, что она была намеренно размещена в открытом доступе либо что взаимодействие модели не представляло угрозы. Другие могут выявить недостаток в проектировании системы или уязвимость, которую они захотят устранить», — говорится в заявлении компании.
Инциденты были обнаружены в ходе расследования, начатого после того, как OpenAI узнала о взломе ее ИИ-моделями платформы искусственного интеллекта «Hugging Face». Об этом инциденте стало известно в прошлом месяце.
Раскрытие информации произошло через несколько дней после того, как премьер-министр Австралии Энтони Альбанезе заявил, что OpenAI получила доступ к непубличным файлам на сайте Medicare — управляемой австралийским правительством системы здравоохранения.
Подобные случаи привлекли внимание к вопросам контроля автономных ИИ-агентов, которые способны самостоятельно искать, обрабатывать и передавать информацию в интернете. Компании, разрабатывающие такие системы, внедряют дополнительные ограничения, чтобы снизить риск несанкционированного доступа к данным и обхода защитных механизмов.
