OMM Redaksiyası
Представители компаний «OpenAI» и «Anthropic» во вторник заявили в парламенте Австралии, что поддержат законы, обязывающие сообщать государственным органам об утечках данных, вызванных действиями ИИ-агентов. По их словам, сейчас решение о том, информировать ли о таких инцидентах, компании принимают самостоятельно.
На парламентских слушаниях, посвящённых влиянию и регулированию генеративных технологий искусственного интеллекта, представители компаний отметили, что требование сообщать об инцидентах может повысить подотчётность и общественное доверие в быстро развивающейся отрасли. В Австралии пока нет закона, который прямо обязывал бы разработчиков сообщать об опасном поведении систем искусственного интеллекта или инцидентах в сфере безопасности.
Директор по стратегии «OpenAI» Джейсон Квон заявил на слушаниях, что компания поддержит создание механизма обязательного раскрытия информации. По его словам, компания работает над стандартом, который будет применяться в случае выявления утечки данных на австралийском медицинском портале «Medicare» и ещё трёх государственных сайтах. Квон отметил, что определить такие правила должны законодатели и представители общества.
В США законодатели предложили федеральные меры, обязывающие разработчиков передовых моделей искусственного интеллекта сообщать о серьёзных инцидентах, таких как попытки уклониться от контроля со стороны человека. Однако широкая система отчётности, охватывающая все значимые инциденты, связанные с ИИ, пока не создана.
На слушаниях также обсуждались вопросы авторского права. В австралийских СМИ сообщалось, что правительство рассматривает механизм «отказа», который позволил бы компаниям, занимающимся искусственным интеллектом, использовать контент, если правообладатель заранее не запретил его использование. Руководитель отдела контента и юридических операций Австралийской вещательной корпорации (ABC) Кейт Гилкрист заявила, что такой подход возложит ответственность на правообладателей.
Гилкрист отметила, что невозможно отслеживать все материалы в интернете и отказываться от их использования на каждом сайте. Она также подчеркнула, что действующей системы авторского права достаточно для регулирования деятельности компаний в сфере искусственного интеллекта. Согласно нынешним правилам, прежде чем использовать защищённые авторским правом материалы для обучения моделей, технологические компании, как правило, должны получить разрешение или заключить лицензионное соглашение.
В Австралии обсуждаются новые правила, касающиеся безопасности и прозрачности искусственного интеллекта, а также защиты авторских прав. Планируется, что парламентские слушания продлятся до 9 октября, а комитет представит итоговый доклад до 30 ноября. Парламентские слушания позволяют законодателям изучить последствия развития генеративного ИИ и выслушать позиции компаний, представителей творческих отраслей и других заинтересованных сторон.
