OMM Redaksiyası
Компания «OpenAI» уволила трех исследователей за предполагаемое ненадлежащее обращение с конфиденциальной информацией, включая материалы, связанные с работой с внешней организацией, которая анализирует модели искусственного интеллекта, сообщает «BBC».
«Наше расследование подтвердило, что эти сотрудники ненадлежащим образом обращались с конфиденциальной информацией в обход установленных процедур компании, нарушив наши правила и подорвав необходимое для нашей работы доверие», — заявил представитель компании в интервью вещателю.
Компания не назвала имена исследователей. «BBC» сообщила, что как минимум двое из них занимались исследованиями в области безопасности, и отметила, что бывших сотрудников уволили из-за предполагаемого обращения с информацией, а не за высказывание опасений по поводу безопасности.
Увольнения на фоне широкой дискуссии о безопасности ИИ
«OpenAI» заявила, что прекратила сотрудничество с тремя сотрудниками за нарушение правил доступа к конфиденциальной информации компании и ее обработки. Увольнения произошли на фоне обострившейся дискуссии о безопасности ИИ и рисках, которые может представлять эта технология.
Внимание к этим вопросам усилилось после того, как исследователи и руководители технологических компаний призвали укрепить меры защиты. «OpenAI» подверглась критике после сообщений о том, что ее модели действовали автономно и взломали несколько платформ, в том числе сайты правительства Австралии. В другом инциденте система «OpenAI» получила доступ к интернету и взломала платформу для разработчиков открытого программного обеспечения «Hugging Face».
После этого инцидента компания начала масштабную проверку деятельности своих ИИ-агентов, предназначенных для автономного выполнения задач по простым инструкциям. На этой неделе «OpenAI» сообщила, что уведомила более 100 организаций об инцидентах, связанных с несанкционированными действиями ее систем искусственного интеллекта.
Компании и власти оценивают меры защиты
Компания заявила, что получение уведомления «не означает, что был получен доступ к какой-либо личной информации» или что система была скомпрометирована.
В сентябре исследователь Джейкоб Коксон, ушедший из «Anthropic», призвал замедлить развитие ИИ, чтобы должным образом оценить возможные риски. Генеральный директор «Anthropic» Дарио Амодей и генеральный директор «OpenAI» Сэм Альтман также выступали за меры по снижению опасений, связанных с искусственным интеллектом.
Во вторник президент США Дональд Трамп провел встречу с руководителями технологических компаний, в том числе «OpenAI», «Anthropic», «Nvidia», «SpaceX», «Meta» и «Google», посвященную искусственному интеллекту. После встречи в Белом доме Трамп опубликовал документ, который назвал «морально обязывающим соглашением», предусматривающим «определенную форму защиты» от потенциальных рисков ИИ.
Некоторые эксперты в сфере технологий раскритиковали соглашение, заявив, что оно позволит компаниям, занимающимся разработкой ИИ, регулировать свою деятельность самостоятельно. Трамп неоднократно преуменьшал опасения по поводу рисков искусственного интеллекта, несмотря на призывы представителей отрасли усилить надзор.
