OMM Redaksiyası
«OpenAI» сообщила, что заблокировала аккаунты, связанные с тайными операциями влияния, предположительно исходившими из России и Ирана. Для воздействия на общественное мнение за рубежом в этих кампаниях использовались инструменты искусственного интеллекта компании.
В опубликованной в четверг записи в блоге компания заявила, что в кампаниях сочетались ИИ и традиционные методы влияния, в том числе создание внешне легитимных исследовательских платформ и фиктивных журналистских профилей.
«OpenAI» сообщила, что заблокировала группы аккаунтов «ChatGPT», связанные с обеими операциями, и передала информацию о них соответствующим органам. По оценке компании, кампании напоминали операции влияния, проводившиеся до эпохи ИИ, однако искусственный интеллект упростил выполнение некоторых задач.
Операция, связанная с Ираном, использовала фиктивные профили журналистов
По данным компании, в операции, связанной с Ираном, использовались семь вымышленных журналистских профилей для предложения крупных статей интернет-изданиям. «OpenAI» обнаружила почти 100 статей, опубликованных под этими именами более чем в десятке изданий.
В статьях рассматривались международные отношения, геополитика и Ближний Восток. Как заявила компания, число публикаций резко выросло после начала конфликта между США и Ираном.
Организаторы использовали «ChatGPT» для редактирования статей, проверки черновиков на соответствие требованиям отдельных изданий и подготовки предложений для редакторов. Профили представляли своих владельцев как западных журналистов, специализирующихся на международной политике, Ближнем Востоке, правах человека или конфликтах.
Операция также включала создание комментариев на английском и персидском языках для публикации в социальных сетях. По данным компании, заказанные комментарии касались, в частности, ракетных ударов, прекращения огня и дипломатии и формировали образ США как агрессора, Израиля — как ненадёжного союзника США, а Ирана — как стойкой, но пострадавшей стороны.
При этом комментарии, выявленные «OpenAI», в целом привлекали мало внимания. Некоторые отметки «нравится», как заявила компания, поступали от аккаунтов, связанных с самой операцией.
Кампания, связанная с Россией, была направлена на Украину и Латинскую Америку
Операция, связанная с Россией, была нацелена на аудиторию в странах Латинской Америки, причём значительная часть активности, по всей видимости, была направлена на подрыв репутации Украины. Другие усилия касались внутренней политики Аргентины и Боливии, сообщила компания.
Предположительно, в кампании использовался Центр социальных исследований — платформа, позиционирующая себя как ресурс о Латинской Америке. Согласно внутренним отчётам, её контролировали российские операторы через вымышленную персону по имени «Миа Кларк», сообщила «OpenAI».
Имеющиеся данные указывали на то, что сотрудники платформы в Латинской Америке не знали, что работают на российскую группу. По словам компании, они, судя по всему, добросовестно брали интервью у региональных экспертов и готовили исследовательские материалы.
Во внутренних отчётах описывались попытки распространения сфабрикованных новостей, документов и аудиозаписей, направленных против Украины и политических деятелей региона. «OpenAI» заявила, что обнаружила материалы, соответствующие некоторым описанным кампаниям, в том числе ложные утверждения, которые опровергались в проверках фактов и официальных заявлениях. При этом компания предупредила, что не смогла подтвердить некоторые сведения из отчётов.
По данным компании, обе операции размещали материалы в СМИ, что могло расширить их охват за пределы фальшивых аккаунтов в социальных сетях. «OpenAI» опубликовала результаты, чтобы помочь исследователям и другим организациям выявлять и пресекать подобные кампании.
