OpenAI выявила публикацию фейковых статей в СМИ с помощью ИИ

Выяснилось, что технологии искусственного интеллекта использовались для проведения кампаний по дезинформации и пропаганде в международном медиапространстве. Согласно сообщению в официальном блоге компании «OpenAI», около 100 статей, подготовленных под именами семи вымышленных журналистов, были опубликованы примерно в 12 СМИ по всему миру.

Оперативный Информационный Центр-OMM сообщает, что компания заблокировала сеть аккаунтов, использовавших сервис «ChatGPT» для подготовки аналитических статей на персидском языке, редакционных материалов и комментариев в соцсетях. В публикациях преимущественно обсуждались внешняя политика США и Ирана, а также военная напряжённость на Ближнем Востоке. В созданных с помощью ИИ материалах использовались резонансные заголовки, такие как «Приватизируется ли политика США в отношении Ирана: проблема Джареда Кушнера» и «Война с Ираном и крах морального авторитета Запада».

Эксперты оценивают этот случай как наглядный пример использования инструментов искусственного интеллекта в информационной войне и пропагандистских кампаниях на фоне регионального военного конфликта между США, Израилем и Ираном. Представители «OpenAI» заявили, что эта деятельность соответствует коммерческой кампании влияния, однако установить, какая именно сторона стоит за операцией, пока не удалось.

В сообщении отмечается, что среди платформ, опубликовавших статьи, не было крупных медиаконгломератов, однако некоторые ресурсы обладают достаточно широкой аудиторией. Так, статья о Джареде Кушнере вышла в издании «LA Progressive», расположенном в Лос-Анджелесе. Руководство портала «Middle East Monitor» заявило о начале внутреннего расследования. По наблюдениям компании, после публикации статей с помощью искусственного интеллекта генерировались автоматизированные реакции и комментарии в соцсетях в поддержку этих материалов.

Эксперт по информационной безопасности из США Джессика Брандт, комментируя ситуацию, отметила, что технологии генеративного искусственного интеллекта дают иностранным силам широкие возможности скрывать свои цифровые следы, распространять дезинформацию через реальные медиаканалы и создавать более сложные структуры фальшивых сведений.