По мере того как технологии становятся все более доступными, эксперты предсказывают быстрое распространение в социальных сетях новостных аватаров, сгенерированных искусственным интеллектом. Эти аватары призваны влиять на общественное мнение, зачастую распространяя пропаганду, поддерживаемую государством.

Китайские аватары новостей распространяются в социальных сетях

1. Китай в авангарде новостей, генерируемых ИИ

Распространение дезинформации, генерируемой искусственным интеллектом, — тревожная тенденция. Тайлер Уильямс, директор по расследованиям компании Graphika, отмечает, что даже несовершенные видеоролики могут эффективно влиять на общественное мнение. «Если пользователь просто пролистывает X или TikTok, он не уловит мелких нюансов на маленьком экране».

Китай экспериментирует с ведущими новостей, создаваемыми искусственным интеллектом. В 2018 году государственное информационное агентство Xinhua представило Qiu Hao. Хотя Цю Хао не удалось завоевать широкую популярность, использование Китаем цифровых аватаров в СМИ рассматривается как значительное событие.

2. Прокитайские боты и видеоролики Deepfake

В прошлом году прокитайские боты в Facebook и X распространяли сгенерированные искусственным интеллектом глубоко поддельные видео с ведущими новостей, представляющими фиктивную телекомпанию Wolf News. Эти видео были предназначены для распространения дезинформации.

В отчете, опубликованном в апреле, компания Microsoft сообщила, что китайские кибергруппы, поддерживаемые государством, использовали на выборах в Тайване дезинформационный контент, генерируемый искусственным интеллектом, в том числе с помощью фальшивых ведущих новостей или ведущих в стиле телевидения. В отчете подчеркивалось использование инструмента для редактирования видео CapCut, разработанного китайской компанией ByteDance, которой принадлежит TikTok.

Использование созданных ИИ новостных аватаров имеет значительные последствия для выборов и общественного мнения. Клинт Уоттс из Microsoft отмечает, что, хотя эти видео могут быть не слишком эффективными в плане влияния на общественное мнение, они все же могут оказать значительное воздействие. «Китайцы гораздо больше внимания уделяют попыткам внедрить ИИ в свои системы — пропаганда, дезинформация — они очень быстро продвинулись в этом направлении».

3. Сторонние поставщики и распространение сгенерированных ИИ аватаров

Сторонние поставщики, такие как CapCut, предлагают формат ведущего новостей в качестве шаблона, что позволяет легко адаптировать его и производить в больших объемах. Это привело к распространению сгенерированных ИИ аватаров на платформах социальных сетей.

Использование генерируемых ИИ новостных аватаров является частью более широкой тенденции операций влияния и пропаганды. NewsGuard, организация, занимающаяся мониторингом дезинформации и дезинформации, обнаружила свидетельства того, что прокитайские сети используют сгенерированные ИИ аватары для комментирования новостей.

Другие страны уже экспериментировали с поддельными ведущими для распространения пропаганды и дезинформации. Недавно иранские хакеры, поддерживаемые государством, прервали работу потоковых телевизионных сервисов в Объединенных Арабских Эмиратах, чтобы показать фальшивого диктора новостей, рассказывающего о войне в Газе. Аналогичным образом террористическая группировка «Исламское государство» (запрещена в России) использует сгенерированных ИИ ведущих новостей, одетых в каски и форму, для пропаганды.

Одно европейское государство выступило с инициативой открыто использовать сгенерированных ИИ ведущих. Министерство иностранных дел Украины запустило ИИ-секретаря Викторию Ши, используя образ Розали Номбре — украинской певицы и медиаперсоны, которая дала разрешение на использование своего образа. Результат впечатляет, на первый взгляд.

4. Китайские рекомендации по использованию ИИ контента

В прошлом году Пекин опубликовал руководство по маркировке контента, в котором говорится, что изображения и видео, созданные с помощью искусственного интеллекта, должны быть снабжены четкими водяными знаками. Однако эксперты задаются вопросом, как эти рекомендации будут соблюдаться на практике, особенно когда речь идет о государственной пропаганде.

Согласно китайскому руководству, «ошибочная» информация в контенте, создаваемом ИИ, должна быть сведена к минимуму. Однако приоритетом является «контроль над информационными потоками и обеспечение того, чтобы создаваемый контент не был политически чувствительным и не вызывал общественных потрясений». Это означает, что то, что считается дезинформацией на тайваньском фронте, может отличаться от того, что считается настоящей дезинформацией.

5. Эффективность созданных ИИ ведущих новостей

Эксперты считают, что созданные компьютером ведущие новостей пока не являются эффективными обольстителями. Например, партия за суверенитет Тайваня победила, несмотря на все старания аватара. Макрина Ванг, заместитель редактора по проверке новостей в NewsGuard, сказала, что аватарки, которые она видела, были «довольно грубыми», но их количество увеличивалось. Хотя некоторые люди и попались на эту удочку, натренированные глаза могут легко распознать поддельные видео.

Ванг отметила, что существует риск того, что обычный человек подумает, что аватар — это реальный человек. Она также заявила, что ИИ делает видеоконтент «более убедительным, кликабельным и вирусным». Уоттс из Microsoft считает, что более вероятным вариантом развития тактики диктора новостей являются кадры, на которых манипулируют реальным ведущим новостей, а не полностью сгенерированной ИИ фигурой.

В своем отчете, опубликованном в прошлом месяце, исследователи Microsoft заявили, что им не удалось найти много примеров влияния контента, созданного искусственным интеллектом, на мир офлайн. Они отметили, что аудитория тяготеет к простым подделкам, таким как фальшивые текстовые истории, украшенные поддельными логотипами СМИ.

6. Потенциальное влияние на выборы

Уоттс заявил, что существует вероятность того, что полностью сгенерированное искусственным интеллектом видео может повлиять на выборы, однако инструмента для создания такого ролика пока не существует. Он также заявил, что угрожающие субъекты будут ждать примера видео, созданного ИИ, которое привлечет внимание аудитории, а затем воспроизведут его.

Эффективное использование синтетических личностей в видео, которые люди действительно смотрят, скорее всего, сначала будет происходить в коммерческом пространстве. Как только эта технология станет общедоступной, угрожающие субъекты начнут ее использовать. В последние месяцы компании OpenAI и Google продемонстрировали возможности создания искусственного интеллекта для создания видео, но ни одна из них не выпустила свои инструменты в открытый доступ.