Один из аккаунтов имел более 300 000 подписчиков.

Неизвестные создали тысячи обработанных искусственным интеллектом видео с использованием лица и голоса настоящего человека, украинки Ольги Лоик. Фейковая девушка рассказывала о дружбе с Россией и рекламировала еду, пишет BBC.

Сама Ольга узнала о продвижении России от своего имени случайно – кто-то из знакомых увидел ее лицо на видео и прислал ей. Девушка решила выяснить, что происходит, и нашла десятки аккаунтов под разными именами, которые использовали ее лицо и распространяли контент, который она никогда не создавала.

София, Наташа, Эйприл, Стейси – все эти "девушки" говорили на диалекте китайского языка мандарин, который настоящая Ольга не знает и никогда не изучала.

"Я видела, что 90% видео было о Китае и России, дружбе между Китаем и Россией, о том, что они должны быть сильными союзниками, а также о рекламе пищи", – рассказала Ольга журналистам.

Одним из самых больших аккаунтов был "Наташа импортировала еду" из более 300 000 подписчиков. Эта "Наташа" прославляла Россию и рекламировала продукты.

Это лично разозлило Ольгу, семья которой до сих пор находится в Украине. Самая девушка учится в Университете Пенсильвании.

Мандариноязычные ШИ-двойники Ольги начали появляться в 2023 – вскоре после того, как настоящая девушка запустила не очень регулярно обновляющийся канал YouTube.

Приблизительно через месяц она начала получать сообщения от людей, которые утверждали, что видели, как она говорит на мандаринском языке в китайских социальных сетях Xiaohongshu – платформе, похожей на Instagram, и Bilibili – видеосайте, похожем на YouTube.

Парень Ольги написал об этом в твиттере, на что ответила компания HeyGen, которая, по ее словам, разработала инструмент, используемый для создания подобий ИИ.

Компания сказала, что с лицом Ольги было создано более 4900 видео. Изображение Ольги заблокировали для дальнейшего использования.

Представитель компании сказал журналистам, что их систему сломали, и что они обновили протоколы безопасности для предотвращения злоупотреблений.

Но Анджела Чжан из Университета Гонконга говорит, что произошедшее с Ольгой "очень распространенное явление в Китае".

Подозрительным является и нарратив, который продвигали аккаунты – дружба России и Китая.

"Непонятно, координировались ли эти учетные записи с коллективной целью, но продвижение сообщения, которое соответствует правительственной пропаганде, безусловно, приносит им пользу", - высказывает свою точку зрения исследовательница права и технологий из Болонского университета и KU Leuven Эмми Хайн.

Она добавила, что "даже если эти аккаунты явно не связаны с Коммунистической партией Китая, продвижение согласованного сообщения может снизить вероятность того, что их публикации будут удалены".

Пример с Ольгой показывает общую сложность регулирования сферы искусственного интеллекта в мире.