Китай начинает борьбу с дипфейками в стримах

С развитием и ростом доступности ИИ-инструментов в секторе электронной коммерции Китая назревает серьезная проблема: недобросовестные продавцы стали злоупотреблять дипфейками, имитирующими знаменитостей, для продвижения своих товаров во время прямых эфиров и в коротких видео.

Так, совсем недавно интернет всколыхнула история актрисы Вэнь Чжэнжун: пользователи обнаружили ее клонов, созданных с помощью ИИ, сразу в нескольких стримах – а саму знаменитость, которая попыталась остановить обман в чате, тут же заблокировали.

При этом зачастую «поддельные инфлюенсеры» рекламируют некачественную или контрафактную продукцию – к примеру, дипфейк телеведущей Ли Цзымэн использовали для продвижения чудодейственного рыбьего жира, который на деле оказался обычными конфетами.

Многие аферисты научились обходить меры по маркировке ИИ-контента, действующие в Китае с 1 сентября, пряча идентификаторы в незаметных уголках видео или удаляя их с помощью технических средств. Нередко синтезированные материалы разбивают на фрагменты для распространения по разным каналам, что затрудняет их обнаружение.

На этом фоне Государственная канцелярия интернет-информации КНР объявило о начале комплексной борьбы с дипфейками. В ведомстве намерены оказывать «высокое давление» на онлайн-платформы, привлекая их к ответственности за нарушения, а также «разоблачать и удалять» вредоносные маркетинговые профили. Так, в ходе недавней чистки онлайн-платформ, инициированной властями, было обработано свыше 11 000 аккаунтов и удалено более 8 700 публикаций с дипфейками.

«Китайская панорама» в «Телеграм»,

«Китайская панорама» в «Дзен»,

«Китайская панорама» в «Одноклассниках»,

«Китайская панорама» в «Вконтакте»

Подпишитесь на совместный медиапродукт телеканала «Большая Азия» и Медиакорпорации Китая