Китай выпустил новые правила против «дипфейков»Китайские власти в пятницу выпустили новый нормативный акт, нацеленный на так называемые «дипфейк»-изображения и видео. Правила призывают медиа-платформы выявлять и удалять файлы, распространяющие фейковые новости.
Почему это важно: платформы онлайн-видео и аудио находятся под большим давлением из-за публикуемого контента. Подробные стандартны, регламентирующие «дипфейки», то есть изображения или видео, в которых изображение одного человека незаметно заменяется на другого, скорее всего, не заставят себя долго ждать.
Подробности: три правительственных органа — Администрация киберпространства Китая, Министерство культуры и туризма и Национальная администрация радио и телевидения — выпустили документ, призывающий платформы более чётко маркировать аудио или видео с использованием «дипфейков», глубокого обучения, виртуальной реальности или других новых технологий.
- Документ, вступающий в силу 1 января, запрещает использование технологий «дипфейк» и виртуальной реальности при создании, публикации или распространении фейковых новостей и призывает платформы удалять такие средства массовой информации.
- Пользователи должны зарегистрироваться на платформах с помощью информации, идентифицирующей личность, такой как государственные идентификаторы или номера мобильных телефонов, в соответствии с законом «О кибербезопасности».
- Платформы должны создать простые в использовании каналы подачи жалоб.
- Аудио-видео-сервисы должны издать отраслевые стандарты и руководящие принципы, а также создать кредитную систему.
- В Китае уже 759 миллионов пользователей онлайн-видеоплатформ, согласно мнению неназванного представителя Администрации киберпространства Китая, приведенному в сопроводительном документе. Новые технологии, такие как «дипфейки», могут «поставить под угрозу национальную безопасность, нарушить социальную стабильность, нарушить общественный порядок и ущемить законные права и интересы других лиц», говорится в документе.
- Государственные ведомства должны организовывать регулярные инспекции для обеспечения регулирования платформами онлайн-аудио и видео в соответствии с соглашениями об услугах.
«В настоящее время Китай не сталкивается с какими-либо серьезными проблемами с «дипфейками», но порог для этой технологии становится всё ниже, и фейки становятся всё более изощренными. Нет никакой гарантии, что этой технологией не будут злоупотреблять. Злоупотребления могут привести к серьезным социальным проблемам и рискам безопасности»
—Цзин Дун, младший научный сотрудник института автоматизации Китайской академии наук
Контекст: хотя фейковые новости широко распространены в Китае, «дипфейки» пока ещё относительно редки.
- Сотрудник компании видеостриминга сообщил TechNode, что мошенники прекрасно справляются и без «дипфейков». Платформы уже давно сражаются с поддельными профилями знаменитостей, нацеленными на мошенничество в отношении фанов, заявил он. Мошенники даже создали поддельные версии платных стриминговых сайтов для обмана фанов, будто они пополняют баланс для отправки виртуальных подарков, деньги с которых идут прямо в карманы воров.
- «Использование технологий для обнаружения «дипфейков» всегда будет гонкой вооружений», — сообщил исследователь искусственного интеллекта из Европы TechNode в электронном письме. — «Систематическая маркировка искусственного контента может помочь создать хорошую учебную базу данных для распознавания такого контента в реальных условиях.
- Сомневаясь в том, насколько полезной может быть регистрация под реальными именами, исследователь добавил, что «каналы для жалоб весьма полезны для обнаружения случаев «дипфейков», так как люди понимают контекст, но также каналы дороги в применении и могут не справиться с объёмом жалоб.
https://ru.technode.com/2019/12/04/china-targets-deepfake-content-with-new-regulation/