Дипфейки наступают. Что это такое и почему в Facebook напряглись

Глава Facebook Марк Цукерберг заявил, что соцсеть может изменить правила публикации и распространения дипфейков (deepfake — «глубинная фальшивка») в соцсети. Сейчас, рассказал он во время фестиваля Aspen Ideas в Колорадо, руководство компании осмысливает, к какого рода информации стоит отнести эти ложные, но реалистичные видео, создаваемые с помощью искусственного интеллекта.

В 2017 году, напоминает посвященный новым технологиям портал TNW, пользователь Reddit опубликовал в сообществе u/deepfakes порнографическое видео с участием актрисы Дэйзи Ридли. Ролик оказался подделкой, синтезированной ИИ. Позже появились эротические клипы с Эммой Уотсон, Кэти Перри, Скарлетт Йоханссон и другими. Со временем используемое ими программное обеспечение улучшилось настолько, что стало трудно отличить реальные видео от синтезированных ИИ.

А не так давно в соцсетях разлетелся ролик с «пьяным» конгрессменом Нэнси Пелоси. Подобного рода видео называют чипфейками, для их создания не используют искусственный интеллект, а просто немного меняют реальную запись. В данном случае скорость показа замедлили на 25% и изменили голос героини.

Соцсети поступили с роликом по-разному. YouTube удалил, Twitter не отреагировал, а Facebook пометил его как ложную информацию и понизил приоритет публикации. Для этого соцсети потребовалось более одного дня, и ролик успел получить широкое распространение. Цукерберг назвал такой подход ошибкой реализации. По его мнению, удалять запись в самом деле не стоит, но метка должна появляться моментально, а распространение ограничиваться.

«Что мы хотим сделать, так это улучшить исполнение. Но я не думаю, что мы хотим сделать так, чтобы правила соцсети мешали вам сказать что-то, что она считает неправильным», — добавил он.

Однако, по его мнению, дипфейки относятся «совсем к другой категории», нежели обычная ложная информация. И нужно дать некое определение этому понятию.

«Это манипуляция медиа с использованием искусственного интеллекта, чтобы заставить кого-то говорить то, чего он не хотел? Считаю такое понятие разумным», — сказал он.

Цукерберг отметил, что дал весьма узкое определение, чтобы предотвратить создание смонтированных видео, которые могут начать появляться из-за слишком широкой трактовки понятия. Глава Facebook подчеркнул, что разработка политики в отношении этих видео действительно важна, поскольку технология ИИ становится более сложной. Он не исключил, что такие ролики в Facebook могут полностью запретить. Но пока компания не знает, как поступать с дипфейками и как отделить их от лживой информации.

«Я знаю много людей, которые давали интервью для телеканалов, которые были смонтированы так, что эти люди думали, что смысл сказанного поменялся. Думаю, что нам надо это тщательно оценивать и не давать людям оснований требовать удалить видео с интервью, где речь смонтирована так, как им не понравилось, или изменился смысл сказанного», — добавил он.

Не запретить, а ограничить

29 марта в России вступил в силу закон о запрете распространения фейковых новостей. Документ предусматривает наказание за публикацию в интернете недостоверной информации, которая искажает факты и несет опасные для общества последствия. Распространение заведомо ложных сведений в традиционных изданиях запрещает закон о СМИ. Обозреватель РБК Дмитрий Блинников сообщил «360», что сейчас наступила эпоха глубоких фейков, мир молниеносно мультимедируется. И лично он не стал бы запрещать программы для создания таких роликов, но ограничил бы их работу.

«В том же приложении Deep Nude точно необходима пометка после создания видео, что оно фейковое. Нужно накладывать водяные знаки, чтобы они были видны и заметны, чтобы их нельзя было обрезать и распространять», — добавил он.

Нужно, считает журналист, разработать механизм для регулирования их публикации и распространения, чтобы мультимедийные фейки не выходили за рамки закона и приличий. Поскольку понятие фейка достаточно широкое, Блинников, как и Цукерберг, считает правильным выделить дипфейкив отдельную категорию. Но пока рассматривать их стоит как «шалость» для развлечения. С другой стороны, если распространение дипфейков примет «промышленный масштаб», появятся аналогичные фабрикам троллей или ботов объединения, то реагировать придется жестче. Но пока до России это явление доходит лишь в виде новостей.

Подмена понятий

Известный переводчик фильмов Гоблин, блогер Дмитрий Пучков считает, что Цукерберг подменяет понятия. Фейк — это и есть фальшивка, то есть как раз то, что синтезирует ИИ. А монтаж интервью — нарезка из речи спикера, вырванные из контекста фразы.

«То, что он говорит, странно. Facebook — инструмент идеологического влияния и манипуляции массами, постоянно подпихивающий подобранные вручную новости», — добавил он.

Что касается наказания за дипфейки, продолжил он, должно зависеть от последствий, которые влечет их распространение. Если «люди возьмут оружие и пойдут убивать полицейских или нападать на депутатов, то за такое должна быть уголовная ответственность». То есть если публикация влечет за собой тяжкие последствия.

Эксперт по информационной безопасности и экс-глава исследовательского фонда «Новые медиа» Кирилл Багаев считает, что классифицировать фейки на дип и обычные необходимости нет. С помощью базовых навыков работы с нейросетями можно создавать любые медиаматериалы, и чем дальше развивается эта сфера, тем меньше будет даже субъективных признаков, по которым можно отличить их от созданных более примитивными классическими методами. А наказание за их распространение должно быть соразмерно нанесенному ущербу, например, репутационному.

«Facebook постоянно отчитывается об успехах в борьбе с фейками, но каких-то прорывных решений я не вижу. Поэтому разграничить фейки интересно самому Цукербергу, чтобы использовать это как аргумент в свою защиту», — подчеркнул Багаев.