Общество

23 октября 2020, 13:15

Бот в Telegram «раздел» более 100 тысяч женщин. Как он работает и почему так популярен?

Freepik

Несколько дней назад иностранные исследователи дипфейк-программ из компании Sensity сообщили, что бот в Telegram преобразовал десятки тысяч женских фотографий. Он «раздел» женщин, чьи снимки заливали в чат с ботом. Некоторые пользователи экспериментировали с программой и заметили, что снимки получаются нереалистичными, а мужские фотографии вовсе смотрятся комично. Однако сервис все равно считают проблемой.

Исследователи заметили, что с июля 2019-го по июль 2020-го примерно 104,8 тысячи женщин «раздели» с помощью бота в Telegram, а потом выложили эти фотографии в интернет. Среди снимков был и контент с изображением детей.

По данным аналитиков, в основном ботом пользуются люди из России и стран СНГ (70%). Остальные находятся в США, Европе и Латинской Америке. Цель большинства пользователей — увидеть голыми девушек, которых знают в реальной жизни. Большинство изначальных снимков берутся из социальных сетей или даже из личных переписок, если такие были между пользователем и заинтересовавшей его девушкой.

При этом разработчики бота утверждают, что он создан только в развлекательных целях, передает Би-би-си.

У российской правозащитницы Алены Поповой другое мнение. Она считает, что работу бота нужно запретить, потому что жертвы сервиса могут стать объектами травли. Кроме того, существование таких ботов нарушает правила Telegram.

По словам Поповой, через дипфейк-бота прошло уже почти 700 тысяч фотографий, в том числе несовершеннолетних девочек. Причем все снимки «выглядят как настоящие» и могут нанести ущерб своим жертвам.

Попова обратилась к Павлу Дурову и администрации Telegram с просьбой убрать бота из мессенджера и сделать невозможной работу других похожих сервисов.

Как работает бот

Би-би-си попробовала использовать сервис и сообщила, что ни одна фотография не была реалистичной после «раздевания». Например, на одном снимке женщины пупок находился в районе диафрагмы.

Работа бота основана на программном обеспечении под названием DeepNude, которое запретили в июне 2019 года. Он использовал так называемую генеративно-состязательную сеть — это алгоритм машинного обучения, построенный на комбинации из двух нейронных сетей. Одна генерирует образцы, а другая старается отличить подлинные от неправильных. Между нейросетями возникает «антагонистическая игра». Другими словами, нейросети показывают тысячи фотографий голых людей, а они могут сгенерировать одного человека из всех этих снимков. Благодаря этому пользователь может видеть искусственно созданные изображения как натуральные.

Пользователю нужно просто написать боту, и сервис тут же предоставит инструкцию по эксплуатации. Пользователь может взять любую фотографию человека и отправить ее боту. В мессенджере только семь каналов имеют возможность использовать бота, передает Business Insider. Многие из них пытаются продать вам подписки и поэтому раздевают женщин только наполовину.

Знаменитости в фейковом порно

В основном пользователи хотят посмотреть на девушек, которых знают. Таких 63%. Следующий наиболее популярный запрос — знаменитости, модели, певицы, актрисы (16%) и красотки из Instagram (8%). По крайне мере, такие интересы были у юзеров в июле 2019 года, судя по опросу в Telegram ниже.

Кто конкретно пострадал от дипфейка в Telegram, пока неизвестно. Но вообще эта технология распространена с 2018 года. Именно тогда появился новый жанр порнографии, когда анонимные разработчики не просто раздевали знаменитостей, а «заставляли» их сниматься в порно.

Все началось с разработчика с ником deepfakes. Он использовал возможности искусственного интеллекта, чтобы увидеть израильскую актрису Галь Гадот занимающейся сексом со своим «сводным братом» — такая формулировка была в описании к оригинальному ролику.

Результат так обрадовал создателя, что он выложил свое творение на Reddit. За видео с Галь Гадот пошли и другие — порно со Скарлетт Йохансон, Мэйси Уильямс, Тейлор Свифт и Обри Плазой.

В 2019 году, когда видео со Скарлетт Йохансон набрали уже миллионы просмотров, вышел материал The Washington Post о дипфейках. В качестве одной из жертв выступила сама актриса и сказала, что бороться с такими технологиями бессмысленно.

«Очевидно, что это не влияет на меня очень сильно, так как люди предполагают, что это все-таки не я в этом порно, как бы унизительно это все ни было», — сказала Йохансон.

По ее мнению, преследовать создателей подобных фейков невозможно и не нужно, потому что интернет, в ее понимании, «темная кротовая нора», которая пожирает сама себя.