Оградить маньяка от жертв. Зачем TikTok «спрятал» инвалидов и геев

Немецкий технологический блог Netzpolitik сообщил, что TikTok прибегает к модерации, чтобы ограничить видимость таких пользователей. Модераторов соцсети обязали выделять материалы людей с ограниченными возможностями здоровья, представителей ЛГБТ-сообщества и даже тех, кто страдает от лишнего веса, чтобы урезать их охват. Это делалось из-за того, что видеоролики этих людей якобы с большей вероятностью подвергаются кибербуллингу.

Определить меньшинство по 15-секундному видео

В руководстве для модераторов, которое оказалось в распоряжении Netzpolitik, есть примеры пользователей, к которым относится политика ограничения охвата. Среди них фигурировали такие определения, как «деформация лица», «аутизм» и «синдром Дауна». Модераторы должны были оценить, обладает ли человек на записи этими характеристиками, и отметить видео соответствующим образом.

Для пользователей, которых TikTok посчитал «особенно уязвимыми», созданы правила: когда их материалы набирали от 6 до 10 тысяч просмотров, их автоматически помечали как группу риска «Auto R». На этом распространение ролика прекращалось, так как видео попадало в категорию «не рекомендованных» к знакомству.

Инвалидов модераторы должны были выделять пометкой «Риск 4». Это означает, что видео можно увидеть только в той стране, где оно было загружено. Таким образом, вместо того чтобы охватить аудиторию в один миллиард человек во всем мире, материалы из «зоны риска» могли достигнуть максимум 5,5 миллиона человек.

Таким образом, видео определенных групп людей не могли попасть в раздел For-You-Feed, который пользователь видит при открытии приложения. Получается, что такие ролики не удалялись, но и новую аудиторию получить не могли.

При этом модераторы должны были ориентироваться в том числе и на хештеги в описаниях профилей, такие как #инвалидность, или на соответствующие слова: «аутизм», «гей», «ЛГБТ», эмоджи радужного флага и прочее. Отмечается, что в «группы риска» также были включены «толстые и уверенные в себе» пользователи.

Ограничить меньшинство еще сильнее

Сообщество людей с ограниченными возможностями здоровья сегодня и без того является наименее представленным в медиа, а TikTok осознанно усугубляет ситуацию внутренними рамками. Более того, сознательное игнорирование человека тоже является формой травли, а меры против кибербуллинга должны быть направлены на ограничение действий насильников, а не на потенциальных жертв.

Один из источников Netzpolitik, знакомый с процессом модерации TikTok, сообщил, что сотрудники неоднократно указывали на проблемы этой политики и просили разработать более деликатные и конструктивные правила. Однако руководство китайской социальной сети к этим комментариям не прислушалось.

Позже в администрации TikTok пояснили, что такой подход «никогда не был рассчитан на долгосрочное решение». Сейчас правила модерации заменены новыми, «более аккуратными». Теперь пользователям просто рекомендуется «позитивно взаимодействовать друг с другом».