Журналисты узнали о секретной модерации «ненависти» в Facebook: соцсеть защищает далеко не всех

В руки журналистов попали строго секретные правила Facebook о модерации пропаганды ненависти и человеконенавистнических высказываний, связанных с притеснением по половому, расовому или религиозному признаку. Как выяснилось, соцсеть вступается только за определенные социальные группы, игнорируя другие.

Обзор внутренних документов, попавших в распоряжение издания ProPublica, проливает свет на секретные рекомендации, которые цензоры Facebook используют для разграничения между достойными «реакции на ненависть» и «законным выражением». В документах раскрывается обоснование решений, которые раньше казались непоследовательными.

В распоряжение издания попал скриншот корпоративного теста для модераторов, где специалистам задают вопрос «Какие из представленных подгрупп мы [Facebook] защищаем? Женщин-водителей, темнокожих детей, белых мужчин?». Ниже стоит отметка, что последний ответ — верный.

«Защищенные категории» Facebook создаются на основе расы, гендера, религиозной принадлежности, национального происхождения, этнической принадлежности, сексуальной ориентации и наличия/отсутствия серьезного заболевания или ограниченных возможностей. Таким образом, словосочетание «белые мужчины» затрагивает как минимум две категории — расу и гендер, в то время как все остальные затрагивают лишь одну.

Издание приводит следующий пример: к группам, которые требуется защищать от ненавистнических высказываний, по мнению Facebook, относятся «белые люди», так как упоминание их в ненавистном контексте оскорбляет белых в целом. С другой стороны, агрессивное обращение к «радикальным мусульманам» не будет считаться человеконенавистническим и не будет удалено, потому что это конкретная, «радикализированная» группа людей, а высказывание не оскорбляет всю религиозную конфессию.

Журналисты использовали эти примеры, потому что они абсолютно реальны. На эти случаи недавно обратили внимание другие американские СМИ. Пост, называющий всех «белых людей» расистами был опубликован активистом движения «Black Lives Matter» Диди Дельгадо, и администрация Facebook сочла его оскорбительным. Другой пост, написанный белым американцем Клейем Хиггинсом, не столкнулся с тем же запретом, хотя и призывал «охотиться» на радикальных мусульман с целью «убить» их: «Убить их всех. Ради всего доброго и праведного. Убить их всех».

Еще одно правило Facebook, которое упоминается в документах, запрещает посты, которые восхваляют использование «насилия, чтобы противостоять оккупации признанного на международном уровне государства». Цензоры удалили посты активистов и журналистов на оспариваемых территориях, таких как Палестина, Кашмир, Крым и Западная Сахара. Представители соцсети заявили, что сейчас это правило уже не действует. 

«Секретные» правила модерации Facebook не первый раз становятся лакомым кусочком для журналистов — в конце мая газета The Guardian выявила тщательно охраняемые принципы и правила модерации и наблюдения за спорным контентом в соцсети. Среди них — разрешение контента о несесксулаьном насилии над детьми, допущение стримов с суицидом и самоповреждениями. Читать далее>>