• 22 августа 2018, 16:07

    Боты на страже правды. Facebook проверит пользователей на благонадежность

    Facebook анонсировала новую систему проверки пользователей. Теперь боты соцсети будут оценивать благонадежность юзеров, выявлять фейковые новости и аккаунты. Как это будет работать и за что могут лишить хорошей репутации, рассказывает «360».
    Боты на страже правды. Facebook проверит пользователей на благонадежность

    Социальная сеть Facebook ввела оценку репутации пользователей. Для этого она разработала специальную шкалу «благонадежности», сообщает издание Washington Posts. По данным газеты, оценок в новой системе всего две: единица и ноль. Те, кто получит единицу, обретут в глазах соцсети хорошую репутацию. Те же, кого оценят «по нулям», попадут в черный список и могут быть заблокированы.

    При этом всех принципов работы новой системы Facebook решила не открывать. Соцсеть не рассказала, по каким именно критериям будет выноситься вердикт благонадежности пользователя. На такие меры Facebook пошла, чтобы защититься от мошенников, которые могут начать использовать алгоритм в своих преступных целях, отмечает руководство компании.

    Сама система является частью более широких мер по борьбе с фейковыми новостями, которые соцсеть начала реализовывать еще в 2015 году. В последние годы администрация Facebook пыталась решить проблему, реагируя на жалобы пользователей на опубликованные посты. Но стратегия оказалась неудачной. Как отметила представитель социальной сети Тесса Лионс, юзеры начали злоупотреблять этой функцией и ябедничали на ту информацию, которая им просто не нравилась, что вызвало волну ложных блокировок.

    Теперь администрация соцсети будет гораздо внимательнее следить за авторами таких жалоб, чем за теми, кто постит фейковые новости. Ожидается, что первичную обработку и выставление рейтинга доверят искусственному интеллекту в виде специально обученных ботов. В качестве пробы пера компания уже удалила более 650 «связанных с Россией и Ираном» аккаунтов и групп как в самой социальной сети, так и в Instagram, говорится в блоге Facebook.

    Защита от «сливов»

    На деле новая шкала блокировок нужна социальной сети, чтобы больше не фигурировать в историях из-за непреднамеренных «сливов» информации, уверены опрошенные «360» эксперты.

    Facebook уже оказалась втянута в скандал из-за передачи информации о 50 миллионах человек компании Cambridge Analytica, которая работала на Дональда Трампа в ходе его предвыборной гонки за президентское кресло. Как удалось тогда выяснить правоохранительным органам США, компания использовала незаконно полученные данные Facebook, чтобы размещать крайне эффективную рекламу и влиять на мнение пользователей соцсети. Кроме того, недавно появились сведения, что Facebook «сливала» данные пользователей в Mail.Ru Group.

    «Теперь Facebook будет блокировать всех подозрительных пользователей, причем по каким-то скрытым критериям. Таким образом они, возможно, снизят „фейковость“ соцсети и обезопасят себя от новых скандалов, но могут потерять ряд пользователей, которых заблокируют по ошибке. Ведь для некоторых юзеров аккаунт на Facebook — это единственный способ коммуникации с бизнес-партнерами», — отметил в разговоре с «360» директор Ассоциации профессиональных пользователей социальных сетей и мессенджеров Владимир Зыков.

    Вдобавок эту шкалу «благонадежности» Facebook может использовать для легального сотрудничества с банками или другими компаниями, которые предоставляют услуги в офлайне, отметил в беседе с «360» интернет-эксперт Андрей Яблонских. «К примеру, эту базу „благонадежности“ соцсеть может передавать банкам или страховым компаниям для того, чтобы они оценили клиента со всех сторон», — подчеркнул эксперт.

    Блокировка за репост

    Боты на страже правды. Facebook проверит пользователей на благонадежность | Изображение 1
    Источник фото: РИА «Новости»/Руслан Кривобок

    Сейчас Facebook блокирует пользователей за посты, фотографии и видео с призывом к насилию, с инструкциями по изготовлению или использованию оружия, а также с упоминаем запрещенных террористических организаций. Кроме того, в черный список можно попасть за распространение фотографий и видео с жертвами насилия или убийства. Теперь же соцсеть взялась за фейковые новости.

    Однако говорить о том, что Facebook навсегда забанит пользователя за то, что он репостнул непроверенную информацию, пока рано, уверен бывший заместитель технического директора «ВКонтакте» Антон Розенберг. По его словам, речь идет о еще одном параметре, который будет учитываться при ранжировании новостей, определении их фейковости и того, чьим жалобам стоит доверять больше, а чьи, возможно, стоит проигнорировать.

    Так что это, скорее, некоторое улучшение, усиление существующей системы модерации, а не что-то принципиально новое. При этом полностью решить проблему тех же фейковых новостей система не сможет. Но как часть системы в рамках борьбы с целенаправленными вбросами, осуществляемыми с использованием множества аккаунтов, такой подход будет полезен

    Антон Розенбергэкс-заместитель технического директора «ВКонтакте».

    Примечательно, что идея шкалы «благонадежности» вовсе не является уникальной или по-настоящему новой, отмечает собеседник «360». «Нечто подобное мы обсуждали во „ВКонтакте“ еще году в 2008-м или 2009-м, тогда шла борьба с использованием ненастоящих имен и картинок вместо фотографий, ну и со спамом, конечно. Вообще, во всех крупных соцсетях и мессенджерах есть система жалоб, поскольку везде есть спам. Вопрос в том, насколько он создает проблемы для пользователей, как это влияет на аудиторию, насколько все это важно для владельцев платформы и даже насколько им важен тот или иной рынок», — подчеркнул Розенберг.

    Впрочем, иногда неверная информация в соцсетях может привести к фатальным последствиям, о чем ярко говорит последний инцидент в Индии. Из-за ложных обвинений в похищении детей, распространяемых в WhatsApp, более десятка человек с начала года стали жертвами массовых избиений, а некоторые были убиты.