• Затравлено: Instagram решил бороться с гадостями

    Instagram начал бороться с буллингом. В сервисе появятся функции, которые будут пресекать травлю в интернете, а именно: предлагать корректировать сообщения пользователей, если они будут оскорбительными. Нужны ли эти нововведения и как их реализуют — в материале «360».
    Затравлено: Instagram решил бороться с гадостями

    Instagram-страж

    В инфоцентре Instagram появилась статья о том, что в сервис добавят новые функции, которые будут учить пользователей уважительно относиться друг к другу. Новые возможности соцсети будут основаны на искусственном интеллекте (ИИ) и работать следующим образом: при написании комментария ИИ определит, есть ли в нем оскорбительный подтекст, и, если система найдет такие признаки, то спросит у автора поста, хочет ли он опубликовать высказывание.

    Разработчики считают, что так у человека будет возможность подумать и отказаться от решения разместить хамский пост. По словам главы Instagram Адама Моссери, тестирование новой функции показало, что когда у человека есть возможность подумать над своим высказыванием, он публикует меньше оскорбительного.

    Моссери показал пример, отработанный в тестовом варианте функции. Там ИИ реагирует на слова «уродливый» и «глупый», предлагая юзеру передумать.

    Соцсеть также планирует внедрить функцию Restrict, которая позволит скрыть от других людей комментарии определенных пользователей. Моссери отметил, что иногда юзеры не хотят блокировать, отписываться или жаловаться на своего обидчика. Новая функция позволит скрыть комментарии таких пользователей, делая их доступными только для них самих, а также для владельца аккаунта.

    Затравлено

    Понять масштабы буллинга в соцсети можно, просто прописав в поисковике «травля в Instagram». На страничке появляется масса примеров, когда какого-то известного человека вынуждают, например, удалять страницу или закрывать комментарии.

    В июне 2019 года пользователи затравили фигуристку Анну Погорилую. Девушка выложила в соцсеть фото на пляже в купальнике — и тут понеслось. Фанаты начали упрекать спортсменку, что «раздеваться в общественном месте» неприлично. Погорилая не расстроилась, а лишь сняла ироничную сторис, отметив, что ее забавляют хейтеры.

    В том же месяце того же года в Сети раскритиковали Instagram-модель под ником nz.nik. Девушка устроила фотосессию в городе Припяти, в чернобыльской зоне отчуждения. Под снимком набралось более восьми тысяч комментариев, большинство из которых были негативными. «Надеюсь, вы гордитесь тем, что продаете свое тело за лайки», «Теперь вы знамениты благодаря невежеству», «Когда нет мозгов и уважения», — писали пользователи.

    Фотографию прокомментировал сценарист вышедшего недавно сериала «Чернобыль» Крэйг Мазин, который, хоть и обрадовался, что лента вдохновила граждан на посещение Чернобыля, но напомнил, что в этом месте произошла страшная трагедия и нужно уважительно относиться к жертвам катастрофы.

    В самом начале июня 2019 года хейтеры накинусь на Микеллу Абрамову — дочь певицы Алсу. Вокруг девочки развернулся скандал из-за результатов шоу «Голос.Дети». Часть публики усомнилась в честности конкурса и потребовала проверить результаты голосования. Факт накрутки подтвердился, и Первый канал провел спецвыпуск проекта, где победителями были названы все финалисты шоу.

    Так вот, 12 июня Абрамова опубликовала в Instagram фото со съемок, за что мгновенно подверглась травле.

    «Папулька и в инсте подкручивает?», «Мошенникам не место на сцене», — писали юзеры. Девочке пришлось закрыть комментарии, чтобы не слышать гадости в свой адрес.

    Слежка за хамами

    В статье не уточнили, как именно искусственный интеллект будет определять оскорбления. Основатель компании DriverPack Solution Артур Кузяков объяснил «360», что алгоритмы определения комментариев с негативным содержанием существуют довольно давно и неплохо работают.

    В схемы заложено машинное обучение, которое просто определяет оскорбление по ключевым словам и постепенно развивается.

    Делает она это по косвенным признакам. Сначала машинное обучение учится у людей, а потом начинает самообучаться

    Артур Кузяков.

    Причем система впоследствии начнет самостоятельно находить новые оскорбительные слова и заносить их в соответствующий список. ИИ не сможет всегда точно определять степень оскорбительности, однако разработчики и не претендуют на исключительную точность.

    «В данном случае соцсеть не предлагает автоматически очищать такие (оскорбительные — прим. ред.) комментарии, она делает [это] аккуратно и предлагает пользователю отказаться от комментария. Безусловно, будут встречаться случаи, когда комментарий не несет никаких оскорблений, но при этом системой определяется как содержащий гадости. Система будет обучаться, но на 100% точной не будет в любом случае», — сказал Кузяков.

    Саму идею Кузяков назвал «хорошей и своевременной», так как по всему миру многие люди становятся жертвами травли.

    Просто, но масштабно

    Интернет-эксперт Григорий Бакунов в беседе с «360» отметил, что «ребята из Instagram придумали гениальное». По словам специалиста, разработчики внедрят сентимент-анализ, чтобы ИИ самостоятельно определял тональность сообщений.

    Небольшой искусственный интеллект, который решает задачу. Она называется сентимент-анализ, в смысле определения тональности сообщений. Если сообщение кажется системе потенциально оскорбительным, пользователь будет предупреждаться

    Григорий Бакунов.

    Вручную никто не будет сидеть и отсеивать негативные сообщения, потому что это просто невозможно. А искусственный интеллект сможет действовать почти так же, как и человек.

    По словам Бакунова, реализовать идею несложно, так как такие системы делали много раз. Но именно эта задумка интересна своей массовостью, потому что в таких крупных соцсетях сентимент-анализ не применялся.

    «Технически это сложно, но сложно не из-за того, что ново, а из-за того, что очень большой объем сообщений», — заключил Бакунов.