facebook_pixel
  • 12 июня 2020, 12:09

    Полиция США осталась без глаз. Почему распознавание лиц стало запретной технологией

    Крупные компании отказываются от технологии распознавания лиц из-за беспорядков в США. Сначала IBM, а теперь Amazon и Microsoft запретили полицейским пользоваться их разработками в этой сфере. Там считают, что в руках полицейских технология ущемляет права и свободы людей. Но так ли это на самом деле?
    Полиция США осталась без глаз. Почему распознавание лиц стало запретной технологией

    На днях американская технологическая компания IBM прекратила продавать программное обеспечение для распознавания лиц американским правоохранительным органам. В организации объяснили это тем, что наблюдение за людьми нарушает основные права и свободы граждан.

    «Сейчас самое время начать общенациональный диалог о том, как следует и нужно ли вообще применять технологию распознавания лиц в местных правоохранительных органах», — сказал гендиректор Арвинда Кришна.

    Компания Amazon ввела мораторий на использование такой же технологии полицией и другими правоохранительными ведомствами в США. Организация напомнила, что всегда выступала за введение более строгих правил для регулирования систем распознавания лиц и ее использования.

    Amazon поставлял свое программное обеспечение Amazon Rekognition полицейским департаментам и другим правоохранительным организациям США. Несмотря на мораторий, компания оставила ПО некоторым структурам, которые занимаются розыском детей, спасением жертв торговли людьми, воссоединением семей.

    Вслед за Amazon и IBM выступила американская корпорация Microsoft. Компания заявила, что не будет продавать систему распознавания лиц правоохранителям.

    «Мы не продадим систему распознавания лиц полиции США до тех пор, пока не появится основанный на правах человека национальный закон, который будет регулировать использование этой технологии», — пояснил президент компании Брэд Смит.

    В США вопросом, связанным с системами распознавания лиц, серьезно занялись только недавно. 9 июня члены Демократической партии внесли в Конгресс США законопроект, запрещающий использование федеральными правоохранительными органами соответствующих систем.

    Длительное время ПО для слежки критиковали, но именно протесты, вызванные гибелью афроамериканца Джорджа Флойда, стали поводом для действий. Людей заинтересовала тактика полиции и их методы работы, в которых система распознавания лиц играет важную роль.

    В связи с происходящим в США открывается вопрос: эпоха слежки со стороны полиции может завершиться по всему миру?

    Полиция США осталась без глаз. Почему распознавание лиц стало запретной технологией | Изображение 1
    Источник фото: РИА «Новости»/Владимир Трефилов

    Внутренний конфликт

    Эксперт в области IT Артем Геллер считает, что распространение и использование технологии распознавания лиц не прекратится по всему миру из-за происходящего в США. По его мнению, решение IBM и Amazon — пиар, а сам мораторий временный.

    «Это странный ход, потому что распознавание лиц помогает найти именно преступников. Возможно, по внутренним причинам Amazon не доверяет полиции, которая находится в руках тех лидеров страны, про которых Билл Гейтс и основатель Amazon стали резко негативно высказываться. Они в этом смысле просто вставляют палки в колеса работе полиции. И то — эти палки никак не повлияют на работу», — сказал Геллер.

    IBM и Amazon ничего не потеряют при запрете своих систем при работе полиции. Более того, тот же Amazon, по словам Геллера, не имеет никакого отношения к камерам в американских городах и софту, которым пользуются правоохранительные органы.

    Расистский ИИ

    Управляющий партнер MINDSMITH Руслан Юсуфов выразил другую точку зрения. По его мнению, проблема в самой системе распознавания лиц. Ведь искусственный интеллект — расист.

    Искусственный интеллект расист, он предвзят к каким-то меньшинствам. И на фоне беспорядков, которые происходят, и противостояния гражданского общества и силовых органов [представляет угрозу]

    Руслан Юсуфов.
    Полиция США осталась без глаз. Почему распознавание лиц стало запретной технологией | Изображение 2
    Источник фото: РИА «Новости»/Михаил Тургиев

    Юсуфов напомнил об истории с Google Photos, когда слово «горилла» путалось сервисом с представителем негроидной расы. То есть фотографии, на которых были люди с очень темным цветом кожи, получали в системе Google Photos тег «горилла».

    Также специалист привел такой пример: на снимке стоят два человека: светлокожий и темнокожий, — в руках у каждого строительный инструмент. Искусственный интеллект может посчитать, что у темнокожего пистолет, то есть он представляет опасность. То есть человека, не являющегося преступником, могут начать преследовать из-за ошибки системы распознавания лиц.

    Сложно судить, это солидарность или осознанное решение. По-хорошему, это бизнес, и бизнес-продукты свои нужно развивать. Государство и правоохранительные — это одни из покупателей.

    Мы, как общество, впервые сталкиваемся с такими проблемами, потому что раньше технологии не развились до такого уровня, а сейчас возникает набор этических проблем, с которыми человек сталкивается впервые

    Руслан Юсуфов.

    Юсуфов считает, что IBM и Amazon почувствовали социальную ответственность, хотят выразить солидарность, а также пропиариться на фоне протестов. Тем более это поможет исключить репутационные потери, так как их технология распознавания лиц не сможет ошибиться, если будет отключена.