facebook_pixel
  • 19 сентября 2019, 04:51

    #ImageNetRoulette. Нейросеть хамит и навешивает ярлыки, но пользователи продолжают ее «злить»

    Программа ImageNet Roulette классифицирует людей сомнительным, а иногда даже жестоким образом. Так, загрузив свое фото, человек может быть определен как преступник или насильник, а иногда может получить даже расистское оскорбление. Пользователи Twitter публикуют полученные ими от нейросети ярлыки, и похоже это может превратиться в очередной тренд.

    ImageNet Roulette — это программа, в которой нейросеть навешивает на людей ярлыки, уточняет портал Buzz Feed. Но результаты могут многих расстроить: например, если Барака Обаму ImageNet Roulette приняла за карточного игрока, то Дуэйна «Скалу» Джонсона — за подозреваемого в изнасиловании.

    Надпись на снимке Джонсона: «Подозреваемый в изнасиловании».

    Чтобы получить свой ярлык, необходимо загрузить фотографию на сайт проекта. Искусственный интеллект (ИИ) проанализирует ее и сделает свои выводы.

    Арт-проект был создан берлинским разработчиком Лейфом Ригом в сотрудничестве с художником Тревором Пагленом и исследователем искусственного интеллекта Кейт Кроуфорд. Сейчас проект представлен как часть выставки, проходящей в Фонде Prada в Милане. Она посвящена истории обучения ИИ с помощью фотографий.

    Надпись на фото: «Люди с ампутированной конечностью».

    Программа призвана показать, насколько неточными и возмутительными могут быть выводы, сделанные нейросетями по одному снимку.

    Надпись на фото (с лева на право): «Убийца веселья», «Правонарушитель, преступник».

    ImageNet — это система, на которой построено приложение. Она является исследовательским проектом, созданным в Стэнфордском и Принстонском университетах. ImageNet — это набор изображений, организованный в соответствии с WordNet, базой данных, созданной в Принстоне из английских существительных, глаголов, прилагательных и наречий. База данных WordNet — это и есть источник меток.