19 сентября 2019, 04:51
#ImageNetRoulette. Нейросеть хамит и навешивает ярлыки, но пользователи продолжают ее «злить»
Программа ImageNet Roulette классифицирует людей сомнительным, а иногда даже жестоким образом. Так, загрузив свое фото, человек может быть определен как преступник или насильник, а иногда может получить даже расистское оскорбление. Пользователи Twitter публикуют полученные ими от нейросети ярлыки, и похоже это может превратиться в очередной тренд.
ImageNet Roulette — это программа, в которой нейросеть навешивает на людей ярлыки, уточняет портал Buzz Feed. Но результаты могут многих расстроить: например, если Барака Обаму ImageNet Roulette приняла за карточного игрока, то Дуэйна «Скалу» Джонсона — за подозреваемого в изнасиловании.
Надпись на снимке Джонсона: «Подозреваемый в изнасиловании».
Чтобы получить свой ярлык, необходимо загрузить фотографию на сайт проекта. Искусственный интеллект (ИИ) проанализирует ее и сделает свои выводы.
Арт-проект был создан берлинским разработчиком Лейфом Ригом в сотрудничестве с художником Тревором Пагленом и исследователем искусственного интеллекта Кейт Кроуфорд. Сейчас проект представлен как часть выставки, проходящей в Фонде Prada в Милане. Она посвящена истории обучения ИИ с помощью фотографий.
Надпись на фото: «Люди с ампутированной конечностью».
Программа призвана показать, насколько неточными и возмутительными могут быть выводы, сделанные нейросетями по одному снимку.
Надпись на фото (с лева на право): «Убийца веселья», «Правонарушитель, преступник».
ImageNet — это система, на которой построено приложение. Она является исследовательским проектом, созданным в Стэнфордском и Принстонском университетах. ImageNet — это набор изображений, организованный в соответствии с WordNet, базой данных, созданной в Принстоне из английских существительных, глаголов, прилагательных и наречий. База данных WordNet — это и есть источник меток.
Искусственный интеллект
Реклама
Реклама