facebook_pixel
  • 27 сентября 2016, 21:34

    Ученые заподозрили искусственный интеллект в сексизме

    При подборе аналогий система использует гендерные стереотипы.
    Ученые заподозрили искусственный интеллект в сексизме

    Интересный вывод удалось сделать исследователям Стэнфордского университета в ходе эксперимента с системами искусственного интеллекта. Выяснилось, что ему свойственно перенимать популярные человеческие взгляды и проявлять признаки сексизма, сообщил сайт arxiv.org.

    В ходе исследования алгоритма машинного обучения ученые предложили искусственному интеллекту решать задачи на проведение аналогий. В таких случаях система часто дает ответы, используя наиболее распространенные сочетания слов.

    При подборе аналогий положительным считался результат типа «мужчина — король, женщина — королева». Ученые заметили, что, например, в утверждении «мужчина — программист, женщина — Х» компьютер дал ответ «домохозяйка». Тогда системе было предложено самостоятельно проводить аналогии по схеме «он — Х, она — Y». Если в начале работы с простыми аналогиями получалось «он — брат, она — сестра», то позже система перешла к использованию очевидных гендерных стереотипов «он — врач, она — медсестра» или «он — архитектор, она — дизайнер».

    Напомним, что лучшие умы всерьез обеспокоились возможным уничтожением рода человеческого искусственным интеллектом, развитие которого, по их мнению, уже приближается к опасной черте.