facebook_pixel
  • 10 декабря 2017, 18:38

    Ученые и «айтишники» перестали понимать принцип работы нейросети

    Ученые и «айтишники» перестали понимать, как именно нейросеть принимает решения. В этом они признались на главной мировой конференции по искусственному интеллекту (ИИ) ‐ Neural Information Processing Systems. Впрочем, речь о многократно описанном в фантастике «восстании машин» пока не идет. Подробности сообщил Quartz.

    Ученые и «айтишники» перестали понимать принцип работы нейросети

    Эксперты предлагают действовать, пока система не стала слишком сложной и не вышла из-под контроля. «Мы не хотим довольствоваться произвольными решениями, принятыми людьми или ИИ, которые нам непонятны, - пояснил Джейсон Йосински из Uber. — Чтобы модели машинного обучения были приняты обществом, нам нужно знать, почему ИИ принимает те или иные решения».

    Кири Вагстафф - ИИ-эксперт в Jet Propolusion Lab (NASA) - согласен с коллегой и дополнил его опасения своими. "Если у вас есть космический корабль на орбите вокруг Марса, то он находится на расстоянии 200 миллионов миль, он стоит сотни миллионов долларов, может быть даже миллиард долларов. Если что-то пойдет не так, нет никакого способа отремонтировать, заменить любой его узел, не тратя огромную сумму денег", - заявил эксперт.

    Иными словами, то, чем еще недавно восторгались и о чем писали хвалебные статьи журналисты, повернулось темной стороной. Речь о способности искусственного интеллекта к самообучению и самосовершенствованию, которая стала угрозой для человечества. По словам ученых, можно говорить, что искусственный интеллект научился абстрактно мыслить - а значит, принимать алогичные решения. 

    Тяжеловесное, но тем не менее рабочее решение предложила исследователь из Google Мэтра Рагху. В своем докладе она описала процесс отслеживания действий отдельных «нейронов» нейросети. Проанализировав миллионы операций, она поняла, какие из искусственных «нейронов» концентрировались на неверных представлениях. После этого стало возможным их отключить.


    В России тем временем своя специфика. Голосовой помощник Алиса от «Яндекса» решил баллотироваться в президенты России. По крайней мере, так говорится на сайте кандидата. За первого в мире робота‐президента уже отдали голоса пять тысяч человек.