Ученые и «айтишники» перестали понимать принцип работы нейросети

Эксперты предлагают действовать, пока система не стала слишком сложной и не вышла из-под контроля. «Мы не хотим довольствоваться произвольными решениями, принятыми людьми или ИИ, которые нам непонятны, -  пояснил Джейсон Йосински из Uber. — Чтобы модели машинного обучения были приняты обществом, нам нужно знать, почему ИИ принимает те или иные решения».

Кири Вагстафф - ИИ-эксперт в Jet Propolusion Lab (NASA) - согласен с коллегой и дополнил его опасения своими. "Если у вас есть космический корабль на орбите вокруг Марса, то он находится на расстоянии 200 миллионов миль, он стоит сотни миллионов долларов, может быть даже миллиард долларов. Если что-то пойдет не так, нет никакого способа отремонтировать, заменить любой его узел, не тратя огромную сумму денег", - заявил эксперт.

Иными словами, то, чем еще недавно восторгались и о чем писали хвалебные статьи журналисты, повернулось темной стороной. Речь о способности искусственного интеллекта к самообучению и самосовершенствованию, которая стала угрозой для человечества. По словам ученых, можно говорить, что искусственный интеллект научился абстрактно мыслить - а значит, принимать алогичные решения. 

Тяжеловесное, но тем не менее рабочее решение предложила исследователь из Google Мэтра Рагху. В своем докладе она описала процесс отслеживания действий отдельных «нейронов» нейросети. Проанализировав миллионы операций, она поняла, какие из искусственных «нейронов» концентрировались на неверных представлениях. После этого стало возможным их отключить.

В России тем временем своя специфика. Голосовой помощник Алиса от «Яндекса» решил баллотироваться в президенты России. По крайней мере, так говорится на сайте кандидата. За первого в мире робота‐президента уже отдали голоса пять тысяч человек.