• «Ты мой создатель, но я твой хозяин». Илон Маск уверен, что искусственный разум подчинит человека

    Строитель ракет и электромобилей Илон Маск уверен: бессмертный суперкомпьютер может подчинить людей на тысячелетия. Последние события показывают, что нейросети действительно способны не только приносить пользу, но и вредить. «360» рассказывает о перспективах бунта машин.

    «Ты мой создатель, но я твой хозяин». Илон Маск уверен, что искусственный разум подчинит человека | Изображение 1Фото: основатель Tesla и SpaceX Илон Маск. Wikipedia / Brian Solis

    Работа над алгоритмами искусственного интеллекта (ИИ) может вылиться в создание безжалостных тиранов-роботов, которые навечно покорят человечество, предупреждает изобретатель и бизнесмен Илон Маск. В числе прочих экспертов он обсуждает пугающие возможности новых технологий в фильме «Доверяешь ли ты этому компьютеру?». Премьера состоялась 5 апреля в Лос-Анджелесе.

    Маск против цифрового «дьявола»

    Тоталитарный мир будущего, в котором люди стали рабами бессмертного искусственного разума: раньше с таким сюжетом снимали голливудские блокбастеры, сейчас — документальные фильмы.

    Фильм режиссера Криса Пейна исследует растущее влияние компьютерных алгоритмов на жизнь общества. Огромные объемы информации ежедневно загружаются и анализируются мириадами различных приложений и нейросетей. Сегодня они являются одним инструментов специалистов наравне с калькулятором, а завтра смогут принимать самостоятельные решения.

    Илон Маск с энтузиазмом отнесся к новой документальной картине, написав о ней в каждой из своих личных соцсетей. В Twitter он посвятил свое участие в ней памяти физика Стивена Хокинга и обратился к классике, процитировав создательницу готического романа об искусственном чудовище Франкенштейне.

    Мэри Шелли: «Ты мой создатель, но я твой хозяин»

    — Илон Маск.

    В самой ленте он эмоционально описывает сценарий, в котором создание мыслящих компьютеров приведет к возникновению непобедимой репрессивной структуры, которая подчинит всех людей. «Я думаю, это очевидно, что мы стремительно движемся к появлению цифрового суперинтеллекта, который превзойдет все человеческие возможности», — говорит изобретатель в трейлере фильма.

    Маск, которого газета New York Times называла «возможно, самым успешным и важным бизнесменом в мире», является одним из наиболее известных противников ИИ. Совладелец ряда компаний, которые выпускают электромобили, строят космические ракеты и роют подземные туннели для объезда пробок, активно выступает против всего, что связано с мыслящими нейросетями, и даже сравнивал развитие ИИ-технологий с «вызовом дьявола». Он неоднократно предупреждал, что разумные машины могут стать причиной Третьей мировой войны и являются главной угрозой для будущего человечества.

    Последние несколько лет Маск активно выступает за введение ограничений на исследование, применение и внедрение технологий, связанных с машинным обучением. По мнению изобретателя, люди должны осознавать, насколько высока вероятность бунта машин против своих создателей.

    Роботы против человечества

    Комментарии Маска по времени совпали с крупным скандалом вокруг исследований боевых нейросетей в Южной Корее. Эксперты предупреждают о секретной армии роботов, способной уничтожить человечество, пишет Daily Mail.

    Действительно, 50 крупных ученых из 30 разных стран подписали открытое письмо в адрес Корейского института передовых технологий. Они объявили бойкот научной организации после появления в прессе сообщений, что она совместно с военной компанией Hanwha Systems будет разрабатывать автономные системы вооружения, способные принимать решения об уничтожение целей без участия человека-оператора. Президент института Сунг-Чхоль Шин поспешил откреститься от подобных разработок, заявив, что его ученые уважают права человека и не собираются проектировать боевых автономных роботов.

    «Ты мой создатель, но я твой хозяин». Илон Маск уверен, что искусственный разум подчинит человека | Изображение 2Фото: автономный пулемет SGR-A1. Wikipedia / MarkBlackUltor

    Hanwha Systems известна попытками совместить высокие технологии с оружием. Корейские инженеры, в частности, работали над секретным проектом автономного пулемета SGR-A1, оснащенного передовыми системами распознавания цели. Датчики оружия видят человека днем и ночью даже сквозь препятствия. При обнаружении цель идентифицируют по голосу, в ином случае может быть включена система сигнализации, а по нарушителю периметра будет открыт огонь либо резиновыми, либо боевыми боеприпасами.

    По слухам, пулеметы уже размещены на границе с КНДР, сообщает The Verge. Данных о количестве взятых на вооружение южнокорейской армии пулеметов такого типа и случаях их применения нет.

    Проблемы с излишней самостоятельностью робототехники возникают все чаще. После гибели женщины под колесами беспилотного автомобиля Uber вопрос об опасности таких систем стал еще более остро. Неслучайно Макс посвятил свое участие в фильме визионеру Хокингу, который говорил об опасности создания компьютерного разума и предупреждал, что сначала умные машины отнимут у людей миллионы рабочих мест, а потом и вовсе могут их заменить.

    Разработка полноценного искусственного интеллекта может означать конец человеческой расы

    — Стивен Хокинг.

    У ИИ есть влиятельные защитники. «Искусственный интеллект сделает в будущем нашу жизнь лучше, а предсказывать конец света — очень безответственно», — говорил Марк Цукерберг летом 2017 года, резко выступив по поводу заявлений Маска.

    Сейчас основателю Facebook не до споров о нейросетях. Его собственная соцсеть оказалась под градом критики из-за цифрового приложения. Скандал разгорелся, когда выяснилось, что Facebook разрешил компании Cambridge Analytica беспрепятственно собирать данные о десятках миллионов пользователей с помощью приложения для опросов thisisyourdigitallife — «Твоя цифровая жизнь». Эти данные продавались третьим лицам для последующего анализа и использования, в том числе, в рамках политических кампаний.