Новая голосовая технология Google оказалась слишком «человечной»

Новые возможности голосового помощника Google Ассистент вызвали смешанную реакцию у обычных пользователей и специалистов в области разработки искусственного интеллекта (ИИ). Благодаря технологии Duplex цифровой ассистент готов поддерживать диалог с человеком без специального обращения перед каждым запросом. Он научился определять, когда обращаются именно к нему, а не кому-то другому.

Помощник понимает смысловые оттенки речи, способен отличить грубость от вежливого обращения, но главное — может самостоятельно делать звонки и общаться с людьми, которые даже не подозревают, что на другом конце провода не собеседник из плоти и крови, а нейросеть.

Больше всего участников презентации новой технологии смутил особый прием разработчиков — они добавили в виртуального помощника особенности обычной человеческой речи, делающего его почти неотличимым от любого из нас.

Многоголосый помощник

Теперь цифровой помощник может выполнить почти любую прихоть человека: заказать пиццу, столик в ресторане, записать к врачу или другому специалисту. За простыми действиями стоит сложная технология. Как поясняют создатели нейросети Duplex, им пришлось предусмотреть все мыслимые сложности от невнятной речи до разных значений, которые могут быть у одного слова.

Итоговый результат был представлен, в числе прочих новых продуктов Google, во время ежегодной конференции I/O. Как и другие техногиганты, компания периодически рассказывает о своих планах и показывает самые интересные новинки.

Презентацию вел нынешний глава Google Сундар Пичаи. Он включил запись звонка Duplex в парикмахерский салон. Сотрудник салона, похоже, так и не догадался, что общается с нейросетью — она удачно отвечала на реплики человека с помощью междометий вроде «ага», «угу» и «ну».

Это важное отличие Duplex от любых аналогичных систем — программисты не только тренировали его на огромной базе данных телефонных звонков, чтобы научиться понимать самые необычные речевые обороты, но и включили в его собственную речь хмыкание, междометия и слова-паразиты. Кроме того, нейросеть может использовать разные голоса — и женские, и мужские. Каждый из них звучит естественно, а не растянуто и по слогам, что было свойственно компьютерной речи раньше.

На практике это означает, что отличить робота от человека по телефону становится практически невозможно.

Невидимая опасность

Способности обновленного ассистента вызвали восторг и бурные аплодисменты у собравшихся на конференцию разработчиков. Но среди зрителей оказались и скептики. Их опасения резюмировал журналист и писатель Стивен Леви. «Насколько этично, когда робот говорит как человек и общается с кем-то, даже не подозревающим об искусственности собеседника? Это серьезный вопрос» — написал он в Twitter.

• «Ты мой создатель, но я твой хозяин». Илон Маск уверен, что исскусственный разум подчинит человека

Заложенные в нейросеть возможности могут быть использованы хакерами-злоумышленниками, если те взломают или скопируют алгоритм для собственных целей и, например, используют его для массовых звонков. «Телефонный спам» по-прежнему является серьезной проблемой по всему миру, а с помощью никогда не устающей и не обижающейся нейросети число звонков с предложением сделать ненужную покупку или взять кредит в малоизвестном банке может достигнуть запредельных масштабов.

Даже без всякого взлома можно легко устроить бойкот любому малому бизнесу. Допустим, заказать все столики в ресторане на вечер и внезапно отказаться от посещения.

Представители Google пока не поясняют, будут ли встроены механизмы защиты от подобного поведения, но обещают, что перед финальным запуском обновления будет проведено его тщательное тестирование.

Защита от роботов

Эксперты сходятся в том, что люди имеют право знать, является ли роботом их собеседник. Простой способ добиться этого — принять закон, действие которого показано в боевике-антиутопии «Бегущий по лезвию». Такой рецепт предлагает профессор факультета права Колумбийского университета Тим Ву. По его словам, нелегальным должно быть создание любой программы или робота, способных сойти за человека и скрыть свою цифровую сущность.

С ним соглашаются и другие специалисты — они не против самой технологии, но считают, что люди должны понимать, кто перед ними.

Duplex нормализует возможность, что ИИ замаскирует себя под человека — уровень современной технологии позволяет скопировать любой голос и фактически похитить чужую личность, ссылается Washington Post на научного сотрудника Оксфордского университета Майлса Брундеджа. По его мнению, инженеры Google должны обдумать, как встроить в нейросеть механизм предупреждения о своей искусственности, чтобы их собеседники сразу знали, с кем говорят.

У использования нейросети есть и другая менее очевидная, но важная этическая проблема. Ассистент-машина еще более снижает необходимость в обычном общении, а значит, в понимании и сочувствии, которое рождается при контакте с другим человеком. Подобная технология может еще больше отдалить современных людей друг друга, отмечает сайт The Verge: она создает впечатление, что достаточно отдать приказ машине, и любой товар или услуга будут предоставлены, исключая из общей картины сотрудников-людей и их проблемы.