Уволенные нейросетью. Восстание машин началось, а мы не заметили

Будущее приходит буднично, без спецэффектов. Предсказанные фантастами изобретения рано или поздно становятся частью быта. Житель «умного дома» заходит в виртуальную реальность, чтобы перекинуться в партию шашек, пока робот пропылесосит ковер, а холодильник закажет новую упаковку пива и приготовит салат из авокадо — такое возможно уже сегодня, а через 10 лет производители  обещают сделать «смартхаусы» доступными для всех потребителей.

Вот только темная сторона технологического прогресса столь же быстра и незаметна. «Скайнет» не штампует мириады железных убийц, чтобы обратить наши города в прах, но безымянный искусственный интеллект все чаще подменяет людей.

Обычно это только повышает эффективность производства, на котором используют ИИ. Хотя были случаи, когда стальная воля нейросети шла наперекор человеческой, и остановить действия невидимого скрипта не мог никто.Такой бунт против человека не выглядел бы эффектным на большом экране, но в состоянии попортить кровь любому «сопернику» из плоти и кровь.

Вот пример. Программист Ибрагим Диалло пришел на работу, но на входе его электронный пропуск не сработал. В офис пустил знакомый охранник. Диалло пожал плечами и забыл о недоразумении, а уже через день пропуск запищал вновь — айтишнику запретили въезд на офисную парковку. Тот решил поменять карточку, но ответ из службы поддержки пришел неожиданный — пропуск заблокирован, потому что сотрудник под таким именем уволен.

Программист пытался продолжить работать, но вскоре за ним пришла охрана. Она получила приказ от автоматизированной системы безопасности вывести уволенного из офиса.

Знакомые Диалло разводили руками, но помочь не могли. Тогда он зашел с козыря и пошел на самый верх. Директор компании пообещала разобраться, но сделать ничего не смогла — в системе указано, что контракта с ним нет, а значит, увольнение не отменить. Топ-менеджмент в шоке — Диалло считался ценным сотрудником, но «доктор сказал: „в морг!“, значит — в морг!».

Почти на месяц жертва машинного бунта осталась без работы. Запущенную ИИ цепочку задач по устранению уволенного сотрудника из рабочих процессов компании удалось остановить, только перезаключив контракт, который по ошибке не был внесен в базу данных нейросети.

Вроде бы смешная история, ничего серьезного. Но поневоле вспомнишь Айзека Азимова с «Тремя законами робототехники» — пока нейросеть не начала определять, в каком порядке отправлять людей из космолета в открытый космос или кого спасать в случае крупной аварии, хорошо бы накрепко вшить в ее «подкорку» главное правило — безопасность и забота о человеке стоит на первом месте.

Если же это технически невозможно, то пора прислушаться к Илону Маску, который видит в ИИ одну из самых страшных опасностей для развития человечества. И разве поспоришь с ним, когда в новостях сообщают о нейросети, научившейся предугадывать действия людей еще до их совершения?