31 марта 2023, 13:00

Бесплатную версию Midjourney отключили. Проблема фейков от нейросети нарастает

IT-эксперт Мясоедов объяснил решение отключить бесплатный доступ к нейросети Midjourney

Пользователи больше не смогут пользоваться бесплатной версией нейросети Midjourney. Платную возможность создавать изображения пока оставили. Причиной такой меры в компании назвали злоупотребления. К ним, вероятно, отнесли изображения задержанного на улице экс-президента США Дональда Трампа и папы римского в стильном белом пуховике. Эксперт по кибербезопасности, директор и партнер компании «Интеллектуальный резерв» Павел Мясоедов в комментарии «360» объяснил причину такого решения и дал оценку возможных мер для борьбы с фейковыми картинками, созданными искусственным интеллектом.

Нужны адекватная аудитория и соблюдение баланса

Решение временно закрыть доступ к бесплатной версии Midjourney связано с необходимостью снизить постоянную нагрузку на систему, заметил специалист. По его мнению, речь идет не столько даже о борьбе с фейками, сколько о желании оптимизировать расходы со стороны разработчиков.

Midjourney хочет сделать это в двух плоскостях: первое — в плоскости негативного маркетингового или пиар-освещения, пояснил Мясоедов. То есть компания таким образом хочет отсеять праздных пользователей и меньше инвестировать в последующую работу с публичной картинкой.

Вторая задача связана с нагрузками на инфраструктуру. Специалист пояснил, что, с одной стороны, интенсивное использование нейросети помогает ей учиться, принося много вводных данных. С другой — важно соблюдать баланс.

«Поэтому эта мера была нужна с целью отсеять праздные запросы, создать более-менее адекватную аудиторию, которая дает качественные запросы, качественные вводные данные для последующего обучения и для оптимизации, сохранение публичного имени и сокращение инвестиций в пиар», — подчеркнул он.

Маркировка картинок едва ли возможна

Мясоедов обратил внимание, что сейчас тема вызовов, которые несет в себе развитие искусственного интеллекта, вышла на передний план. Недавно целый ряд бизнесменов и ученых, в том числе Илон Маск, подписали письмо, в котором призвали приостановить развитие ИИ. Уже очевидно, какие риски может нести в себе эта технология, отметил он. Речь, в частности, идет о создании фейков.

«Действительно, сейчас изображение или текст, созданный с помощью этой технологии, уже очень сложно отличить от созданного человеком, особенно это непросто обычному обывателю», — сказал Мясоедов.

В соцсетях уже ранее уже применяли меры информационной защиты пользователей. В Twitter появилась специальная плашка, которая предупреждала пользователей о том, что перед ними не настоящее фото, а картинка, сгенерированная нейросетью. Ее применяли для изображений папы римского в пуховике и Дональда Трампа после ареста. Мясоедов подчеркнул, что повсеместное применение картинок навряд ли возможно.

«Маркировка возможна, но толку все равно будет мало. Потому что отмаркировать все картинки сложно, разобраться тому, кто это будет делать, тоже сложно. Этим должен заниматься другой сопоставимый по уровню искусственный интеллект. Он должен понимать, что картинку создал другой программный продукт, его коллега. Но в теории это было бы неплохо», — заключил собеседник «360».

Искусственный интеллект