Deep dream для рисования

Гугл открыл ящик Пандоры опубликовал исследование о распознавании образов — поиске того чего нет на картинках по библиотеке изображений. Возможно, это станет ключевым инструментом для художников будущего и вот почему.

Самая первое и простое применение Deep Dream это преобразование картинок: программа находит элементы похожие на ей знакомые, и подставляет эти элементы в изображение.

vovkasolovev2015 vovkasolovev2015-deepdream

Существующую библиотеку, по которой это делается, назвали Puppyslug, за то что в её заложенных образах много млекопитающих и моллюсков, что приводит к тому что получаются картинки, которые напоминают щеночков и улиток. В восприятии человеком изображения имеют достаточно отталкивающий визуальный результат.

А уж видео с покадровым преобразованием DeepDream нельзя развидеть от слова совсем.

Видео с трекингом и сохранением найденных образов выглядит намного приятнее. (Представьте такое встроить в VR).

Ссылки на Гитхаб: Оригинальный DeepDream образ машины и библиотека для видео.

 

В исследовании Гугла приводится пример использования — стилистическое преобразование одного изображения в другое.

seurat-layout

 

Первой успешной публичной реализацией такой идеи оказалось приложение Prisma. Она делает преобразования изображения у себя на сервере, а само приложение только интерфейс загрузчика и выбиралка существующих стилей.

vovkasolovev2015-prisma

Самое же интересное направление, то что могло бы реально облегчить порог входа, повысить качество и скорость стилизации изображений, это полуавтоматический контроль результата. Если полностью полагаться на автомат, то часто теряется целостность объектов. Программа хоть и подставляет точно, но не мыслит о целостности образа и сущности изображения — смысл при автоматическом преобразовании может сильно измениться, например, от очень тёмной тени, которая будет выглядеть как объект.

До этого руками что-то такое подобное можно было сделать в Photoshop. Там существуют Content-Aware преобразования, метод, который пытается сохранить и дополнить существующие детали картинки их копиями.

vovkasolovev2015-content-aware-fill

А теперь появилось и первое удачное применение принципа такого автоматического помощника это NeuralDoodle.

 

На видео, по модели картин Клода Моне программа заполняет простые области стилистически подходящими элементами.

 

Мечтаю, что вот уже скоро, к типичным инструментам художника-иллюстратора, клипарту, кистям и текстурам, добавится подборки для автоматической стилизации, которые избавят от основной рисовальной рутины, штриховки, размазывании и пачкании — деталям, от которых радуется глаз, но которые совсем не интересно делать на потоке.

Такое направление можно развить и дальше — на основе изображения генерировать и трёхмерную модель высот.

Только представьте: делаете простейший скетч, после чего автоматически дополняете его цветными деталями, превращаете в объёмную модель, печатаете и вот у вас готовая картина, которую сложно назвать поделкой.