Лето в бикини (18+)

Пару постов назад (https://author.today/post/436899) упоминал что хочу попробовать довести скорость генерации изображений (размером 512 на 1024 пикселей) на новом компьютере до 8 шагов в секунду. Стандартно генерирую иллюстрации на 40 шагах, то есть пикча должна получаться за 5 секунд.

И знаете... оказалось достаточно было просто скопировать параметры из пускового скрипта ноута:

set CUDA_MODULE_LOADING=LAZY
set NUMEXPR_MAX_THREADS=16
set PYTORCH_CUDA_ALLOC_CONF=garbage_collection_threshold:0.9,max_split_size_mb:24
set COMMANDLINE_ARGS= --xformers --medvram --opt-split-attention --always-batch-cond-uncond --no-half-vae --disable-nan-check --api

Чтобы не кривить душой, скажу что скорость в среднем скачет от 6 до 8 шагов в секунду. Тут есть зависимость и от используемого сэмплера, и от сложности запроса. Например на скриншоте ниже скорость колебалась от 6 до 7 шагов в секунду:

В центре можно увидеть просадку до 2 шагов в секунду. На самом деле там усреднение, скорость падала до 1.7. Это параллельно генерации я запустил некоторую игрушку на максимальный настройках графики и попробовал чутка в неё поиграть...

Для сравнения - на старом компе эта игрушка на средних настройках редко выдавала у меня выше 50-60 FPS. На новом писюке в самых заполненных локациях кадры просаживались до 80-90, в среднем по больнице выдает 150-170, а в максимуме было 256

...возможно эти параметры можно подправить под новое железо (4070 gtx, 12Gb VRAM, 32Gb оперативки) и получить ещё большую скорость. Пока не пробовал, радуюсь той скорости что уже есть.

А, и ещё один существенный плюс. Ощутимо уменьшилось время, затрачиваемое на переключение моделей. Если раньше это занимало от 8-10 секунд до пары минут, то сейчас 2-3 секунды - и готово!

Правда я пока тестирую систему на моделях SD1.5. Попробовал скачать какую-то топовую (по рейтингу civitai) модель на базе SDXL, погенерировал, и чёт не впечатлился. Потом ещё как-нибудь попробую.

Тем кто дочитал до конца - обещанное лето в бикини! В конце-концов ноябрь, холод, сырость... а душа просит чего-то тёплого, летнего...

А знаете что может быть лучше чем лето в бикини?

Лучше лета в бикини может быть только лето БЕЗ бикини!!!

Но его выложу в иллюстрациях чуть попозже)