Про webui forge + совсем чутка ботоновостей + чутка «шоколадного» (18+)

В одном из постов про мои боты в комментах упоминули новый дистрибутив стаблы - webui forge. Оптимизированная сборка, позволяющая быстро генерировать изображения даже на слабом железе, и чем слабее железо - тем ощутимее прирост скорости по сравнению с базовым автоматиком…

В общем провел я тестирование данного дистрибутива на двух машинках:

1. Стационарный писюк с GeForce 4070 на 12 гигов видеопамяти. Документация сразу предупреждала что для подобного железа большой прибавки скорости ждать не стоит. Тем не менее ускорение генерации на 5-10 процентов я зафиксировал, что не может не радовать. С другой стороны отметил что медленнее происходит переключение рабочих моделей. А я в своих экспериментах как раз часто этим занимаюсь. Так что прибавляя в одном теряю в другом, и в итоге имею примерно то что имею и так.

2. Старый ноутбук с мобильной видюхой на 4 гига. Честно - ожидал увидеть хоть какую-то заметную прибавку к скорости. Не увидел. Как было 2 шага в секунду, так и осталось. Может там есть какие-то доли секунд выигрыш, но я из не заметил. Странно…

Тем не менее отмечу два действительно интересных факта:

1. Простота установки. Скачать архив - распаковать - запустить. Никаких заморочек с гитом и прочим.

2. Чтобы добиться своей текущей скорости генерации, я прописывал в пусковом батнике классического автоматика ряд параметров на оптимизацию. Дистрибутив же forge сразу дает ту самую скорость. Не надо ничего нигде настраивать чтобы получить адекватное количество шагов в секунду. Получаешь их прямо из коробки!

А еще на основе дистрибутива forge я реализовал простенькую задумку для своего бота, немного упрощающую жизнь и экономящую время и телодвижения. Я разнес модели на базе SD1.5 и SDXL по разным дистрибутивам, чтобы они не перемешивались при тестовых прогонах, когда я гоняю запросы на разных моделях. Дело в том что разные типы моделей хорошо подходят для одних задач и плохо для других. На SD1.5 хорошо генерить сиськи и письки анимешность и реализм, на SDXL хорошо играться с сиськами со стилями и получать интересные результаты. Ну и чтобы не ждать лишних генераций и не заморачиваться с выбором рабочих моделей в той или иной ситуации - просто разнес их на уровне webui API и переключаюсь между дистрибутивами одной бото-командной. Удобненько!

В мыслях добавить третий дистрибутив, чтобы дополнительно разнести модели аниме и реалистик, но это уже в другой раз. Может еще какую сборку под это дело пощупаю.
Ссылка на ту самую сборку (точнее на ее страничку гитхаба):

https://github.com/lllyasviel/stable-diffusion-webui-forge

Если кто скачает и попробует - напишите плиз какая у вас скорость генерации, и каковы ваши ощущения в целом. Будет интересно почитать. Особо интересует если кто попробует на слабых компьютерах (уровня 2-3 гига видеопамяти), ибо у меня такого железа для тестирования нет.