Использование A1111 с несколькими GPU

Если у вас несколько видеокарт, то вы можете запускать одновременно несколько автоматиков на отдельных картах. Более того для них можно использовать полностью разные настройки, сохранять сгенерированные изображения в разные папки, подгружать модели из разных путей - в общем создавать подобие профилей. Это может быть удобно чтобы настроить, например, отдельный профиль специально для Dreambooth, без лишних расширений и аргументов, чтобы точно не сломать процесс обучения, или просто ускорить генерацию в два раза, если вы всё ещё не задействуете вторую видеокарту.

Кстати говоря - при генерации процессор не слишком нагружается, так что, пока у вас генерится очередная тысяча вариантов аниме девушек на второй видеокарте, вполне можно проходить Atomiс Heart на первой.

В папке с автоматиком нам нужно сдублировать файл webui-user.bat, переименовать его например в webui-user-train.bat и дописать в него парочку аргументов.

Прежде всего нам нужно добавить порт на котором будет находиться второй автоматик, можно использовать 7861, или любой другой не занятый. Полный адрес теперь будет выглядеть так - http://127.0.0.1:7861/ Ну и так же мы включаем автозапуск для удобства, но можно и закладку в браузере сохранить. Аргументы необходимо писать после знака равно в строке.

set COMMANDLINE_ARGS= --port 7861 --autolaunch

Теперь нам нужно выбрать видеокарту на которой будет работать этот профиль автоматика. Для этого добавляем строку (не аргумент, а именно новую строку) 

set CUDA_VISIBLE_DEVICES=1

0 - это ваша основная видеокарта, обычно та, к котой подключен монитор, значит нам нужна видеокарта номер 1.

Всё, сохраняем файл, и запускаем новый профиль автоматика =)

Но если хочется запускать автоматик с отдельными настройками то для начала нам нужно сдублировать файл config.json, он лежит рядом в этой же папке. Давайте назовём его, например, config_train.json

Теперь добавим в webui-user-train.bat ещё несколько аргументов.

--ui-settings-file config_train.json --ckpt-dir models/train_checkpoints --embeddings-dir embeddings_train/ --lora-dir models/train_Lora

--ui-settings-file config_train.json это путь до файла с настройками. Теперь запустив автоматик на вкладке settings вы можете, например, изменить папку куда будут сохраняться изображения, настроить оптимизацию на вкладке train, или отключить лишние расширения, и эти настройки будут сохраняться именно в config_train.json

--ckpt-dir models/train_checkpoints - а это путь до дополнительной папки с чекпоинтами. То есть помимо основных чекпоинтов из "stable-diffusion-webui/models/Stable-diffusion" будут подгружаться ещё и чекпоинты из папки "stable-diffusion-webui/models/train_checkpoints"

Примерно то же самое можно сделать и для Lora и Textual Inversion

--embeddings-dir embeddings_train/ это новая папка с эмбеддингами "stable-diffusion-webui/embeddings_train".

--lora-dir models/train_Lora а это новая папка с лорами "stable-diffusion-webui/models/train_Lora"

Готово! Теперь можно сделать отдельный профиль хоть под каждую задачу или сценарий использования!