Оптимизируем потребление видеопамяти Automatic1111.

Данный гайд позволит запустить Automatic1111 вплоть до видеокарт на 4 гб видеопамяти.

Для начала, активируем все, указанное в статье про ускорение работы Automatic1111

1) Вырубаем аппаратное планирование

2) Включаем SDP/xformers

3) Дописываем доп параметры бат файла.

3) Устанавливаем и активируем ToMe

Для тех, у кого 6 гб видеопамяти:

Ваш webui-user.bat должен выглядеть примерно так:

@echo off
set PYTHON=
set GIT=
set VENV_DIR=
set CUDA_MODULE_LOADING=LAZY 
set NUMEXPR_MAX_THREADS=16
set PYTORCH_CUDA_ALLOC_CONF=garbage_collection_threshold:0.9,max_split_size_mb:512
set COMMANDLINE_ARGS= --opt-sdp-attention --no-hashing --always-batch-cond-uncond --medvram
call webui.bat

то есть, просто допишите параметры

--no-hashing --always-batch-cond-uncond --medvram

Использование medvram немного снизит производительность, но позволит прилично снизить потребление видеопамяти. Чтобы снижение производительности было еще меньше, можно отключить предпросмотр при генерации в настройках автоматика.

Для тех, у кого 4 гб видеопамяти:

Ваш webui-user.bat должен выглядеть примерно так:

@echo off
set PYTHON=
set GIT=
set VENV_DIR=
set CUDA_MODULE_LOADING=LAZY 
set NUMEXPR_MAX_THREADS=16
set PYTORCH_CUDA_ALLOC_CONF=garbage_collection_threshold:0.9,max_split_size_mb:512
set COMMANDLINE_ARGS= --opt-sdp-attention --no-hashing --always-batch-cond-uncond --lowvram
call webui.bat

В зависимости от вашей видеокарты, попробуйте opt-sdp-attention заменить на xformers. Сравните результаты. То, что будет лучше работать с вашей картой будет необходимо оставить в bat файле.

Важно: оба параметра (xformers и sdp) не будут работать вместе. Будет активирован только один из них.

Если вы планируете генерировать, используя ControlNet или же использовать hi-res fix, то используете параметр lowram. Это очень сильно снизит производительность, но даст максимально экономное использование видеопамяти. Если же вы не собираетесь использовать вышеописанные функции, можете попробовать использовать также medvram.

Статья подготовлена телеграм каналом Neurogen News.