Někdo objevil novou jednoduchou možnost optimalizace paměťové náročnosti:
https://old.reddit.com/r/StableDiffusion/comments/x56e8x/the_optimized_stable_diffusion_repo_got_a_pr_that/Výsledkem je, že pro 512x512 obrázky stačí 2,86 GB VRAM, na mojí sekundární (tj. 100% využívané jen pro tohle) 6 GB VRAM grafické kartě můžu generovat 832x832 px obrázky (i když mám zapnutý ESRGAN a GFPGAN, které trošku užírají), a na 6 GB VRAM kartě která je využívaná systémem by mělo jít generovat 768x768 px obrázky (či nečtvercový ekvivalent).
A co je zajímavé, používám při spouštění webui flag --optimized-turbo, který má teoreticky o kus vyšší spotřebu RAM než jen --optimized, ale je skoro stejně rychlý jako neoptimalizovaná verze.
Nevýhoda je, že čím větší je obrázek, tím častěji dochází k chybám jako zdvojování prvků. Zkoušel jsem generovat staré portréty rustikálních angličanů a při 832x832 pixelech už mi začal často vyrábět dvě hlavy.