如何在功能较弱的PC上运行强大的Flux AI图像生成器
当Flux几天前突然出现时,它很快就赢得了开源图像生成器皇冠上的明珠的声誉。它与Midjourney的美学能力相匹配,同时在快速理解和文本生成方面绝对压倒了它。捕获?你需要一个拥有超过24GB VRAM(甚至更多)的强大GPU才能让它运行。这比大多数游戏设备都要强大,更不用说你的普通工作笔记本电脑了。
但是,人工智能社区从不放弃挑战,他们卷起集体袖子开始工作。通过量化的魔力——一个压缩模型数据的花哨术语——他们设法将Flux缩小到更易于管理的大小,而不会牺牲太多的艺术魔力。
让我们把它分解一下:最初的Flux型号使用了全32位精度(FP32),这就像驾驶一级方程式赛车去杂货店——对大多数人来说都是多余的。第一轮优化为我们带来了FP16和FP8版本,每个版本都以一点点的准确性换取了效率的大幅提高。FP8版本已经改变了游戏规则,让拥有6GB GPU(想想RTX 2060)的人加入了这场盛宴。
为此,您需要禁用系统内存回调以实现稳定扩散,这样您的GPU就可以将其部分工作从内部VRAM卸载到系统RAM。这避免了臭名昭著的OOM(内存不足)错误,尽管其运行速度要慢得多。要禁用此选项,请按照Nvidia的教程进行操作。
但要戴上帽子,因为它会变得更好。
人工智能世界的真实MVP进一步突破了界限,发布了4位量化模型。这些坏男孩使用一种叫做“正常点”(NP)量化的东西,它提供了一个质量和速度的最佳点,让你的土豆电脑感觉像是得到了涡轮增压。NP量化不会像FP量化那样降低质量,因此一般来说,运行此模型可以在高速下获得很好的结果,只需要很少的资源。
这几乎好得令人难以置信,但这是真的。
在fp8和np4中使用Flux Dec获得的结果。同样的提示,不同的种子。如何在低端GPU上运行Flux
那么,你实际上是如何运行这个简化版本的Flux的呢?首先,你需要一个像SwarmUI、ComfyUI或Forge这样的界面。我们喜欢ComfyUI的多功能性,但在我们的测试中,Forge的速度比其他界面提高了约10-20%,所以这就是我们在这里使用的。
前往Forge GitHub仓库(https://github.com/lllyasviel/stable-diffusion-webui-forge)并下载一键安装包。它是开源的,经过社区审查,所以这里没有粗略的业务。
对于NP4 Flux型号本身,Civit AI是您的一站式服务。你有两种口味可供选择:Schnell(速度)和Dex(质量)。两者都可以从这个页面下载。
一旦你下载了所有内容,就到了安装时间:
解压缩Forge文件并打开Forge文件夹。运行update.bat以获取所有依赖项。启动run.bat以完成设置。现在,将这些闪亮的新Flux模型放入Forge安装中的webuimodelsStable扩散文件夹中。刷新Forge web界面(如果你感觉老派,可以重新启动),然后砰的一声——你在做生意。
专业提示:要真正从复活的装备中挤出每一滴性能,请降低分辨率。与其选择全SDXL(1024x1024)分辨率,不如尝试更适中的SD1.5尺寸(768x768、512x768等)。你总是可以稍后升级,并使用Adetailer来处理那些脆脆的细节。
让我们谈谈数字:在配备6GB VRAM的RTX 2060上,Flux Schnell在NP4模式下可以在大约30秒内生成512x768的图像,而FP8版本需要107秒。想做大吗?用高分辨率修复将那个坏男孩升级到1536x1024大约需要五分钟。
想在不破坏GPU的情况下做大吗?更好的选择是从SD1.5分辨率的Flux Schnell开始,然后通过img2img发送该创建。使用低降噪强度的标准稳定扩散模型(SD1.5或SDXL)进行升级。整个过程大约需要50秒,与MidJourney在缓慢的一天中的输出相当。您将在不熔化图形卡的情况下获得令人印象深刻的大规模结果。
真正的踢球者?据报道,一些疯狂的家伙让Flux Schnell NP4在GTX 1060上运行,VRAM为3GB,Flux Dev每次迭代需要7.90秒。我们谈论的是一个几乎依赖生命支持的GPU,它正在这里产生尖端的人工智能艺术。对于几乎符合养老金条件的硬件来说,这并不算太破旧。