# U1.5:显存、系统内存与 8 步生成耗时

English | 简体中文

本文记录 [U1.5](u1.5_model_CN.md) 的文生图、图像编辑和单图图文交错生成结果。测试使用 8 步 V2 LoRA;生成前已将其合入基座权重,计量阶段没有单独常驻的适配器权重。下载与运行命令见[模型指南](u1.5_model_CN.md#8-步-v2-lora)。 ## RTX 5090 实测 GeForce RTX 5090(总显存 32,607 MiB)上的九组任务与显存模式组合全部跑通。每组单独启动进程:seed 0 预热,seed 1–3 计时。下表是后三次生成耗时的中位数和范围,不含模型加载、LoRA 合并与文件保存。显存列取这三次调用的 PyTorch allocated / reserved 峰值,不代表整卡用量。逐次数据、图片哈希、测试版本与 `fast` 预算参数见 [JSON 记录](data/u1.5_5090_runs.json)。 | 任务 | 模式 | 预热后生成耗时(秒) | GPU allocated / reserved(GiB) | | --- | --- | ---: | ---: | | 文生图 | `fast` | 4.469(4.469–4.476) | 16.60 / 18.46 | | 文生图 | `balanced` | 4.461(4.448–4.465) | 3.68 / 8.65 | | 文生图 | `low` | 6.740(6.726–6.740) | 2.96 / 3.56 | | 编辑 | `fast` | 5.709(5.706–5.725) | 17.95 / 24.98 | | 编辑 | `balanced` | 5.730(5.724–5.743) | 10.20 / 15.17 | | 编辑 | `low` | 8.223(8.222–8.238) | 9.48 / 10.08 | | 图文交错 | `fast` | 23.989(23.709–24.570) | 19.17 / 22.39 | | 图文交错 | `balanced` | 24.269(23.985–24.883) | 6.99 / 12.48 | | 图文交错 | `low` | 28.509(28.209–29.134) | 6.27 / 7.43 | 测试使用 BF16、SDPA、8 步、CFG 1.0、batch size 1。文生图与编辑输出 2048×2048,编辑使用[这张输入图](../examples/editing/data/images/1.webp)。图文交错输出 1536×1536,设置 `think_mode=False`、`max_images=1`,因此没有验证更长的图文序列。三种模式使用相同提示词。36 次调用均生成可解码的 RGB PNG;同一任务和 seed 在不同模式下的图片哈希一致。图文交错耗时包含文本生成。 测试日期为 2026 年 11 月 13 日,未设置分配器限额。`balanced` / `low` 的进程 CPU RSS 峰值约 52.2 GiB;可按 64 GB 系统内存规划,为操作系统和其他进程留出空间。这不是实测最低内存要求。 这组输入下,`balanced` 与 `fast` 耗时接近,但占用更少 GPU 显存;`low` 更省显存、耗时更长。PyTorch 显存峰值不能当作显卡最低容量。 ## H100 分配器限额测试 H100 80 GB 测试中,其他进程占用约 37–40 GiB 显存。程序通过 `torch.cuda.set_per_process_memory_fraction` 设置 24、32、48 GiB 的 PyTorch 分配器限额,也运行了未设限额的配置。每组独立启动一次进程,使用 seed 0、BF16、SDPA、8 步和 CFG 1.0;任务与分辨率同上。 下表合并了显存峰值相同的限额;每个列出的限额和任务都分别运行过。数值是生成期间 PyTorch **reserved** 峰值,单位 GiB。 | H100 分配器限额 | 模式 | 文生图 | 编辑 | 图文交错 | | --- | --- | ---: | ---: | ---: | | 24 和 32 GiB | `balanced` | 7.0 | 14.0 | 11.7 | | 24 和 32 GiB | `low` | 3.0 | 10.0 | 7.4 | | 48 GiB 和未限额 | `full` | 34.7 | 40.3 | 37.6 | 表中测试全部完成。`full` 加载后就 reserved 33.0 GiB,因此没有在 24 或 32 GiB 限额下测试。分层卸载时进程 CPU RSS 约 52 GiB;`full` 约 14 GiB。 **版本:**H100 驱动 550.90.07、Python 3.11.13、PyTorch 2.8.0+cu128、Transformers 5.15.0;基座 revision `a2462cc1b549bace2c0896143bbbcbb3fa217c76`,V2 LoRA revision `f33b8fe0216e6f10e5aed58ebbfdd05f02826732`。H100 数据来自未预热的单次调用,基座 revision 与 5090 测试不同。 显存模式见[任务示例](../examples/README_CN.md#单卡显存模式)。实际使用时,还需给 CUDA 上下文、其他分配及其他进程留出空间。