🌍 English | Türkçe | العربية | 日本語 | 中文

Soup

Soup

一条命令完成 LLM 微调与后训练。无需 SSH,告别配置灾难。

官网 · 快速开始 · Web UI · 配置 · 文档 · 命令 · 模型 · Discord · Telegram · Product Hunt

PyPI 下载量 Python 3.11-3.13 Apache-2.0 许可证 测试 CI 官网 Discord Telegram DOI: 10.5281/zenodo.21771064

Soup CLI - 在 4 GB 笔记本 GPU 上微调 8B LLM | Product Hunt MakazhanAlpamys/Soup | Trendshift

--- Soup 把 LLM 微调的痛点变成一条简单的工作流。一份配置、一条命令,搞定。 ```bash pip install "soup-cli[train]" # 加 [train] 才能微调;裸 `soup-cli` 是轻量 CLI soup init --template chat soup train ``` **在 4 GB 笔记本 GPU 上微调 8B 模型。** Layer streaming 让冻结的基座模型不占 显存,按解码层逐层送入 GPU。在 RTX 3050 Laptop 4 GB 上实测:Llama-3.1-8B-Instruct + NF4 达到 **952 MHz 下 119.6 tok/s,峰值 3.32 GB**(修复前)——与常规常驻显存的运行逐位一致,并在 H100 上 以同样的 3.32 GB 独立复现出 113.00 tok/s。(两个数字都测于 v0.72.2,早于 v0.73.0 那次 在 32B 上付出 −4.8% 代价的正确性修复。修复后的复测在另一台 RTX 3050 Laptop 4 GB 上完成(@umran666,#1103),结果是 **1935–1957 MHz 下 208.6 tok/s,峰值 2.40 GB**。这相当于 同场 GEMM 上限的 59%,而修复前是 68%:按单位时钟频率折算大约慢 14%,所以表面上 1.74x 的提升来自 时钟频率,而不是加速。large-layer streaming 也改变了两组数据之间的内存占用方式,因此连这个比例也不是 同口径的对比——[完整记录](benchmarks/gate-v0.72.2-nf4.md)。)需显式开启 (`stream_layers: true`),仍是 BETA—— [工作原理](docs/performance-and-quantization.md#layer-streaming-beta-v0720-nf4-v0722-disk--wider-archs-v0723-preference-losses-v0724) · [全部实测数据](benchmarks/) · [论文](https://doi.org/10.5281/zenodo.21771064) · **[在免费 Colab T4 上亲自验证](notebooks/proof-4gb.ipynb)**(把进程限制在 4 GB, 然后断言流式模型与常驻模型逐位一致)

在 4 GB 卡上对 Llama-3.1-8B 执行 soup train 的预检:3.60 GB 基座固定在内存中跨 32 层流转,配两个 113 MB 显存缓冲,实测峰值 3.32 GB、119.6 tok/s,停在 4 GB 线以内(修复前的那组数据,测于 v0.72.2,952 MHz;#331 修复后的那组数据见下方说明)
Llama-3.1-8B-Instruct + NF4、LoRA、batch 1、seq 512,RTX 3050 Laptop 4 GB——峰值 3.32 GB,119.6 tok/s,952 MHz(修复前,v0.72.2;#331 修复后:1935 MHz 下 208.6 tok/s,2.40 GB,不可直接比较,@umran666,#1103)。完整视频(90 秒)

## 为什么选择 Soup 训练 LLM 至今仍然令人痛苦。即使是有经验的团队,也有 30-50% 的时间耗在和基础设施搏斗上, 而不是改进模型。Soup 解决的就是这件事。 - **零 SSH:** 再也不用 SSH 进一台坏掉的 GPU 机器。 - **一份配置:** 一个简单的 YAML 文件就是全部所需。 - **全部自动:** batch size、GPU 检测、量化,都替你处理。 - **本地可跑:** 用自己的 GPU 跑 QLoRA,不需要云。 ## 最新动态 **v0.77.2——基于 v0.77.1 之后 `main` 的一次发布:159 个拉取请求,其中 153 个来自维护者之外的 30 位 贡献者。** 大部分是修复。它也新增了功能,以及两条可能拒绝 v0.77.1 所接受内容的规则,因此在升级服务器或 `task: sft` 配置之前,请先阅读 [v0.77.2 发布说明](https://github.com/MakazhanAlpamys/Soup/releases/tag/v0.77.2)。从 0.76.x 升级时,请先运行 `soup doctor --config soup.yaml`,并阅读 [v0.77.0 发布说明](https://github.com/MakazhanAlpamys/Soup/releases/tag/v0.77.0)。 - **`soup profile --model ` 无需 `soup.yaml` 即可回答“放得下吗?”。** 它根据模型的 `config.json` 估算该次运行,由 `--seq`、`--batch`、`--method`、`--lora-r`、`--optimizer` 和 `--gradient-checkpointing` 决定形状;在 Apple Silicon 上,它与 Metal 的工作集大小比较。 `soup plan` 和 `soup apply` 现在接受 `--minillm-on-policy`。 - **Apple Silicon 上支持更多训练。** 带有 `preference_loss: dpo`、`orpo` 或 `simpo` 的 `task: preference` 运行原生 MLX 训练器,MLX GRPO 可在 4 位 `mlx-community` 基座上训练, MLX Adafactor 会遵循配置的学习率和调度。 - **两个新的 DPO 配方:** `qwen3.5-0.8b-dpo` 和 `qwen3.5-27b-dpo`。 - **更接近实际的 VRAM 估算。** 优化器步骤被视为独立阶段,PRM 步骤只计一个位置的 logits, 分片的 FSDP 或 ZeRO 运行按每张卡估算,`stream_loss_chunk` 步骤计入最后一层的重计算, Unsloth 的 LoRA 目标按其加载器的选择估算。 - **更少的静默覆盖和空结果。** 更多命令会拒绝指向某个输入的 `--output`(`soup data ingest`、 `persona-mix`、`generate` 等);`soup ship --adapter` 会拒绝不改变任何东西的适配器; `soup distill-prompt`、`soup data evolve`、`gen-magpie` 和 `filter --perplexity` 会报错, 而不是写出空文件或未过滤的文件。 - **偏好与强化学习修复。** `data.max_length` 对 SimPO 和 KTO 重新生效,PPO 在要求时会对策略启用 gradient checkpointing(在 4 位和 8 位下也不再崩溃),`soup merge` 会加载适配器训练时所用的基座提交。 - **文本按输入原样显示。** 数十个命令在显示路径、名称和消息时保留方括号和 `:name:` 文本, 并移除终端控制字符。 **需要了解的行为变化。** `soup serve --tool-auth-token` 必须是由 `A-Z`、`a-z`、`0-9`、`_` 和 `-` 组成的 16 到 128 个字符(否则退出码为 2)。`task: sft` 会在从未应用这些设置的视觉、音频、MLX、 Unsloth、RAFT 和预分词路径上拒绝 `reasoning_effort`、`train_on_eot`、`use_flash_attn` 和 `use_liger`。`soup completions` 生成的脚本需要重新生成。`soup data from-traces --signal thumbs_up`、 MLX Adafactor、`soup merge` 和 VRAM 预检可能给出与 v0.77.1 不同的结果。 更早的更新记录在 [GitHub Releases](https://github.com/MakazhanAlpamys/Soup/releases) 页面。 ## 快速开始 ### 1. 安装 Soup 是一个命令行应用,最干净的安装方式是给它一个独立的环境,并把 `soup` 放进你的 `PATH`: ```bash # 轻量核心:CLI + 配置 + 数据工具,不含 PyTorch pipx install soup-cli uv tool install soup-cli # 同理,如果你已经在用 uv # 加训练栈(torch、transformers、peft、trl、datasets、…) pipx install "soup-cli[train]" # 一次装全(train + serve + ui + data) pipx install "soup-cli[all]" # 或者从 GitHub 装(最新开发版) pipx install "git+https://github.com/MakazhanAlpamys/Soup.git" ``` 已经在 virtualenv、Colab notebook 或 Docker 镜像里了?直接用 `pip`, 名字和 extras 都一样: ```bash pip install soup-cli pip install "soup-cli[train]" pip install "soup-cli[all]" pip install git+https://github.com/MakazhanAlpamys/Soup.git ``` 如果你还想在自己的代码里 `import soup_cli`,就用 `pip` 而不是 `pipx`, 因为 pipx 会刻意把应用和其他一切隔离开。 完整的 extras 表(`fast`、`mlx`、`serve`、`eval`、`ui`、`vision`、`audio`、…)在 [`docs/models.md`](docs/models.md#optional-extras)。 > **`error: externally-managed-environment`?** 那是 > [PEP 668](https://peps.python.org/pep-0668/),不是 Soup 的问题。Debian 12、 > Ubuntu 23.04 及更新版本禁止 `pip` 写入系统 Python,因为那些文件也归 `apt` 管。 > `pipx` 和 `uv tool` 通过给 Soup 独立环境绕开了它,所以它们列在最上面。 > `python3 -m venv .venv && source .venv/bin/activate` 之后再用普通 `pip` 也可以。 > **用双引号,不是单引号。** `"soup-cli[train]"` 是唯一在每种 shell 都能用的写法—— > `cmd.exe`、PowerShell、bash 和 zsh。如果你从旧教程复制了 `'soup-cli[train]'` 而被 > pip 拒绝,原因就是这个: > [为什么,以及确切报错](docs/models.md#quoting-the-extra)。 `soup init`、`soup data …` 和其他数据/检查命令在轻量安装下就能用。 微调(`soup train`)需要 `[train]` extra。 ### 2. 创建配置 ```bash soup init # 交互式向导 soup init --template chat # 或从模板开始 ``` 模板:`chat`、`code`、`tool-calling`、`medical`、`reasoning`、`vision`、`kto`、`orpo`、 `simpo`、`ipo`、`bco`、`rlhf`、`pretrain`、`moe`、`longcontext`、`embedding`、`audio`。 ### 3. 训练、测试、发布 ```bash soup train --config soup.yaml # LoRA、量化、batching——全部代劳 soup chat --model ./output # 和你的模型对话 soup push --model ./output --repo you/my-model soup merge --adapter ./output # 把 LoRA 合进基座 soup export --model ./output --format gguf --quant q4_k_m # 导出 GGUF 给 Ollama / llama.cpp ``` 更多导出目标(ONNX、TensorRT、BitNet)和部署选项在 [`docs/serving-and-export.md`](docs/serving-and-export.md)。 ## Web UI 更喜欢浏览器?`soup ui` 提供一个本地仪表盘,可以做实验、配置训练、 看实时指标、探索数据集、和模型聊天。 ```bash pip install "soup-cli[ui]" soup ui # 打开 http://127.0.0.1:7860/?token=,终端也会显示同一 URL ``` ![Soup Web UI——新建训练](docs/assets/web-ui-new-training.png) [Web UI 文档](docs/serving-and-export.md#web-ui) ## 配置 一份完整的 `soup.yaml`: ```yaml base: meta-llama/Llama-3.1-8B-Instruct task: sft # backend: unsloth # 快 2-5 倍,pip install "soup-cli[fast]" data: train: ./data/train.jsonl format: alpaca val_split: 0.1 training: epochs: 3 lr: 2e-5 batch_size: auto lora: r: 64 alpha: 16 quantization: 4bit output: ./output ``` `config/schema.py` 是每个字段的唯一权威来源。高级数据、训练和 PEFT 选项的文档在 [文档](#文档)一节。 > **自 v0.75 起,未知配置键会被拒绝。** 没有任何模型声明过的键——比如 > `quantizaton` 这样的笔误,或只存在于更新版 Soup 的字段——以前会通过校验然后被 > 丢弃,任务带着“设置没生效”的状态继续跑。v0.74 会在加载时报出来并提示你可能想写的 > 字段;从 **v0.75** 起同样的配置直接加载失败,所以请修正或删掉这个键,别再指望它被 > 忽略。见 [未知配置键](docs/backends-and-ops.md#unknown-config-keys)。 ## 文档 完整的功能参考在 [`docs/`](docs/)。从这里开始: | 指南 | 内容 | |---|---| | [训练任务与方法](docs/training.md) | SFT、DPO/GRPO/PPO/KTO/ORPO/SimPO/IPO/BCO、tool-calling、PRM、预训练、蒸馏、分类、视觉/音频/TTS、机器遗忘、RAFT/RA-DIT、训练循环加固检测器 | | [PEFT、长上下文与效率](docs/peft-and-efficiency.md) | DoRA、LoRA+、rsLoRA、VeRA、OLoRA、NEFTune、PiSSA、ReLoRA、optimizer 与 PEFT 工具集、LLaMA Pro、GaLore、YaRN/LongLoRA、packing、课程学习、自动调参 | | [性能与量化](docs/performance-and-quantization.md) | QAT、FP8、量化菜单(I + II)、KV-cache、NVFP4、保存格式、Cut Cross-Entropy、gradient checkpointing、kernel、activation offloading、layer streaming、多 GPU / DeepSpeed / FSDP | | [数据工程](docs/data.md) | 格式、对齐 Axolotl/LF 的数据管线、数据工具、合成生成与 forge、质量记分卡、trace 工具、远程数据集、混合、recipe DAG | | [评测与探针](docs/evaluation.md) | eval design/gate、eval-gated 训练、benchmark、NLG 指标、校准、Elo 竞技场、诊断、后训练 X-ray 探针、A/B、漂移、可调性、`soup advise` | | [服务与导出](docs/serving-and-export.md) | OpenAI 兼容服务器、批量推理、benchmark、merge/export、Anthropic Messages 端点、投机解码(训练并测量你自己的 draft)、deploy autopilot、Web UI、Agent Forge | | [Adapter、registry 与治理](docs/adapters-and-governance.md) | Adapter 生命周期/管理、model registry、Soup Cans、数据飞轮(`soup loop`)、知识编辑、steering、供应链管控(scan/sign/BOM/attest/audit/airgap) | | [合规与治理快速上手](docs/compliance.md) | HIPAA/SOC2/EU-AI-Act/SR-11-7 `init` 模板、来源追溯(BOM/attest/repro-receipt)、审计日志、air-gap、模型卡自动生成(`soup card`)、CI gate(`soup ci init`) | | [后端、平台与运维](docs/backends-and-ops.md) | MLX/Unsloth 后端、其他 hub、HF Hub 集成、autopilot、experiment tracking、plan/apply、env lockfile、硬件适配、补全、插件、实用命令 | | [命令参考](docs/commands.md) | 完整的 `soup` 命令列表 | | [支持的模型与 extras](docs/models.md) | 推荐模型家族、VRAM 容量指南、pip extras 矩阵 | ## 数据格式 Alpaca、ShareGPT、ChatML、偏好对(DPO / ORPO / SimPO / IPO / KTO)、视觉、音频、 ASR、纯文本、embedding、RAFT 等等——全部从 JSONL、JSON、CSV、Parquet 或 TXT 自动检测, 所以多数情况下把 `data.train` 指向文件就行,其他什么都不用改。每种格式的 schema 和 完整示例,加上数据管线(远程 URI、流式、分片、交错、词表扩展、文档导入),都在 [`docs/data.md`](docs/data.md#data-formats),而 [Sesame CSM 原生音频训练](docs/training.md#native-sesame-csm) 则另有说明。 ## 常用命令 ```bash soup train --config soup.yaml # 训练(SFT/DPO/GRPO/PPO/KTO/ORPO/SimPO/IPO/...) soup infer --model ./output --input prompts.jsonl --output results.jsonl # 批量推理 soup chat --model ./output # 交互式对话 soup serve --model ./output # OpenAI 兼容 API 服务 soup ui # 本地浏览器仪表盘 soup merge --adapter ./output # 把 LoRA 合进基座模型 soup export --model ./output --format gguf # 导出用于部署 soup eval benchmark --model ./output # 评测 soup data inspect ./data/train.jsonl # 数据集统计 soup recipes list # 100+ 个现成模型配方 soup autopilot --model --data d.jsonl --goal chat # 零配置 soup doctor # 检查 GPU / 依赖 / 环境 ``` 完整的命令列表在 [`docs/commands.md`](docs/commands.md)。 ## 支持的模型 Soup 支持 [HuggingFace Hub](https://huggingface.co/models?pipeline_tag=text-generation) 上**任意**文本生成模型——只要能被 `AutoModelForCausalLM` 加载就能用,零配置改动。 Llama 3.x/4、Qwen 2.5/3、Gemma 3、Mistral、Mixtral、DeepSeek R1/V3、Phi-4 等 100+ 模型都有现成配方(`soup recipes list`)。 | VRAM | 最大模型(QLoRA 4-bit) | 示例 | |---|---|---| | 8 GB | ~7B | Llama-3.1-8B, Mistral-7B | | 16 GB | ~14B | Phi-4-14B, Qwen2.5-14B | | 24 GB | ~34B | CodeLlama-34B, Yi-1.5-34B | | 48 GB | ~70B | Llama-3.3-70B | | 80 GB+ | 70B+(全量)或 MoE | Mixtral-8x22B, DeepSeek-V3 | 完整的模型表 + 视觉模型表格和可选 extras 矩阵在 [`docs/models.md`](docs/models.md)。 ## Docker 不在本地装 CUDA 或 PyTorch 也能跑 Soup(每个 release 都会发布镜像到 GHCR): ```bash docker pull ghcr.io/makazhanalpamys/soup:latest docker run --gpus all -v $(pwd):/workspace ghcr.io/makazhanalpamys/soup train --config soup.yaml --yes docker compose up # 或在本地构建 ``` ## 环境要求 - Python 3.11、3.12 或 3.13(这是 CI 测试的版本;3.14+ 暂不支持,因为 PyTorch 技术栈还没在那上面验证过) - 带 CUDA 的 GPU(推荐)、Apple Silicon(MPS)、或 CPU(实验性——非常慢) - 7B 模型跑 QLoRA 需要 8 GB+ 显存 所有训练任务都能在 CPU 上跑测试(量化自动关闭)。可选 extras(`train`、`all`、 `fast`、`vision`、`qat`、`serve`、`serve-fast`、`ui`、`eval`、`deepspeed`、`liger`、 `mlx`、`onnx`、`tensorrt`、…)列在 [`docs/models.md`](docs/models.md#optional-extras)。 ## 故障排查 ```bash soup doctor # GPU、系统资源、依赖、版本,一处看全 ``` CUDA wheel、版本不匹配:[`docs/backends-and-ops.md`](docs/backends-and-ops.md#troubleshooting)。 ## 开发 ```bash git clone https://github.com/MakazhanAlpamys/Soup.git cd Soup pip install -e ".[dev]" ruff check src/soup_cli/ tests/ # lint pytest tests/ -v # 单元测试(快,无需 GPU) pytest tests/ -m smoke -v # 冒烟测试(下载一个小模型并训练) pytest tests/ -m gpu --no-cov -v # GPU 测试(需要 CUDA 卡;请反馈结果,见 CONTRIBUTING.md) pre-commit install # 可选:提交时跑 ruff lint+format ``` 完整工作流见 [CONTRIBUTING.md](CONTRIBUTING.md),报告漏洞见 [SECURITY.md](SECURITY.md)。 遥测严格 opt-in(`SOUP_TELEMETRY=1`,默认关闭;见[隐私政策](docs/backends-and-ops.md#privacy-policy))。 ## 支持 Soup Soup 是 Apache-2.0,免费——并且会一直免费。它在一台 4 GB 笔记本上公开构建和维护, 所以这些文档里的每个性能数字都是实测而非声称。 如果 Soup 帮你省下了一次训练,[给仓库点 star](https://github.com/MakazhanAlpamys/Soup) 帮助最大,也不花一分钱。如果你想直接资助这项工作: **[❤️ 捐赠](https://buy.stripe.com/4gMcN441k3pha3T19ye7m04)**——一次性,金额随意 (在结账页用 *Change amount*)。付款由 Stripe 在维护者的注册企业 **MePlay, Inc.** 名下处理——结账页和信用卡账单上显示的是这个名字,不是 "Soup"。 捐款用于购买 GPU 时间,做那些受硬件门槛限制的工作——多卡、8B+ 验证、Apple Silicon——一台 4 GB 笔记本够不到的那些。 另一条路就是**硬件本身**。这些工作项都挂着诚实的 "requires \" gate 而不是 未验证的声明,所以如果你能用到更大的机器——或者有闲置的 GPU 额度——跑一个 [`help wanted`](https://github.com/MakazhanAlpamys/Soup/issues?q=is%3Aissue+is%3Aopen+label%3A%22help+wanted%22) issue 并把数字贴出来,和资助 GPU 时间的帮助一样大。那些 issue 写明了目前哪些工作 正卡在硬件上。 ## 贡献者 由社区共建 ❤️——感谢每一位贡献者。见 [CONTRIBUTORS.md](CONTRIBUTORS.md)。 [![Contributors](https://contrib.rocks/image?repo=MakazhanAlpamys/Soup)](https://github.com/MakazhanAlpamys/Soup/graphs/contributors) ## 联系方式 Bug 和功能请求请发到 [Issues](https://github.com/MakazhanAlpamys/Soup/issues),问题讨论去 [Discussions](https://github.com/MakazhanAlpamys/Soup/discussions)——两处都会更快得到 回复,也能帮到后来遇到同样问题的人。 即时聊天、安装帮助、以及一切适合对话形式的事情,欢迎加入 [Discord](https://discord.gg/dgd2pJcjwP) 或 [Telegram 社区](https://t.me/souptasters)。 任何六个月后还应该能被搜到的东西都应该留在 Issues 或 Discussions——Discord 上的 一个回答只帮到一个人,issue 帮到每一个撞上同一问题的人。 [行为准则](CODE_OF_CONDUCT.md)在那里同样适用。 不适合公开的事情——安全报告(见 [SECURITY.md](SECURITY.md))、行为准则事务或媒体 联络——请发邮件到 **team@trysoup.dev**。这是项目邮箱,Soup 相关事务的正确地址。 **makazanalpamys@gmail.com** 是维护者的个人邮箱;也能找到同一个人,可以作为备选。 ## 引用 Soup Layer streaming——把冻结的基座模型放在主机内存里、按解码层逐层送入 GPU,从而在 4 GB 笔记本 GPU 上训练 8B 模型——在一篇预印本中有完整描述,其中还包括验证流式 运行与常驻运行一致性的正确性协议(前向和反向分开陈述,因为那是两个主张而不是 一个)。 > Makazhan, A. (2026). *Exact Layer Streaming: LoRA Fine-Tuning of an 8B Model on a 4 GB Laptop > GPU* (v3). Zenodo. https://doi.org/10.5281/zenodo.21918325 **Version 3(2026 年 8 月 13 日)是当前版本。** 标题和主张没变——8B 跑在 4 GB 上—— v1 以来的任何实测数字也没有变。v3 做的是**撤回一个我们曾发布的解释**,这也是描述 这篇论文用途的最短方式: - **v3 撤回的结论:"layer streaming 的瓶颈在主机到设备的传输,而不在 GPU。"** 那其实是从下面的 H100 复现得出的*推断*,从来没有实测过。我们在 8 月 11 日做了 测量,发现在已发布的配置下它不成立:把主机到设备的字节传输全部省掉也只换来 **1.4%** 的提升, 计算流等待拷贝的时间只占 step 的 **0.20%**,而该 step 跑到了这张卡同场 GEMM 上限的 **71.3%**。最大的流式专属开销是逐层 NF4 反量化,占 9.8% ([完整记录](benchmarks/probe-v0.73.0-what-bounds-streaming.md))。每个测量都仍然 成立;复现结论以更弱的形式仍然成立——约束对两台机器是共同的,而不是 GPU 的算力。 - **在完全不同硬件上的复现**(v2 新增):RTX 3050 上 119.6 tok/s(952 MHz 下),对 H100 上 113.00 的中位数,同为 3.32 GB 峰值。两者都早于 #331 修复,也是论文报告的数字。#331 修复后的 那组数据(@umran666,#1103)是 1935–1957 MHz 下 208.6 tok/s,峰值 2.40 GB,为同场 GEMM 上限的 59%,修复前为 68%:表面上 1.74x 的提升来自时钟频率,而不是加速;两组数据之间的内存占用方式也变了, 因此连这个比例也不是同口径的对比 ([完整记录](benchmarks/gate-v0.72.2-nf4.md))。 - **发现并修复了一个静默的错误梯度缺陷。** NF4 单层超过 ~165 MiB 时,前向仍然 逐位一致、loss 曲线看着健康,但梯度是错的。原因已在上游库中定位并上报;修复 已通过真实 32B 和 72B 上的对照实验验证。 - **真实模型规模的逐位一致性**,而不是三层玩具:前向覆盖 0.5B 到 72B,反向覆盖 8B 和 14B。 - **首次实测了训练后模型的质量**,与常驻运行无区别。 - **与 DeepSpeed 的对比**——包括一个不利于我们的结果:八卡的 ZeRO-3 比单卡常驻 训练还慢。 - **局限性章节重写**:v1 的十条里一条已解决、四条收窄,并新增七条。 引用你使用的版本。`10.5281/zenodo.21771064` 是概念 DOI,始终解析到最新版本 (今天是 v3);v1 和 v2 仍可在各自的版本 DOI 下引用且不会被修改——上面的撤回 之所以发成一个新版本,正是为了让我们声称过什么、什么时候声称的记录保持完整。 文中每个数字背后的测量记录都在 [`benchmarks/`](benchmarks/),按原样发布—— 包括失败、被证伪的假设,以及测出来又被弃用的数字。 ```bibtex @misc{makazhan2026exact, title = {Exact Layer Streaming: LoRA Fine-Tuning of an 8B Model on a 4 GB Laptop GPU}, author = {Makazhan, Alpamys}, year = {2026}, publisher = {Zenodo}, version = {v3}, doi = {10.5281/zenodo.21918325}, url = {https://doi.org/10.5281/zenodo.21918325} } ``` ## 许可证 [Apache-2.0](LICENSE)。Copyright 2026 Makazhan Alpamys and the Soup contributors。如果你再分发 Soup 或其修改版本,许可证的第 4 条和第 6 条对你适用:每份副本都要保留 `LICENSE` 和 `NOTICE`,在你改动过的文件上注明改动,并且除说明作品来源之外不要使用 Soup 这一名称。