# GPU 指南

PPIO 针对不同使用场景提供两种 GPU 产品。

## 目录
- [产品对比](#产品对比)
- [GPU 实例](#gpu-实例)
- [无服务器 GPU](#无服务器-gpu)
- [常见操作](#常见操作)
- [相关资源](#相关资源)

## 产品对比

| 特性 | GPU 实例 | 无服务器 GPU |
|---------|-------------|----------------|
| **适合场景** | 长期运行、可预测的工作负载 | 突发性、零散任务 |
| **控制级别** | 完整虚拟机控制 | 托管endpoint |
| **扩缩容** | 手动 | 自动扩缩容 |
| **计费方式** | 按运行秒数计费 | 按请求计费 |
| **启动时间** | 秒级 | 冷启动时间不定 |

---

## GPU 实例

配备完整 GPU 控制权的专用虚拟机。

## 功能特性

- **快速启动**：实例在数秒内启动
- **内置模板**：为常见 AI 任务预配置好的模板
- **全球区域**：就近部署
- **免费存储**：免费额度取决于当前产品策略
- **按秒计费**：仅为运行时间付费
- **性价比**：根据工作负载和区域，相较主流云厂商可能更具成本优势

## 存储类型

| 类型 | 挂载点 | 停止后保留 | 保存镜像后保留 | 免费额度 |
|------|-------|------------------|------------------------|-----------|
| 容器磁盘 | `/` | 否 | 是 | 根据当前套餐 |
| 卷磁盘 | `/workspace` | 否 | 否 | 无 |
| 网络卷 | `/network` | 是 | 独立 | 无 |

**建议**：对于需要跨实例重启保留的数据，使用网络卷。

## 快速入门

### 1. 创建实例

1. 访问 https://ppio.com/gpu-instance/console/explore
2. 选择 GPU 模板（如 PyTorch、ComfyUI、Ollama）
3. 选择 GPU 类型和区域
4. 点击"创建"

### 2. 连接

**SSH：**
```bash
ssh root@<instance-ip> -p <port>
```

**网页终端**：在控制台 UI 中可用

**JupyterLab**：许多模板已在 8888 端口包含 JupyterLab

### 3. 保存镜像

停止前请保存环境：
1. 进入实例详情
2. 点击"保存镜像"
3. 使用保存的镜像创建新实例

## 定价

### 计算
- 按秒计费，按小时结算
- 从"拉取中"状态开始计费
- 价格因区域、GPU 类型和产品策略而异
- 请始终查看最新定价 (实时)：https://ppio.com/pricing?gpu=1

### 存储
- 存储定价可能变动，请在上方定价页面核实当前费率

---

## 无服务器 GPU

完全托管、自动扩缩容的 GPU endpoint。

## 功能特性

- **自动扩缩容**：空闲时缩容到零，按需扩容
- **按请求付费**：仅为实际计算时间付费
- **无需管理基础设施**：无需管理虚拟机
- **REST API**：简单的 HTTP endpoint

## 快速入门

### 1. 创建endpoint

1. 访问 https://ppio.com/gpu-instance/console/serverless
2. 准备包含模型/代码的 Docker 容器镜像
3. 配置：
   - GPU 类型
   - 最小/最大副本数
   - 超时设置
4. 部署

## 扩缩容配置

| 设置 | 说明 |
|---------|-------------|
| 最小副本数 | 最少常驻实例数（0 = 缩容到零） |
| 最大副本数 | 最大并发实例数 |
| 扩容阈值 | 触发扩容的队列深度 |
| 空闲超时 | 缩容前的等待时间 |

---

## 常见操作

### 查看 GPU 使用情况
```bash
pip install py3nvml
py3smi  # 在容器中使用，替代 nvidia-smi
```

### CUDA 兼容性
CUDA 向后兼容。如需 CUDA 12.1，任何 >= 12.1 的版本均可使用。

### 故障排查
- 在控制台查看"系统日志"和"实例日志"
- 保存镜像失败时，请验证容器仓库的鉴权配置

---

## 相关资源

- **GPU 控制台**：https://ppio.com/gpu-instance/console/explore
- **Serverless GPUs 控制台**：https://ppio.com/gpu-instance/console/serverless
- **定价**：https://ppio.com/pricing?gpu=1
- **完整文档**：https://ppio.com/docs/gpu/gpu-instance-overview

最后验证：2026-03-12