手机运行内存与模型体积对照表
为什么内存决定一切
手机采用统一内存架构（UMA），CPU、GPU、NPU 共享同一块物理内存。操作系统本身就要占掉 2.5~3.5GB，剩余空间才是模型可使用的上限。模型文件体积 + 上下文缓存 = 实际运行占用。
文件放得进存储 ≠ 跑得动。2GB 的模型文件，运行时可能要占 2.5GB 以上，还要给系统和其他后台留余量。
速查表
| 手机运行内存 | 建议模型体积 | 对应参数量级 | 常见代表 |
|---|---|---|---|
| 4GB 及以下 | 1~2GB | 1B~2B | SmolLM2、Qwen 小杯 |
| 6GB | 2~3GB | 3B 上下 | Llama 3.2 3B |
| 8GB | 3~4GB | 4B 上下 | Gemma 3 4B、Qwen3 4B |
| 12GB 及以上 | 4~7GB | 7B 量化版 | Llama 3.1 7B、DeepSeek 7B |
怎么看自己手机的内存
安卓
设置 → 关于手机 / 系统信息 → 内存。部分品牌如小米、OPPO 会把内存设置藏在开发者选项里。
iOS
打开 App Store 搜索任意一个 RAM 检测工具，或者查设备型号对应的参数（iPhone 15 Pro = 8GB，iPhone 15 Pro Max = 8GB，iPad Pro M4 = 16GB）。
内存紧张时的应对策略
降量化档位
Q8 → Q5_K_M → Q4_K_M → Q3_K_M → Q2。每降一档体积缩小约 20~30%，质量损失在 4-bit 以上档位基本感知不到。
降上下文长度
默认上下文长度 4096 或 8192，聊天时不需要那么长。调低到 2048 可以减少内存占用，但代价是短对话也会更快丢失前文。
开启自动加载/卸载
应用设置里有这个选项。模型加载到内存后如果被其他应用挤掉，PocketPal AI 会自动重新加载——代价是切换回来需要几秒钟的等待。
清理后台
每次启动 PocketPal AI 之前手动清理后台所有大型应用（浏览器、大型游戏、相机），给模型腾出连续的物理内存空间。