用 PocketPal AI 内置 Benchmark 测出手机真实推理速度
为什么需要 Benchmark
同样一个 GGUF 模型，在 iPhone 17 Pro Max 上可能跑出 25 token/s，在安卓入门机上只有 8 token/s。模型本身没变，设备差异巨大。Benchmark 帮你量化自己设备的真实能力，而不是凭感觉说「好像有点快 / 有点慢」。
如何跑一次测试
第一步：加载目标模型
先在 Models 页 Load 你想测试的 GGUF 模型。Benchmark 不能测未加载的模型。
第二步：进入 Benchmark 页
侧边导航 → Benchmark。页面会自动识别当前设备型号、内存、已加载模型的名称与体积。
第三步：选择测试参数
Benchmark 会让你选：
- prompt processing token 数（预填充长度）
- token generation 数（生成长度）
- 推荐配置：prompt processing = 512，token generation = 128（和排行榜的「标准配置」一致，方便横向对比）
第四步：开始测试
点击 Start / Run Benchmark。手机在测试期间会跑满 CPU / GPU，可能发热，属于正常现象。测试结束会显示两个核心指标：
| 指标 | 单位 | 含义 |
|---|---|---|
| Prompt Processing Speed | tokens/s | 模型处理输入 prompt 的速度（预填充） |
| Token Generation Speed | tokens/s | 模型生成新回复的速度 |
怎么读测试结果
分数解读
- 生成速度（Token Generation）是大家最关心的指标，也是日常对话体验的直接反映
- 预填充速度（Prompt Processing）影响长 prompt 情况下的等待时间
- 排行榜上的综合评分 = 生成速度 × 60% + 预填充速度 × 40%
同设备跑不同模型对比
同一台设备，Gemma 3 4B Q4_K_M 可能比 Llama 3.1 7B Q4_K_M 快 100%，但效果差一些。Benchmark 数据帮你找到「速度够用 + 质量可接受」的甜点组合。
分享 vs 不分享
测试完成后会弹两个选项：
- Share to Leaderboard：把结果上传到社区排行榜（需联网）。PocketPal AI 会识别设备型号，但不会上传你的个人信息或对话记录。
- Save Locally：测试结果只存在本地，任何人都看不到。
不上传完全不影响使用。 分享是纯自愿的社区贡献行为。