PocketPal AI 手机本地大模型使用指南

关于本站

PocketPal AI 把手机当成推理硬件：不注册账号、不上传记录、按需加载模型。模型文件下载一次之后，对话、推理、记录全部留在设备内存里——飞行模式下照样能用。

本站整理的内容涵盖：手机内存与模型体积对照、GGUF 量化档位怎么选、安卓与 iOS 的安装差异、日常对话界面导览、模型参数调优、Pals 自定义助手、内置基准测试与社区排行榜、常见问题排查。

产品档案速览

结构导览

硬件与模型选择

手机运行内存决定你能装多大的模型。4GB 内存只能跑 1~2B 小模型，8GB 可以上 4B 档，12GB 以上才带得动 7B 量化版。选模型之前务必先确认自己手机的 RAM 大小。

安卓安装步骤

应用不内置模型，装好之后还要在应用内下载一个 GGUF 文件。这是设计行为不是故障，整个流程大约十分钟。

聊天界面导览

首次打开是空的聊天首屏。侧边导航集成模型库、Pals 助手、基准测试、设置四大入口。

温度与随机性

温度越高回复越发散越有创意，越低越确定越重复。写代码用低温度、头脑风暴用高温度。

创建自定义 Pals

给不同任务配不同的系统提示词与性格预设，写作助手、编程助手、创意搭档各有专属的对话开场白。

Benchmark 用法

内置基准测试能测出你设备在指定模型下每秒生成多少 token。跑分主动分享才会离开设备，否则本地跑完即结束。

模型加载失败与闪退

最常见原因是内存不够。清后台、降模型档位、开启自动加载/卸载，三重保险。