PocketPal AI 是什么——跑在手机上的私有大语言模型
一句话概括
PocketPal AI 是一款开源手机应用,借助 llama.cpp 在设备本机运行 GGUF 格式的大语言模型。模型下载一次之后,对话全程离线可用。
核心特征
100% 本地处理
聊天请求不上传任何服务器。你输入的每条提示词、模型返回的每段回复,全部发生在手机 CPU 与 GPU 上。飞行模式、地下车库、跨境漫游——只要模型已经下载在设备里,对话就不中断。
开源 MIT 协议
代码在 GitHub 完整公开,任何人都可以审计、编译、二次开发。这意味着没有隐藏的遥测代码、没有静默数据收集。
应用本身不带模型
PocketPal AI 只是推理引擎,不预打包任何模型文件。首次打开你会看到空列表,需要自己去 Hugging Face 选一个 GGUF 模型下载进来。这是刻意设计,避免应用体积膨胀到数 GB。
双端覆盖
安卓(Google Play)与 iOS(App Store)原生应用,平板也支持。同一份对话历史、同一套 Pals 助手配置,换设备时手动迁移模型文件即可。
与云 AI 的本质差异
| 维度 | 云 AI(ChatGPT 等) | PocketPal AI |
|---|---|---|
| 对话数据 | 上传至远端数据中心 | 完全留在设备 |
| 网络依赖 | 必须联网 | 模型下载后完全离线 |
| 费用模型 | 订阅或按量付费 | 应用免费、模型免费 |
| 模型选择 | 固定套餐 | Hugging Face 数千款可选 |
| 隐私保障 | 依赖服务商政策 | 由设备所有者掌控 |
| 能跑的模型 | 大型闭源模型 | GGUF 量化开源模型 |