在 Hugging Face 上找到合适的 GGUF 模型

应用内 vs 浏览器

应用内搜索

打开 PocketPal AI → 侧边栏 Models 页 → 顶部搜索框输入关键词（如 Qwen、Gemma、Phi）。搜索结果直接展示体积与量化档位，点下载即可。这是最简便的路径。

浏览器搜索

访问 Hugging Face 官网，搜索模型名后在左侧 Filter 里选 GGUF 格式。GGUF 模型通常放在主模型仓库的一个同名分支上（如 qwen/Qwen3-4B-Instruct-GGUF）。

搜索技巧

关键词组合

• 直接搜系列名：qwen gguf、gemma 3 gguf、phi gguf
• 搜带参数量的名字：llama 3.2 3b gguf
• 搜指令微调版：instruct gguf（指令微调模型比基础模型更好用）

过滤条件

• Must select GGUF：非 GGUF 格式 PocketPal AI 跑不了
• Recommended quantize：只看被社区推荐的量化版本，避免冷门质量差的档位
• Downloads > 1k：下载量过千说明有人在用，基本靠谱

常见坑

受限模型

部分模型（如某些 Llama 系列、Mistral 系列）需要申请 Hugging Face 访问令牌（HF token）。应用内下载受限模型时会报错，解决方法是去模型仓库申请权限后把 HF token 填到 PocketPal AI 的设置页里。

非指令微调版

基础模型（Base）输出质量差，倾向续写而非对话。优先选名字带 Instruct / Chat / It 的指令微调版本。

文件"放得下"但"跑不动"

见 内存对照表。下载前确认手机剩余存储 > 模型体积 + 1GB，且运行内存 > 模型体积 + 系统占用 + 余量。

下载中断怎么办

应用内下载支持断点续传——下载中断后回到列表重新点下载，会接着上次的进度传。如果反复失败，可以在电脑上用浏览器下载 .gguf 文件后通过文件传输导入手机，再用 PocketPal AI 的「Import GGUF」功能加载。