加载模型就闪退怎么办——从内存到文件完整性逐一排查
最常见原因:内存不够
手机统一内存架构,模型加载到 RAM 之后如果超过了系统给应用分配的上限,操作系统会直接杀掉进程,没有任何错误提示。
验证方法
打开手机的开发者选项或系统设置,查看「正在运行的服务」或「应用内存使用情况」。如果 PocketPal AI 加载模型后内存使用明显超过 3GB(4GB RAM 的手机)或 5GB(6GB RAM 的手机),基本就是这个问题。
解决方法
- 清后台重试:把浏览器、大型游戏、相机等占内存的应用全部划掉,留出连续的物理内存
- 降模型档位:换更小的模型(7B → 4B → 3B → 1B)或降量化档位(Q4 → Q3 → Q2)
- 减少上下文长度:把 context length 降到 2048 或更小
- 开启自动加载/卸载:在设置里打开这个选项,模型被挤掉时应用会自己处理
第二常见原因:GPU offload 兼容性
问题描述
安卓机型(特别是老机型或定制 ROM)的 Vulkan GPU offload 可能有 Bug,一加 GPU 分配就崩。
解决方法
去设置里找到 num_gpu_layers 设为 0(完全关闭 GPU offload),用纯 CPU 跑一次看还闪不闪退。如果不闪了,说明是 GPU offload 的问题,保持 0 或手动设一个较小的正数(比如 10~20),找到一个能跑的数值。
iOS 上 Metal offload 基本稳定,不太会出现这个问题。
第三常见原因:GGUF 文件损坏
问题描述
手动导入的 GGUF 文件在传输过程中损坏(下载中断、文件系统错误)。
验证方法
用文件管理器查看 GGUF 文件的大小是否和 Hugging Face 仓库页面标注的一致。如果明显偏小,就是没下完整。
解决方法
删除当前 GGUF 文件,重新下载。如果反复坏,换一种传输方式(USB → AirDrop → 云盘下载,互相切换)。
还不行?
- 重启手机:清理一切内存碎片和缓存
- 应用商店 / GitHub 检查更新:可能是应用版本 Bug
- 换一个模型试:排除是不是特定模型的问题
- 卸载重装:最后手段,但能清除一切可能的缓存问题