← 返回攻略列表
Bonsai 27B：270亿参数AI模型在手机本地免费运行完全攻略 - 基于Qwen3.6，Apache 2.0开源
PrismML推出革命性Bonsai 27B模型，将270亿参数AI压缩到3.9GB，可在iPhone本地运行。基于Qwen3.6，Apache 2.0开源，完全免费下载使用。
Bonsai 27B：270亿参数AI模型在手机本地免费运行完全攻略 - 基于Qwen3.6，Apache 2.0开源
Bonsai 27B是基于Qwen3.6 27B的低比特量化版本，可在手机和笔记本上本地运行，Apache 2.0开源免费。
什么是Bonsai 27B
PrismML发布的Bonsai 27B是Qwen3.6-27B的低比特量化版本，不是重新训练的模型。
核心特点：
- 基于Qwen3.6 — 架构不变，仅量化
- 5.9GB — 模型文件极小
- Apache 2.0 — 完全免费商用
- 手机端运行 — 可在智能手机上运行27B模型
怎么运行
方式1：手机运行
- 下载PrismML提供的手机端推理引擎
- 安装Bonsai 27B模型
- 直接运行
方式2：笔记本运行
- 需要8GB+内存
- 使用llama.cpp或类似推理引擎
- 模型文件仅5.9GB
方式3：服务器部署
- 需要14GB+显存GPU
- 可获得更好性能
和原版Qwen3.6对比
| 模型 | 大小 | 精度 | 运行设备 | 免费 |
|---|---|---|---|---|
| Qwen3.6-27B | ~54GB | FP16 | 服务器 | ✅ |
| Bonsai 27B (1-bit) | ~5.9GB | 1-bit | 手机/笔记本 | ✅ |
| Bonsai 27B (ternary) | ~8GB | 三元 | 笔记本 | ✅ |
Bonsai 27B在保持Qwen3.6大部分能力的同时，将模型体积缩小了9倍。
适合谁用
- 手机AI爱好者 — 在手机上运行27B模型
- 笔记本开发者 — 无需服务器，本地运行
- 隐私敏感用户 — 完全离线
- 预算有限的 — Apache 2.0免费商用
总结
Bonsai 27B是Qwen3.6的量化版本，仅5.9GB，可在手机和笔记本上本地运行，Apache 2.0开源免费。
项目地址：prismml.com
数据截至2026年7月14日。Bonsai是开源项目，持续更新中。