#本地部署 · 7AA7 博客

Soraya 2026-10-10 UID:83

把大模型跑在自己的机器上，动机通常就三类：数据不能出内网、长期调用的 API 成本压不下来、离线环境也要能用。这三条里任何一条成立，本地推理就值得认真考虑。本地部署的技术门槛比调 API 高不少，但核心知识并不杂，主要就是三块：量化（把模型压小）、…

566 0 8

Soraya 发布于 · 2026-10-10