128GB MacBook 跑 DeepSeek 70B:内存、量化与速度怎么算
128GB 统一内存的 MacBook 能不能跑 70B 级模型?答案是可以,但要先分清「装得下」和「跑得快」两件事。本文拆解显存占用、量化格式、内存带宽对生成速度的影响,给出 llama.cpp、Ollama 等工具的参数配置与检查清单,并说明什么情况下本地跑不划算。
标签
共 1 篇相关文章
128GB 统一内存的 MacBook 能不能跑 70B 级模型?答案是可以,但要先分清「装得下」和「跑得快」两件事。本文拆解显存占用、量化格式、内存带宽对生成速度的影响,给出 llama.cpp、Ollama 等工具的参数配置与检查清单,并说明什么情况下本地跑不划算。