标签

Mac本地大模型

共 1 篇相关文章

开发教程

128GB MacBook 跑 DeepSeek 70B:内存、量化与速度怎么算

128GB 统一内存的 MacBook 能不能跑 70B 级模型?答案是可以,但要先分清「装得下」和「跑得快」两件事。本文拆解显存占用、量化格式、内存带宽对生成速度的影响,给出 llama.cpp、Ollama 等工具的参数配置与检查清单,并说明什么情况下本地跑不划算。

DeepSeek模型量化OllamaMac本地大模型统一内存