标签

Ollama

共 2 篇相关文章

开发教程

128GB MacBook 跑 DeepSeek 70B:内存、量化与速度怎么算

128GB 统一内存的 MacBook 能不能跑 70B 级模型?答案是可以,但要先分清「装得下」和「跑得快」两件事。本文拆解显存占用、量化格式、内存带宽对生成速度的影响,给出 llama.cpp、Ollama 等工具的参数配置与检查清单,并说明什么情况下本地跑不划算。

开发教程

用 Dify 做微博热搜 AI 解读频道:去重与定时调度怎么落地

拆解一条「抓微博热搜 → 搜索引擎补背景 → 大模型写解读 → 定时推送到 Telegram」的流水线:先讨论热搜内容是否值得做,再给出用 Redis 判断新旧词条的具体做法、青龙面板与 cron 的调度取舍、检索与摘要的质量控制,以及模型选托管 API 还是本地 ollama 的判断依据,最后附上线检查清单。

DeepSeek模型量化OllamaMac本地大模型统一内存定时任务Dify微博热搜Redis去重