2 阅读

最近杜老师一直在折腾一件事:能不能在自己的 Mac 上直接把 LLM 跑起来,免去调用 API 的麻烦。折腾了一周,今天就跟大家聊聊实测结果。一、为什么想在本地跑杜老师自己有几个真实需求:调试 prompt 时不想每次都发到外部 API一些场景里对响应延迟特别敏感网速不好的时候,本地反而快二、测试环境杜老师用的是家里那台日常办公的 Mac:系统:macOS 26.x内存:32GB芯片:M 系列三、...

📖 阅读原文

文章来自第三方博客,点击下方按钮阅读完整内容

相关文章

暂无评论

none
暂无评论...