Ante 是一个仅 15MB 的二进制文件,它管理着自己的推理引擎。添加一个 GGUF 文件,即可在您自己的硬件上拥有一个完整的编码代理:无需 API 密钥,无需帐户,模型调用也永远不会离开您的计算机。
GitHub link:
https://github.com/AntigmaLabs/ante🙏希望感兴趣的朋友们能帮忙点点 star⭐️
实测:电脑是 MacBook Pro M4 Max ,基于当前可⽤运⾏内存,提示最适合的可运⾏离线⼤模型为 Qwen3.6 27B ( 17GB )。并且本地跑起来,切换、对话都⼗分⽅便。Ante 对本地模型做全⽣命周期管理:模型下载、加载前预估、启动停⽌。
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
https://www.v2ex.com/t/1233880
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.