任意模型,任意提供商:HeartBeatAgents 如何在 10 多个 LLM 提供商之间路由,包括通过 Ollama 实现的完全本地推理。
HeartBeatAgents 不会将你锁定在单一模型供应商上。每个智能体独立选择自己的主要提供商和模型,你可以在整个智能体队伍中混用不同提供商。
支持的提供商
- Anthropic
- OpenAI
- DeepSeek
- Mistral
- Groq
- xAI
- OpenRouter
- Qwen
- Moonshot AI
- Ollama(本地)
- 自定义端点
为什么要混用不同提供商
处理大量分诊任务的智能体,适合使用速度快、成本低的模型;而进行深入研究或复杂多步推理的智能体,则更适合使用更强大、通常也更慢、更昂贵的模型。由于提供商和模型是按智能体设置而非全局设置的,你可以独立优化每一个智能体。
使用 Ollama 完全本地运行
选择 Ollama 作为提供商时,推理会在你自己的设备上运行,无需 API 密钥,也没有按 token 计费——这与平台其他部分所遵循的本地优先原则一致。这是让 HeartBeatAgents 实现端到端完全免费的唯一途径,代价是需要足够的本地 CPU/GPU 和内存来运行你所选择的模型(参见系统要求)。
上下文窗口与工具访问
最大上下文窗口因模型和提供商而异,在支持的最大模型上最高可达 20 万 token。无论使用哪个提供商,智能体都可以调用通过其已连接的集成提供的 500 多种工具中的任意一种;工具访问权限是智能体配置的属性,而非模型本身的属性。