跳至内容
HeartBeatAgents

任意模型,任意提供商:HeartBeatAgents 如何在 10 多个 LLM 提供商之间路由,包括通过 Ollama 实现的完全本地推理。

HeartBeatAgents 不会将你锁定在单一模型供应商上。每个智能体独立选择自己的主要提供商和模型,你可以在整个智能体队伍中混用不同提供商。

支持的提供商

  • Anthropic
  • OpenAI
  • Google
  • DeepSeek
  • Mistral
  • Groq
  • xAI
  • OpenRouter
  • Qwen
  • Moonshot AI
  • Ollama(本地)
  • 自定义端点

从设置 → 提供商添加提供商(参见首次设置和配置)。

为什么要混用不同提供商

处理大量分诊任务的智能体,适合使用速度快、成本低的模型;而进行深入研究或复杂多步推理的智能体,则更适合使用更强大、通常也更慢、更昂贵的模型。由于提供商和模型是按智能体设置而非全局设置的,你可以独立优化每一个智能体。

使用 Ollama 完全本地运行

选择 Ollama 作为提供商时,推理会在你自己的设备上运行,无需 API 密钥,也没有按 token 计费——这与平台其他部分所遵循的本地优先原则一致。这是让 HeartBeatAgents 实现端到端完全免费的唯一途径,代价是需要足够的本地 CPU/GPU 和内存来运行你所选择的模型(参见系统要求)。

上下文窗口与工具访问

最大上下文窗口因模型和提供商而异,在支持的最大模型上最高可达 20 万 token。无论使用哪个提供商,智能体都可以调用通过其已连接的集成提供的 500 多种工具中的任意一种;工具访问权限是智能体配置的属性,而非模型本身的属性。

相关内容