NVIDIA NeMo Switchyard:让 AI 智能体在多模型间智能路由
NVIDIA 发布 NeMo Switchyard,一个供应商无关的模型路由 SDK,让 AI 智能体根据模型能力、成本和基础设施信号,为每个任务动态选择最合适的模型。官方称与 LangChain、Cognition 的测试显示,路由可在保持高准确率的同时显著降低成本。
- NeMo Switchyard 是供应商无关的模型路由 SDK,按能力、成本和基础设施信号为每个任务动态选择模型
- 支持免调优与可调优路由算法,开发者可自带算法与定制数据,路由逻辑与模型供应商解耦
NVIDIA Technical Blog
developer.nvidia.com2026年8月11日 21:00请结合来源原文判断查看加工内容 →