振瀚信息约一次场景诊断 ↗

内部实践 · 振瀚的多模型网关实践

振瀚研发团队怎样用 PlanHub 路由模型、核对用量?

研发团队通过 PlanHub 调用模型。翻译和改写走轻量模型,架构设计和复杂故障分析则交给擅长推理的模型。

同一段对话会怎样路由?

在同一段对话里追问时,网关会沿用已选模型。团队也可以从调用日志核对每次请求的用量和预算扣减记录。

怎样核对一次调用?

团队可以选取一次翻译请求和一次复杂故障分析请求,在调用日志中对照实际选用的模型、请求用量和预算扣减记录。继续追问时,再核对这一段对话是否沿用已选模型。

PlanHub、MemHub 和 SecHub 各管什么?

PlanHub 管模型接入、路由、调用用量和费用。MemHub 面向记忆提取、检索和来源追溯。SecHub 面向敏感内容策略、安全事件和审计。三个产品按需组合,通过 Portal 管理组织和产品授权。

这个案例已经验证了哪些能力?

振瀚在研发工作中使用的是 PlanHub 的统一入口、模型路由和用量核对。MemHub 和 SecHub 是平台的其他产品方向,其接入与交付范围在各项目中分别确认。