AI-POOL 完成多厂商模型聚合与计费体系升级

公司动态AI-POOL 团队阅读约 4 分钟

大模型正在成为应用的基础能力,但不同厂商的接口协议、鉴权方式和计费口径各不相同。AI-POOL 这次升级的核心,是把这些差异收敛到一层统一的接口之上。

协议层完全兼容 OpenAI 接口规范:已有的 SDK 与代码基本不需要改动,替换 base_url 和 API Key 即可完成迁移。同时保留对原生协议的支持,方便需要厂商特有能力的场景。

计费层改为按实际调用量结算,并按模型、按密钥、按时间维度输出用量看板,让成本结构可以直接被团队看到,而不是等到月底对账才发现异常。

接下来我们会继续补充模型覆盖范围,并把智能路由、失败重试和额度预警做成默认能力,让接入方不需要自己维护复杂的容灾逻辑。

— END —
返回文章列表