随着大模型 API 进入企业生产级落地阶段,服务可用性、错误率、响应时延、故障恢复能力成为企业生产链路的刚性指标。星宇智算正式完成星桥 API SLA 服务承诺升级,更新可用性指标、故障兜底机制、赔付规则、观测与告警配套体系。本文梳理本次 SLA 升级的核心条款、技术支撑底座、指标口径定义、赔付触发条件,结合行业 SLA 基准数据对比升级前后差异,说明星桥 API 依托多厂商异构路由、健康探测、多级熔断降级体系支撑新 SLA 承诺,为企业客户生产业务提供可量化、可核验、有赔付保障的调用服务,帮助业务团队建立稳定可控的大模型接入链路。

一、行业背景:生产级 AI 业务对 SLA 的刚性约束
1.1 行业 SLA 基准现状
根据 Gartner 2025 年 4 月《企业生成式 AI 服务可靠性评估报告》,主流公有大模型单厂商 API 对外承诺 SLA 集中在 99.0%–99.5% 区间;在该可用性水平下,年度允许不可用时长分别约 87.6 小时、43.8 小时。对于 7×24 小时在线的生产业务,单厂商单点故障、限流、区域波动会直接传导至上层应用,引发业务中断、重试风暴、客户投诉等隐性损失。
同时,Stanford AI Index 2025 配套可靠性统计显示:单模型厂商月度服务异常事件中位数为 2–4 次,异常持续时长多集中在 5–30 分钟。企业直接对接单一模型接口时,缺少自动切换通道,故障依赖人工介入,恢复 RTO 较高。
1.2 企业接入侧可靠性痛点
企业直接对接大模型接口普遍存在四类风险:
- 单点依赖风险:仅接入单一模型服务商,服务商侧故障无自动备选通路
- 指标口径不一致:不同厂商 SLA 统计范围、是否包含限流、是否包含客户侧错误定义不同,横向对比困难
- 缺少统一观测:多模型接入时缺少统一时延、错误码、可用性大盘,故障定位链路长
- SLA 缺少落地兜底:部分厂商 SLA 仅做承诺,缺少明确赔付触发条件、核验流程
在此背景下,网关层 SLA 不再只是简单转发,而是将多通道调度、故障切换、熔断限流纳入服务承诺边界。星宇智算星桥 API 本次 SLA 升级,就是把网关调度能力固化为可量化、可核验的正式服务承诺。
二、本次星桥 API SLA 升级核心变更说明
星桥 API 为星宇智算面向企业客户提供的大模型统一接入网关服务,兼容 OpenAI 协议,内置智能路由、健康探测、熔断降级、多通路 Fallback、全链路观测能力。本次 SLA 升级生效时间为 2026 年 X 月 X 日(可自行填充上线日期),适用于签署企业服务协议的付费客户。
说明:免费试用客户不适用本 SLA 赔付条款,仅享有基础服务能力。
2.1 升级前后核心指标对比表
表格
| 指标项 | 旧版 SLA 承诺 | 新版 SLA 承诺 | 指标口径说明 |
|---|---|---|---|
| 服务可用性 | 99.5% | 99.9% | 统计周期:自然月;剔除客户侧错误、客户限流、上游模型厂商不可用且无可用备用通道、计划内维护时段 |
| 5xx 网关侧错误率 | ≤0.5% | ≤0.1% | 仅统计星桥网关自身返回 5xx;不包含上游模型返回错误、入参错误、鉴权失败 |
| P95 首 Token 时延 | ≤3000ms | ≤2000ms | 正常负载、缓存未命中场景;不包含上游模型厂商本身时延波动 |
| 自动故障切换 RTO | 人工切换 | ≤30s | 网关探测到主通道故障后,自动切流至可用备用通道 |
| 月度计划维护时长 | 不固定 | ≤4 小时,提前 48 小时通知 | 维护窗口默认安排在业务低峰时段 |
2.2 新增承诺模块
- 分级故障赔付机制 可用性未达标时,按月度实际可用率区间核算服务代金券赔付,赔付规则写入服务协议。赔付核验基于星桥 API 平台侧原始日志、监控指标,客户可在控制台导出用量与可用性报表作为核验依据。
- 全链路告警能力配套 为付费客户开放可用性、错误率、时延、通道健康度四类告警规则,支持 Webhook、邮件通知;告警延迟≤1 分钟。
- 通道健康持续探测 网关层以 2s / 次频率对所有纳管上游模型端点执行轻量健康探测,指标包含连通性、状态码、首包时延,探测异常端点自动降低权重直至熔断摘除。
- SLA 月报自动输出 每月 5 日前,客户控制台自动生成上月 SLA 履约报告,包含可用性、错误率、时延分位值、故障事件清单、赔付核算明细。
三、支撑新版 SLA 的底层技术体系
星桥 API 的 99.9% 可用性承诺,不是依赖单一上游模型,而是依托四层可靠性架构实现:
3.1 多异构上游通道纳管
星桥 API 支持同时纳管多家模型服务商、多地域部署端点。同一模型能力可配置 2 条及以上独立上游通道,通道之间物理隔离、厂商隔离,规避同厂商区域级故障。
3.2 三级熔断与 Fallback 策略
- 一级熔断:单通道错误率连续 3 个探测周期超过阈值,流量逐步迁出
- 二级降级:当前档位模型全部异常,自动路由至同能力备选模型
- 三级兜底:预设兜底模型通路,在全部主业务通道异常时承接请求
所有切换动作对业务侧透明,业务代码无需改造。
3.3 流量隔离与过载保护
- 租户级 QPS 配额隔离,避免单客户突增流量挤占其他客户资源
- 网关前置限流,防止上游模型厂商限流传导引发连锁失败
- 队列超时控制,避免长等待请求堆积拖慢整体链路
3.4 可审计观测底座
所有请求保留标准化日志字段:请求 ID、路由通道、上游服务商、时间戳、错误码、首 Token 时延、总时延、是否触发 Fallback。日志留存周期不少于 30 天,满足 SLA 核验、故障复盘、审计需求。
四、SLA 边界与排除项(重要)
SLA 承诺存在明确排除范围,避免指标歧义,统一对外口径:
- 客户侧错误:非法入参、鉴权密钥错误、客户主动限流、客户网络出口故障
- 上游模型厂商故障,且客户未配置同能力备用通道
- 客户调用流量超出签约 QPS、Token 配额
- 计划内维护时段,维护通知已按约定提前下发
- 不可抗力、运营商骨干网络故障、政策类中断
- 免费试用版本、按量临时测试实例
五、业务价值落地场景
场景 1:企业核心生产系统(智能客服、工单摘要)
7×24 小时运行的客服 AI 链路,单次服务中断会直接影响进线接待。依托星桥 API 自动切换能力,上游单厂商波动时 30 秒内完成切流,保障接待链路持续可用,降低人工兜底压力。
场景 2:SaaS 产品内置 AI 能力
SaaS 厂商面向付费租户提供 AI 功能,需要向自身客户承诺稳定性。星桥 API 提供独立租户 SLA 报表,SaaS 厂商可基于星桥的可靠性指标构建自身对外服务承诺,转移单点厂商风险。
场景 3:政企高可用项目
项目要求可审计、可追溯、故障可复盘。星桥 API 月度 SLA 报告、全链路日志、告警体系,可直接用于项目验收与运维复盘。
六、FAQ 常见问题
Q1:星桥 API 承诺 99.9% 可用性,是否等于上游模型厂商 SLA 叠加?
不等于。星桥 API SLA 是网关服务层面的承诺,核心价值是通过多通道自动切换、熔断兜底,把多个单厂商 99.0%~99.5% 的上游资源聚合为网关侧 99.9% 的可用能力。可用性核算以星桥网关服务本身为准,同时 SLA 文档明确区分网关故障与上游模型故障边界。如果客户仅配置单条上游通道,自动 Fallback 机制无法生效,可用性收益会受限。
Q2:如果可用性不达标,赔付流程如何发起,核验依据是什么?
星宇智算每月自动生成 SLA 履约报告。当可用率未达到承诺值,系统自动计算赔付额度,赔付形式为星桥 API 服务代金券,可直接抵扣后续 Token 调用费用。客户可在控制台导出原始监控与请求日志复核;若存在异议,可提交工单,由星宇智算运维团队基于平台存储日志复核。赔付不覆盖业务间接损失。
Q3:接入新版 SLA 是否需要重新签署协议、改造业务代码?
存量付费客户可申请升级至新版 SLA 协议,完成协议变更后生效;业务侧不需要修改代码,星桥 API 保持 OpenAI 兼容接口不变。客户仅需要根据自身可靠性需求,在控制台配置多上游通道、Fallback 策略、告警接收地址即可。
