Appearance
稳定性架构
TopsDyne 面向生产环境设计，从接入层到计费层都有冗余与兜底保障，确保调用稳定可靠。
高可用部署
| 层 | 保障措施 |
|---|---|
| 接入层 | Nginx 负载均衡 + 双实例服务，单实例故障自动切换 |
| 网关层 | TopsDyneLLM 高可用，模型组多部署 + 自动故障摘除 |
| 数据层 | PostgreSQL 主从 + 每日备份，Redis 持久化（AOF + RDB 兜底） |
| 监控层 | Prometheus + Grafana + AlertManager 全链路监控与告警 |
智能路由与降级
- 多部署负载均衡：同一模型多节点自动分发，单节点故障自动摘除
- Fallback 降级：主模型不可用时自动切换备用模型，保障请求不中断
- 超时控制：网关超时兜底，流式请求收到首包后重置计时
计费可靠性
- 原子结算：Redis Lua 原子操作，预扣 → 结算 → 释放全程无竞态
- 七层对账：每 15 分钟自动校准网关与业务库数据，漂移自动修正
- 熔断保护：余额低于阈值自动暂停（保护双方），充值自动恢复
限流保护
- 三级限流（Key / 租户 / 模型），防止单点异常拖垮整体
- 紧急开关：极端情况下可全局临时关闭限流
- 限额触顶返回
429+ 重试时间，客户端可优雅退避
数据安全
- 全链路 HTTPS 加密
- 密钥加密存储（AES-256-GCM / HMAC-SHA256）
- 每日备份，支持快速恢复
保障承诺
- 核心链路无单点故障
- 调用失败不重复计费（幂等去重）
- 计费数据可对账可追溯
更多技术细节与架构说明见企业方案。