限速与并发
有效限制由当前套餐权益和 API Key 限制共同决定,包含每分钟请求数(RPM)、每分钟 Token 数(TPM)与并发数。不要在客户端硬编码公开页面之外的数值。
收到 rate_limited / HTTP 429 时,停止立即重放,按 Retry-After(如有)等待,并使用指数退避、抖动和有界队列。持续 429 应降低发送速率或并发,而不是增加重试线程。
连接测试可调用 /v1/models 与 /v1/balance;两者不会发起模型请求。生产监控应区分认证、权益、余额和限速错误。