不同的限制
| 限制 | 控制什么 | 在哪里确认 |
|---|---|---|
| RPM/TPM、并发、窗口额度 | 请求频率与容量 | 当前接口响应、账户限制与适用 Retry-After |
| 上下文窗口 | 模型一次可处理的上下文 | 所选 profile 的 context_window |
| 输出预算 | 本次最多输出多少 Token | max_output_tokens 与请求的 max_tokens |
| 单次金额上限 | V2 本次最多客户承担多少费用 | acosmi_options.max_credits |
| Key 月预算 | 同一预算范围本月的累计限制 | 控制台 Key 月预算页 |
公开目录没有提供统一的账户 RPM/TPM 数字时,不套用模型原厂的额度。目录上下文不等于速率限制,Token 上限也不等于金额上限。
文本输出参数
当前公开文本配置声明 max_tokens。传正整数,并取模型更低上限;预付文本源码合同的总硬上界为 1,048,576。省略/零值的旧端点存在默认预算回退,因此接入示例显式设置上限。不要把每个模型都宣传成支持该总硬上界。
公共文本预付合同与部分入口对 max_completion_tokens 的说明存在差异;未确认入口支持前使用已声明的 max_tokens,不同时发送两个输出字段。当前预付文本只支持 n=1。
thinking.budget_tokens 若适用,应为有限非负整数且不超过有效输出预算;不要传字符串数字。完整预占估算必须是精确整数并符合既有数值边界,应用不自行伪造 Token 估算作为服务端计费依据。
请求大小
当前源码文本路由的 JSON 上限为 32 MiB,实际可用上限取服务端、代理和上游限制的最小值,生产配置可能更低。图像、视频和其他业务有自己的大小合同;本页不是它们的统一限制。
遇到 429 或超时
遵循适用的 Retry-After,减少并发或缩小请求。付费请求结果未知时先查本人请求,不要通过无限重试掩盖限流。错误处理给出按状态的操作说明。