Límites de Tasa y Cuotas
Cómo funcionan los límites de solicitudes, los ámbitos de tokens y las políticas de cuota dinámica.
Los límites de tasa y las cuotas de TENSORAXIS están determinados por la configuración de despliegue, los grupos de usuarios y los ámbitos de los tokens. Los valores exactos pueden variar según la cuenta, el grupo, el modelo y la política operativa, por lo que esta documentación no codifica de forma fija los valores de RPM, TPM, RPD ni de precios.
Límites que pueden afectar las solicitudes
| Tipo de límite | Descripción |
|---|---|
| Ámbito del token | Los tokens pueden estar delimitados por modelo, grupo, IP, cuota y política de tasa |
| Cuota de la cuenta | Las solicitudes pueden fallar cuando el saldo, la cuota de suscripción o la cuota otorgada son insuficientes |
| Límites de modelo/grupo | Los despliegues pueden aplicar ventanas de solicitudes por usuario y grupo, incluyendo conteos de solicitudes exitosas y conteos totales de solicitudes opcionales |
| Límites upstream | Los proveedores upstream también pueden devolver errores de límite de tasa o de capacidad |
Cuando alcanzas un límite
Los fallos por límite de tasa suelen devolver 429. Los clientes deben:
- Reintentar con retroceso exponencial, como 1s, 2s, 4s y 8s.
- Controlar la concurrencia para que varios workers no agoten el mismo token a la vez.
- Para tareas de video asíncronas, limitar la tasa tanto del envío de tareas como del sondeo (polling).
- Evitar reintentos infinitos en solicitudes fallidas; registrar el cuerpo de la respuesta e investigar los fallos repetidos.
Cómo encontrar los límites reales
Los límites reales provienen de la consola y de la configuración de despliegue actual:
- Usa la página de Tokens para ver o configurar el acceso a nivel de token.
- Usa la plaza de modelos para conocer la disponibilidad y los precios actuales de los modelos.
- Los despliegues empresariales o privados pueden usar políticas de límite de tasa gestionadas por el administrador.
Los datos de demostración mostrados en la consola o en las páginas de detalle del modelo no constituyen un contrato de API. Para integraciones de producción, confía en la configuración de tokens, la cuota de la cuenta y las respuestas reales del servidor.