Guías de IA · 12 min de lectura

¿Qué son los límites de velocidad de las API de IA? RPM, TPM, errores 429 y lotes

Los límites de las API de IA restringen solicitudes y tokens por minuto. Descubra RPM, TPM, errores 429, niveles de uso y API por lotes.

Ilustración isométrica de esferas ámbar luminosas atravesando una puerta de medición de color pizarra, con un canal lateral curvo que lleva un grupo de esferas a un depósito

Los límites de velocidad de las API de IA establecen cuántas solicitudes (RPM) y tokens (TPM) puede enviar una organización o proyecto en un intervalo fijo; cuando se supera cualquiera de esos umbrales, se devuelve un error HTTP 429. Los proveedores aplican estas cuotas para prevenir abusos, mantener un acceso equitativo y proteger la infraestructura compartida de modelos, además de ofrecer puntos de acceso por lotes para cargas de trabajo fuera de línea.

En mi trabajo de diseño de integraciones API en Lotook, la mayoría de las sorpresas en producción ocurren cuando los equipos controlan el gasto mensual pero ignoran el rendimiento por minuto y los intervalos breves de ráfagas. Como los proveedores evalúan varios contadores independientes en cada llamada, comprender cada dimensión antes de que aumente el tráfico ayuda a mantener estables las tareas en segundo plano y las funciones para usuarios.

¿Qué significan RPM, TPM y RPD en las API de IA?

Los límites de velocidad de las API de IA miden el tráfico en varias dimensiones paralelas, como las solicitudes por minuto (RPM), los tokens por minuto (TPM) y las cuotas diarias de solicitudes por día (RPD) o tokens por día (TPD). Según el punto de acceso, los proveedores también pueden imponer límites de unidades como imágenes por minuto (IPM) o minutos de audio por minuto en modelos de audio en streaming.

Si aún no conoce cómo cuentan los proveedores el volumen de texto, consulte nuestra guía sobre qué es un token en IA. Algunos proveedores contabilizan los TPM combinados, mientras que otros dividen el presupuesto de tokens entre tokens de entrada por minuto (ITPM) y tokens de salida por minuto (OTPM).

La regla operativa más importante es que superar una sola de las restricciones aplicables provoca un error de límite de velocidad, aunque todas las demás métricas aún tengan mucho margen. La documentación de OpenAI lo ilustra con un ejemplo sencillo: enviar 20 solicitudes pequeñas en un minuto agota un límite de 20 RPM aunque el presupuesto de TPM permanezca casi sin usar. Por el contrario, unas pocas instrucciones enormes con grandes asignaciones de salida pueden agotar los TPM mucho antes de acercarse al máximo de RPM.

¿Cómo funcionan los límites de velocidad y niveles de uso de OpenAI?

OpenAI aplica límites de velocidad a nivel de organización y proyecto, no de usuario individual, y estos varían según el modelo y el nivel de uso. A 17 de noviembre de 2026, la documentación de OpenAI indica que algunas familias de modelos comparten un límite combinado: por ejemplo, si los TPM compartidos son 3.5 millones, las llamadas a todos los modelos del grupo cuentan para el mismo cupo de 3.5 millones.

Ciertas cargas de trabajo también tienen cupos separados. Los modelos de contexto largo (como GPT-5.5 en la documentación de OpenAI) pueden tener en la consola de desarrollador un límite de velocidad específico para solicitudes de contexto largo. La incorporación a un almacén vectorial está limitada a 300 RPM por ID de almacén vectorial, compartidas entre /vector_stores/{vector_store_id}/files y /.../file_batches, por lo que OpenAI recomienda file_batches para incorporaciones mayores.

OpenAI asigna automáticamente las organizaciones a niveles de pago cuando sus compras totales de créditos superan cada umbral, lo que habilita límites de velocidad y límites mensuales de uso aprobados más altos. Un límite mensual de uso aprobado es distinto de cualquier límite de gasto opcional configurado por usted, y que un modelo aparezca en una tabla de límites no confirma que su organización o clave tenga acceso a él. Para comparar los costes de distintos proveedores, consulte nuestra comparativa de precios de API de IA.

Nivel Requisito Límites de uso
Free El usuario debe estar en una región permitida $100 / mes
Build $5 en compras totales de créditos $500 / mes
Launch $100 en compras totales de créditos $5,000 / mes
Grow $500 en compras totales de créditos $200,000 / mes

Niveles y límites mensuales de uso de OpenAI a 17 de noviembre de 2026, según su guía de límites de velocidad.

En esos niveles de pago, OpenAI publica límites de velocidad Standard para modelos como Astra, Sol, Terra y Luna. Estas cifras Standard difieren de los límites Ultrafast, y OpenAI recomienda consultar los valores actuales en Settings > Organization > Limits.

Nivel Modelo RPM TPM
Build Astra, Sol, Terra 5,000 1,000,000
Build Luna 5,000 2,000,000
Launch Astra, Sol, Terra 10,000 4,000,000
Launch Luna 10,000 10,000,000
Grow Astra, Sol, Terra 15,000 40,000,000
Grow Luna 30,000 180,000,000

Límites de velocidad Standard publicados por OpenAI a 17 de noviembre de 2026, según su documentación para desarrolladores.

Límites de velocidad, caché y límites de incremento de Anthropic Claude

Anthropic mide los límites de velocidad de la Messages API en RPM, ITPM y OTPM para cada clase de modelo y, cuando el tráfico supera un umbral, devuelve una respuesta 429 que identifica el límite excedido. Si la respuesta incluye una cabecera retry-after, la documentación de Anthropic indica que se debe esperar al menos ese número de segundos antes de volver a intentarlo.

Anthropic también contabiliza los ITPM teniendo en cuenta la caché, lo que cambia el efecto del almacenamiento de prompts en caché sobre el rendimiento. De forma predeterminada, los ITPM solo cuentan los input_tokens posteriores al último punto de interrupción de caché más los cache_creation_input_tokens. Es fundamental que los cache_read_input_tokens no cuentan para los ITPM. Anthropic estima los ITPM al inicio de cada solicitud y ajusta el recuento durante la ejecución, lo que proporciona a las cargas que utilizan mucho la caché una capacidad efectiva de entrada considerablemente mayor. (No suponga que OpenAI o Google Gemini excluyen las lecturas de caché de los límites de tokens del mismo modo, salvo que sus propias instrucciones lo indiquen expresamente).

Incluso sin superar los ITPM y OTPM, los picos bruscos de tráfico pueden activar los límites de incremento de Anthropic. Una ráfaga de apenas unos segundos puede considerarse un aumento pronunciado. Anthropic calcula el límite de incremento sumando un paso fijo al mayor uso reciente por minuto de ese modelo por parte de su organización. Cada minuto puede subir un paso por encima del pico reciente hasta alcanzar el límite completo de su nivel, y la asignación nunca cae por debajo de un mínimo inicial, ni siquiera tras periodos de inactividad.

Nivel Modelo RPM ITPM OTPM
Start Claude Opus 5.5 4,000 2,000,000 400,000
Start Claude Sonnet 5.5 4,000 2,000,000 400,000
Build Claude Opus 5.5 10,000 5,000,000 1,000,000
Build Claude Sonnet 5.5 10,000 5,000,000 1,000,000
Scale Claude Opus 5.5 13,000 10,000,000 2,000,000
Scale Claude Sonnet 5.5 13,000 10,000,000 2,000,000

Ejemplos de límites por nivel de Anthropic Messages API a 17 de noviembre de 2026, según la documentación de Anthropic. Consulte su consola y la tabla oficial completa para conocer otras clases de modelos y los límites específicos de su cuenta.

Límites de velocidad y gasto de Google Gemini API

Los límites de velocidad de Google Gemini API se aplican por proyecto, no por clave API, y normalmente controlan RPM, TPM de entrada y RPD. Las cuotas diarias de RPD se restablecen a medianoche, hora del Pacífico. Google señala que los límites publicados varían según el modelo y nivel, son más restrictivos para modelos experimentales y preliminares, y no están garantizados. Por ello, consulte los valores activos de su modelo directamente en Google AI Studio en lugar de depender de estimaciones estáticas.

Gemini también aplica cuotas específicas de cada modelo y herramienta. Los modelos que generan imágenes pueden tener límites de IPM y algunos modelos incluyen límites de TPD, mientras que las herramientas integradas tienen sus propios máximos: a 17 de noviembre de 2026, Grounding with Google Search en Gemini 3 y modelos posteriores tiene por defecto 1,500 RPD por proyecto en Gemini Developer API.

Además de los límites de solicitudes y tokens, Google aplica límites de velocidad basados en el gasto, evaluados en una ventana móvil de 10 minutos y dependientes del historial de facturación y el nivel:

Nivel de uso Límite de gasto (por 10 minutos)
Free N/A
Tier 1 $10
Tier 2 $50
Tier 3 $200

Límites de gasto de Google Gemini API en ventanas móviles de 10 minutos a 17 de noviembre de 2026, según la documentación de Google.

Al alcanzar un límite de Gemini basado en el gasto se devuelve 429 RESOURCE_EXHAUSTED. Google recomienda hacer una pausa y volver a intentarlo tras un breve intervalo, reducir el ritmo de las llamadas costosas usando ventanas de contexto más pequeñas o salidas más cortas, y solicitar un aumento del límite si el tráfico normal de producción alcanza el máximo de forma constante.

¿Qué significa un error 429 y cómo volver a intentarlo de forma segura?

Una respuesta HTTP 429 significa que quien realiza la llamada ha superado una cuota de API, un umbral de velocidad o un máximo de facturación, aunque no se debe reintentar todo error 429. El centro de ayuda de OpenAI advierte expresamente de que un 429 puede indicar un límite de velocidad temporal, saldo prepago agotado, un límite estricto de gasto configurado o un límite mensual de uso. Reintentar un 429 de facturación o límite estricto solo consume intentos; para resolverlo hay que ajustar la facturación o los límites.

Distinguir errores de velocidad 429 de la sobrecarga 503

Los proveedores usan datos de error específicos para distinguir los picos de velocidad de tráfico de los problemas temporales de capacidad del servidor. En la API de OpenAI, 429 junto con rate_limit_error y slow_down indica que su frecuencia de solicitudes ha aumentado demasiado rápido, lo que puede ocurrir incluso dentro de los límites de RPM y TPM. En cambio, 503 junto con service_unavailable_error y server_is_overloaded significa que el modelo de destino está sobrecargado temporalmente. En Anthropic, los errores 429 identifican el límite activado, mientras que los límites de gasto de Gemini devuelven 429 RESOURCE_EXHAUSTED.

Ráfagas, max_tokens y mecanismos de reintento

Las ráfagas cortas activan con frecuencia los límites porque los proveedores aplican máximos en intervalos inferiores a un minuto: OpenAI señala que un límite de 60 RPM también puede comprobarse en ventanas de 1 segundo. Los presupuestos de salida también importan, ya que el cálculo de OpenAI puede tomar el máximo entre max_tokens y una estimación basada en el número de caracteres. Configurar max_tokens cerca del tamaño esperado de la respuesta evita inflar artificialmente las reservas de tokens.

Cuando se produzca un 429 o 503 que admita reintento, siga estos pasos:

  1. Examine primero el código de error para no reintentar errores de saldo prepago, límite de uso o límite estricto de gasto.
  2. Respete Retry-After o retry-after cuando aparezca y espere al menos los segundos indicados antes del siguiente intento.
  3. Use una espera exponencial con jitter si no hay cabecera: aumente la demora tras cada fallo, añada una pequeña demora aleatoria para que los trabajadores no coincidan y limite el número total de intentos.
  4. Tenga en cuenta los reintentos de los SDK oficiales desactivando o coordinando sus bucles integrados si añade lógica propia, para evitar que se multipliquen las tormentas de solicitudes.
  5. Suavice la concurrencia del cliente distribuyendo los trabajos en cola a lo largo de todo el minuto en vez de enviar la cuota de un minuto en un segundo.

¿Cuándo evita una Batch API los límites RPM y TPM en tiempo real?

Una Batch API asíncrona evita los presupuestos síncronos de RPM y TPM en tiempo real al poner en cola trabajos no interactivos para completarlos fuera de línea, sin exigir respuestas inmediatas. La Batch API de OpenAI permite enviar grandes conjuntos de solicitudes sin consumir los límites de velocidad síncronos. El rendimiento por lotes depende, en cambio, del total de tokens de entrada en cola por modelo: los trabajos pendientes cuentan para el límite de la cola y los completados dejan de contar. La documentación de precios de la Gemini Developer API de pago de Google también incluye una opción Batch API con una reducción de coste del 50% (consulte la documentación oficial de Google para conocer el funcionamiento actual de los lotes de Gemini).

No confunda una Batch API con agrupar varias tareas en un único prompt síncrono en tiempo real. OpenAI señala que, si alcanza las RPM mientras aún tiene margen de TPM, combinar varias tareas pequeñas en una solicitud síncrona permite procesar más tokens por minuto, especialmente con modelos pequeños. Sin embargo, las llamadas síncronas agrupadas siguen consumiendo su presupuesto de TPM en tiempo real y siguen sujetas a las reglas de ráfagas y max_tokens. Para conocer otras estrategias que adaptan el tamaño del modelo y los lotes a la carga de trabajo, consulte nuestra guía sobre cómo reducir los costes de API de IA. Cuando el volumen orgánico de producción supere su nivel, solicite formalmente un aumento del límite mediante la consola oficial del proveedor en vez de intentar eludir los controles de la cuenta.

FAQ

¿Por qué recibo un error 429 por debajo de mis límites de RPM y TPM?

Varios mecanismos pueden activar un 429 aunque el promedio por minuto parezca seguro. Los proveedores aplican ventanas cortas para ráfagas (como comprobaciones de 1 segundo en un límite de 60 RPM), límites de incremento ante picos repentinos como la regla de Anthropic o slow_down de OpenAI, cupos compartidos por familia, límites de gasto móviles de 10 minutos en Gemini, o restricciones por saldo prepago agotado y máximos de gasto.

¿Debo reintentar todos los errores 429 de una API de IA?

No, examine los datos del error antes de reintentar cualquier respuesta 429. Es seguro reintentar los 429 por límites temporales y los errores de sobrecarga 503 después de respetar Retry-After o aplicar una espera exponencial con jitter. Los errores causados por créditos prepago agotados, límites mensuales de uso o límites estrictos de gasto configurados requieren actualizar la facturación o los límites y seguirán fallando si se reintentan.

¿Cuentan las lecturas de caché de prompts para los límites ITPM de Anthropic?

No, el cálculo de ITPM de Anthropic que tiene en cuenta la caché excluye cache_read_input_tokens de su cuota de tokens de entrada por minuto. Solo cuentan para ITPM los input_tokens no almacenados en caché posteriores al último punto de interrupción y los cache_creation_input_tokens. Como Anthropic estima los ITPM al inicio de la solicitud y los ajusta durante la llamada, las cargas con altas tasas de acierto de caché obtienen margen adicional de entrada.

¿Se comparten los límites de velocidad de API de IA entre claves API?

Sí, crear más claves API en la misma organización o proyecto no proporciona cupos separados de límites de velocidad. OpenAI define los límites a nivel de organización y proyecto en lugar de usuario, y Google Gemini los aplica explícitamente por proyecto en lugar de por clave API. Todas las claves de ese ámbito comparten la misma cuota.

¿Cómo afecta la configuración de max_tokens a los límites de OpenAI?

OpenAI indica que su cálculo de límites puede usar el máximo entre su configuración de max_tokens y una estimación derivada del número de caracteres. Configurar max_tokens muy por encima de la respuesta realmente esperada infla los tokens reservados frente a su límite de TPM y aumenta la probabilidad de errores de velocidad de tokens. Mantener max_tokens en un valor realista protege el rendimiento en tiempo real.

Fuentes

Escrito por

Chunyu Cai

Chunyu Cai es el director ejecutivo de Lotook, LLC y un emprendedor que escribe sobre modelos de IA, agentes y cómo cambian el trabajo cotidiano. Chunyu Cai tiene un título de máster de Imperial College London.