Guides IA · 12 min de lecture

Que sont les limites de débit des API d'IA ? RPM, TPM, erreurs 429 et traitement par lots

Les limites des API d'IA plafonnent les requêtes et les tokens par minute. Découvrez RPM, TPM, les erreurs 429 et les API par lots.

Illustration isométrique de sphères ambrées lumineuses traversant un portique de mesure couleur ardoise, avec un canal latéral courbe acheminant un groupe de sphères vers un bassin de stockage

Les limites de débit des API d’IA plafonnent le nombre de requêtes (RPM) et de tokens (TPM) qu’une organisation ou un projet peut envoyer dans une fenêtre de temps fixe. Dès qu’un seul seuil est dépassé, une erreur HTTP 429 est renvoyée. Les fournisseurs imposent ces quotas pour prévenir les abus, garantir un accès équitable et protéger l’infrastructure de modèles partagée, tout en proposant des points d’accès par lots pour les charges de travail hors ligne.

Dans mon travail de conception d’intégrations API chez Lotook, les surprises en production surviennent le plus souvent lorsque les équipes suivent les dépenses mensuelles tout en ignorant le débit par minute et les courtes pointes de trafic. Les fournisseurs évaluent plusieurs compteurs indépendants à chaque appel : comprendre chaque dimension avant que le trafic augmente permet de stabiliser les tâches en arrière-plan et les fonctionnalités destinées aux utilisateurs.

Que signifient RPM, TPM et RPD pour les API d’IA ?

Les limites de débit des API d’IA mesurent le trafic selon plusieurs dimensions parallèles, notamment les requêtes par minute (RPM), les tokens par minute (TPM) et des quotas quotidiens comme les requêtes par jour (RPD) ou les tokens par jour (TPD). Selon le point d’accès, les fournisseurs peuvent aussi imposer des plafonds d’unités comme les images par minute (IPM) ou les minutes audio par minute pour les modèles audio en streaming.

Si vous découvrez la manière dont les fournisseurs comptent le volume de texte, consultez notre guide sur ce qu’est un token en IA. Certains fournisseurs comptabilisent un TPM combiné, tandis que d’autres répartissent les budgets de tokens entre les tokens d’entrée par minute (ITPM) et les tokens de sortie par minute (OTPM).

La règle opérationnelle essentielle est que le dépassement d’une seule limite applicable déclenche une erreur de limite de débit, même si toutes les autres mesures disposent encore d’une large marge. La documentation d’OpenAI donne un exemple simple : envoyer 20 petites requêtes en une minute épuise un plafond de 20 RPM, même si votre budget TPM reste largement inutilisé. À l’inverse, quelques prompts très volumineux assortis de grandes allocations de sortie peuvent épuiser les TPM bien avant que vous approchiez du plafond RPM.

Comment fonctionnent les limites de débit et les niveaux d’utilisation d’OpenAI ?

OpenAI applique ses limites de débit aux niveaux de l’organisation et du projet plutôt qu’à celui de chaque utilisateur ; elles varient selon le modèle et le niveau d’utilisation. Au 17 novembre 2026, la documentation d’OpenAI précise que certaines familles de modèles partagent un plafond commun : par exemple, si le TPM partagé est de 3.5 millions, les appels à tous les modèles du groupe sont comptabilisés dans le même quota de 3.5 millions.

Certaines charges disposent aussi de quotas distincts. Les modèles à contexte long (comme GPT-5.5 dans la documentation d’OpenAI) peuvent avoir une limite de débit dédiée aux requêtes à contexte long dans la console développeur. L’ingestion dans un magasin vectoriel est limitée à 300 RPM par identifiant de magasin, plafond partagé entre /vector_stores/{vector_store_id}/files et /.../file_batches ; OpenAI recommande donc file_batches pour les ingestions plus importantes.

OpenAI attribue automatiquement les organisations aux niveaux payants lorsque leurs achats cumulés de crédits franchissent chaque seuil, ce qui débloque des limites de débit et des limites mensuelles d’utilisation approuvées plus élevées. Une limite mensuelle d’utilisation approuvée est distincte d’une éventuelle limite de dépenses que vous configurez vous-même. La présence d’un modèle dans un tableau de limites de débit ne confirme pas non plus que votre organisation ou votre clé y a accès. Pour une vue plus large des coûts entre fournisseurs, consultez notre comparatif des prix des API d’IA.

Niveau Condition Limites d’utilisation
Free L’utilisateur doit se trouver dans une zone autorisée $100 / mois
Build $5 d’achats cumulés de crédits $500 / mois
Launch $100 d’achats cumulés de crédits $5,000 / mois
Grow $500 d’achats cumulés de crédits $200,000 / mois

Niveaux et limites mensuelles d’utilisation d’OpenAI au 17 novembre 2026, selon son guide des limites de débit.

Pour ces niveaux payants, OpenAI publie des limites de débit Standard pour des modèles tels qu’Astra, Sol, Terra et Luna. Ces chiffres Standard diffèrent des limites Ultrafast ; OpenAI conseille de vérifier vos valeurs actuelles sous Settings > Organization > Limits.

Niveau Modèle RPM TPM
Build Astra, Sol, Terra 5,000 1,000,000
Build Luna 5,000 2,000,000
Launch Astra, Sol, Terra 10,000 4,000,000
Launch Luna 10,000 10,000,000
Grow Astra, Sol, Terra 15,000 40,000,000
Grow Luna 30,000 180,000,000

Limites de débit Standard publiées par OpenAI au 17 novembre 2026, selon sa documentation développeur.

Limites de débit Claude d’Anthropic, mise en cache et limites de montée en charge

Anthropic mesure les limites de débit de la Messages API en RPM, ITPM et OTPM pour chaque classe de modèles. Lorsqu’un seuil est franchi, une réponse 429 indique la limite dépassée. Si la réponse contient un en-tête retry-after, la documentation d’Anthropic demande d’attendre au moins le nombre de secondes indiqué avant de réessayer.

Anthropic comptabilise aussi les ITPM en tenant compte du cache, ce qui change l’effet de la mise en cache des prompts sur le débit. Par défaut, les ITPM ne comptent que les input_tokens après le dernier point de rupture du cache ainsi que les cache_creation_input_tokens. Point essentiel : les cache_read_input_tokens ne comptent pas dans les ITPM. Anthropic estime les ITPM au début de chaque requête et ajuste le compte pendant son exécution, ce qui donne aux charges utilisant beaucoup le cache une capacité d’entrée effective nettement supérieure. (Ne supposez pas qu’OpenAI ou Google Gemini excluent de la même manière les lectures du cache des limites de tokens, sauf si leur propre documentation l’indique explicitement.)

Même en restant sous les ITPM et OTPM, de fortes pointes de trafic peuvent déclencher les limites de montée en charge d’Anthropic. Une pointe de quelques secondes seulement peut être considérée comme une forte hausse. Anthropic calcule cette limite à partir de la plus forte utilisation récente par minute de ce modèle par votre organisation, augmentée d’un palier fixe. Chaque minute, vous pouvez monter d’un palier au-dessus de votre pic récent jusqu’à atteindre la limite complète de votre niveau ; le plafond autorisé ne descend jamais sous un plancher de départ, même après une période d’inactivité.

Niveau Modèle RPM ITPM OTPM
Start Claude Opus 5.5 4,000 2,000,000 400,000
Start Claude Sonnet 5.5 4,000 2,000,000 400,000
Build Claude Opus 5.5 10,000 5,000,000 1,000,000
Build Claude Sonnet 5.5 10,000 5,000,000 1,000,000
Scale Claude Opus 5.5 13,000 10,000,000 2,000,000
Scale Claude Sonnet 5.5 13,000 10,000,000 2,000,000

Exemples de limites par niveau de l’Anthropic Messages API au 17 novembre 2026, selon la documentation d’Anthropic. Consultez votre console et le tableau officiel complet pour les autres classes de modèles et les plafonds propres à votre compte.

Limites de débit et plafonds de dépenses de la Google Gemini API

Les limites de débit de la Google Gemini API s’appliquent par projet plutôt que par clé API et suivent généralement les RPM, les TPM d’entrée et les RPD. Les quotas quotidiens RPD sont réinitialisés à minuit, heure du Pacifique. Google précise que les limites publiées varient selon le modèle et le niveau, sont plus restrictives pour les modèles expérimentaux et en préversion, et ne sont pas garanties. Vérifiez donc directement les chiffres actifs de votre modèle dans Google AI Studio plutôt que de vous fier à des estimations statiques.

Gemini impose aussi des quotas propres aux modèles et aux outils. Les modèles générateurs d’images peuvent avoir des limites IPM, et certains modèles des limites TPD ; les outils intégrés ont leurs propres plafonds : au 17 novembre 2026, Grounding with Google Search sur Gemini 3 et les modèles plus récents est limité par défaut à 1,500 RPD par projet sur la Gemini Developer API.

En plus des plafonds de requêtes et de tokens, Google applique des limites de débit fondées sur les dépenses, évaluées sur une fenêtre glissante de 10 minutes selon l’historique de facturation et le niveau :

Niveau d’utilisation Limite de dépenses (par 10 minutes)
Free N/A
Tier 1 $10
Tier 2 $50
Tier 3 $200

Limites de dépenses glissantes sur 10 minutes de la Google Gemini API au 17 novembre 2026, selon la documentation de Google.

Atteindre une limite Gemini fondée sur les dépenses renvoie 429 RESOURCE_EXHAUSTED. Google recommande de faire une pause et de réessayer après un court intervalle, de ralentir les appels coûteux avec des fenêtres de contexte plus petites ou des sorties plus courtes, et de demander une augmentation de limite si le trafic normal de production atteint régulièrement le plafond.

Que signifie une erreur 429 et comment réessayer sans risque ?

Une réponse HTTP 429 signifie qu’un appel a dépassé un quota API, un seuil de débit ou un plafond de facturation, mais il ne faut pas réessayer chaque 429. Le centre d’aide d’OpenAI avertit explicitement qu’un 429 peut signaler une limite de débit temporaire, un solde prépayé épuisé, une limite stricte de dépenses configurée ou une limite mensuelle d’utilisation. Réessayer un 429 lié à la facturation ou à une limite stricte ne fait que consommer des tentatives ; il faut modifier la facturation ou les limites pour résoudre le problème.

Distinguer les erreurs de débit 429 d’une surcharge 503

Les fournisseurs utilisent des données d’erreur précises pour distinguer les pointes de débit des problèmes temporaires de capacité serveur. Dans l’API OpenAI, 429 associé à rate_limit_error et slow_down indique que votre débit de requêtes a augmenté trop vite, ce qui peut se produire même dans les limites RPM et TPM. En revanche, 503 associé à service_unavailable_error et server_is_overloaded signifie que le modèle ciblé est temporairement surchargé. Chez Anthropic, les erreurs 429 indiquent la limite déclenchée, tandis que les plafonds de dépenses Gemini renvoient 429 RESOURCE_EXHAUSTED.

Pointes de trafic, max_tokens et mécanismes de nouvelle tentative

Les courtes pointes déclenchent souvent les limites de débit, car les fournisseurs appliquent des plafonds sur des intervalles inférieurs à une minute : OpenAI indique qu’une limite de 60 RPM peut aussi être vérifiée sur des fenêtres de 1 seconde. Les budgets de sortie comptent aussi, car le calcul de limite d’OpenAI peut prendre le maximum entre max_tokens et une estimation fondée sur le nombre de caractères. Régler max_tokens près de la taille de réponse attendue évite de gonfler artificiellement les réservations de tokens.

Lorsqu’un 429 ou 503 peut être réessayé, suivez ces étapes :

  1. Examinez d’abord le code d’erreur pour ne jamais réessayer les erreurs de solde prépayé, de limite d’utilisation ou de limite stricte de dépenses.
  2. Respectez Retry-After ou retry-after lorsqu’il est présent, en attendant au moins le nombre de secondes indiqué avant la tentative suivante.
  3. Utilisez un délai exponentiel avec jitter en l’absence d’en-tête : augmentez le délai après chaque échec, ajoutez un petit délai aléatoire pour éviter les collisions entre workers et plafonnez le nombre total de tentatives.
  4. Tenez compte des nouvelles tentatives des SDK officiels en désactivant ou en coordonnant leurs boucles intégrées si vous ajoutez votre propre logique, afin d’éviter les tempêtes de requêtes multipliées.
  5. Lissez la concurrence côté client en répartissant les tâches en attente sur toute la minute au lieu d’envoyer le quota d’une minute en une seconde.

Quand une Batch API évite-t-elle les limites RPM et TPM en temps réel ?

Une Batch API asynchrone évite les budgets RPM et TPM synchrones en temps réel en mettant les tâches non interactives en file d’attente pour un traitement hors ligne, sans exiger de réponse immédiate. La Batch API d’OpenAI permet de soumettre de grands ensembles de requêtes sans consommer les limites de débit synchrones. Le débit par lots dépend plutôt du total des tokens d’entrée en attente par modèle : les tâches en attente comptent dans la limite de la file et les tâches terminées en sortent. La documentation tarifaire de la Gemini Developer API payante de Google présente aussi une Batch API offrant une réduction de coût de 50% (consultez la documentation officielle de Google pour les mécanismes actuels des lots Gemini).

Ne confondez pas une Batch API avec le regroupement de plusieurs tâches dans un prompt synchrone en temps réel. OpenAI indique que si vous atteignez les RPM alors qu’il reste de la marge en TPM, regrouper plusieurs petites tâches dans une requête synchrone peut traiter davantage de tokens par minute, surtout sur les petits modèles. Ces appels synchrones regroupés consomment toutefois toujours votre budget TPM en temps réel et restent soumis aux règles de pointes et de max_tokens. Pour d’autres stratégies adaptées à la taille du modèle et au traitement par lots, consultez notre guide pour réduire les coûts des API d’IA. Lorsque le volume naturel de production dépasse votre niveau, soumettez une demande formelle d’augmentation de limite dans la console officielle du fournisseur plutôt que de chercher à contourner les contrôles du compte.

FAQ

Pourquoi reçois-je une erreur 429 sous mes limites RPM et TPM ?

Plusieurs mécanismes peuvent déclencher un 429 même si votre moyenne par minute semble acceptable. Les fournisseurs appliquent de courtes fenêtres de pointe (comme des contrôles sur 1 seconde pour une limite de 60 RPM), des limites de montée en charge lors de hausses soudaines comme la règle d’Anthropic ou slow_down d’OpenAI, des quotas partagés par famille, des limites de dépenses glissantes sur 10 minutes chez Gemini, ou des plafonds de dépenses et de soldes prépayés épuisés.

Faut-il réessayer chaque erreur 429 d’une API d’IA ?

Non, examinez les données de l’erreur avant de réessayer toute réponse 429. Les 429 de limite temporaire et les erreurs de surcharge 503 peuvent être réessayés sans risque après respect de Retry-After ou application d’un délai exponentiel avec jitter. Les erreurs dues à des crédits prépayés épuisés, à des limites mensuelles ou à des limites strictes de dépenses configurées exigent une mise à jour de la facturation ou des limites et continueront d’échouer si vous réessayez.

Les lectures du cache des prompts comptent-elles dans les limites ITPM d’Anthropic ?

Non, le calcul ITPM d’Anthropic tenant compte du cache exclut les cache_read_input_tokens de votre quota de tokens d’entrée par minute. Seuls les input_tokens non mis en cache après le dernier point de rupture et les cache_creation_input_tokens comptent dans les ITPM. Anthropic estimant les ITPM au début de la requête et les ajustant pendant l’appel, les charges avec un taux élevé de cache atteint gagnent une marge d’entrée supplémentaire.

Les limites de débit des API d’IA sont-elles partagées entre clés API ?

Oui, créer des clés API supplémentaires dans la même organisation ou le même projet ne donne pas de quotas de débit distincts. OpenAI définit les limites aux niveaux de l’organisation et du projet plutôt qu’à celui de l’utilisateur, et Google Gemini applique explicitement les limites par projet plutôt que par clé API. Toutes les clés de ce périmètre partagent le même quota.

Quel effet le réglage de max_tokens a-t-il sur les limites de débit d’OpenAI ?

OpenAI indique que son calcul de limite peut utiliser le maximum entre votre réglage max_tokens et une estimation fondée sur le nombre de caractères. Régler max_tokens bien au-dessus de la réponse réellement attendue gonfle les tokens réservés au titre de votre limite TPM et augmente le risque d’erreurs de débit de tokens. Garder une valeur réaliste pour max_tokens protège le débit en temps réel.

Sources

Écrit par

Chunyu Cai

Chunyu Cai est le directeur général de Lotook, LLC et un entrepreneur qui écrit sur les modèles d’IA, les agents et leur influence sur le travail au quotidien. Chunyu Cai est titulaire d’un master de l’établissement Imperial College London.