AI-gidsen · 10 min lezen

Wat zijn AI-API-snelheidslimieten? RPM, TPM, 429-fouten en batching

AI-API-snelheidslimieten beperken aanvragen en tokens per minuut. Lees over RPM, TPM, 429-fouten, gebruiksniveaus en batch-API's.

Isometrische illustratie van gloeiende amberkleurige bollen die een leigrijze meetpoort passeren, met een gebogen zijkanaal dat een groep bollen naar een opvangbekken leidt

AI-API-snelheidslimieten begrenzen hoeveel aanvragen (RPM) en tokens (TPM) een organisatie of project binnen een vast tijdvenster kan verzenden. Zodra één drempel wordt overschreden, volgt een HTTP 429-fout. Aanbieders handhaven deze quota om misbruik te voorkomen, toegang eerlijk te houden en gedeelde modelinfrastructuur te beschermen. Voor offline workloads bieden ze batch-eindpunten aan.

Bij mijn werk aan API-integraties bij Lotook ontstaan de meeste verrassingen in productie wanneer teams de maandelijkse uitgaven volgen, maar de doorvoer per minuut en korte piekvensters negeren. Aanbieders beoordelen bij elke aanroep meerdere onafhankelijke tellers. Door elke dimensie te begrijpen voordat het verkeer groeit, blijven achtergrondtaken en functies voor gebruikers stabiel.

Wat betekenen RPM, TPM en RPD bij AI-API’s?

AI-API-snelheidslimieten meten verkeer langs meerdere parallelle dimensies, waaronder aanvragen per minuut (RPM), tokens per minuut (TPM) en dagelijkse quota zoals aanvragen per dag (RPD) of tokens per dag (TPD). Afhankelijk van het eindpunt kunnen aanbieders ook eenheden begrenzen, zoals afbeeldingen per minuut (IPM) of audiominuten per minuut bij streaming-audiomodellen.

Als u nog niet bekend bent met hoe aanbieders tekstvolume tellen, bekijk dan onze uitleg over wat een token in AI is. Sommige leveranciers tellen gecombineerde TPM, terwijl anderen tokenbudgetten opsplitsen in invoertokens per minuut (ITPM) en uitvoertokens per minuut (OTPM).

De belangrijkste operationele regel is dat overschrijding van één toepasselijke limiet een snelheidslimietfout veroorzaakt, ook als alle andere meetwaarden nog veel ruimte hebben. De documentatie van OpenAI geeft een eenvoudig voorbeeld: 20 kleine aanvragen in een minuut putten een limiet van 20 RPM uit, zelfs als uw TPM-budget grotendeels ongebruikt blijft. Omgekeerd kunnen enkele zeer grote prompts met ruime uitvoertoewijzingen de TPM uitputten lang voordat u het RPM-plafond nadert.

Hoe werken de snelheidslimieten en gebruiksniveaus van OpenAI?

OpenAI handhaaft snelheidslimieten op organisatie- en projectniveau, niet op het niveau van individuele gebruikers. De limieten verschillen per model en gebruiksniveau. Volgens de documentatie van OpenAI delen sommige modelfamilies op 17 november 2026 een gecombineerd plafond: als de gedeelde TPM bijvoorbeeld 3.5 miljoen bedraagt, tellen aanroepen van alle modellen in die groep mee voor dezelfde pool van 3.5 miljoen.

Sommige workloads hebben ook afzonderlijke quota. Modellen met lange context (zoals GPT-5.5 in de documentatie van OpenAI) kunnen in de ontwikkelaarsconsole een aparte snelheidslimiet hebben voor aanvragen met lange context. Inname in een vector store is beperkt tot 300 RPM per vector-store-ID, gedeeld tussen /vector_stores/{vector_store_id}/files en /.../file_batches. Daarom raadt OpenAI file_batches aan voor grotere innames.

OpenAI deelt organisaties automatisch in betaalde niveaus in zodra hun totale kredietaankopen de drempels passeren. Daarmee worden hogere snelheidslimieten en hogere goedgekeurde maandelijkse gebruikslimieten beschikbaar. Een goedgekeurde maandelijkse gebruikslimiet staat los van een optionele uitgavenlimiet die u zelf instelt. Een model in een tabel met snelheidslimieten betekent bovendien niet dat uw organisatie of sleutel er toegang toe heeft. Zie voor een breder kostenoverzicht onze prijsvergelijking van AI-API’s.

Niveau Voorwaarde Gebruikslimieten
Free Gebruiker moet zich in een toegestaan gebied bevinden $100 / maand
Build $5 aan totale kredietaankopen $500 / maand
Launch $100 aan totale kredietaankopen $5,000 / maand
Grow $500 aan totale kredietaankopen $200,000 / maand

OpenAI-gebruiksniveaus en maandelijkse gebruikslimieten per 17 november 2026, volgens de gids van OpenAI over snelheidslimieten.

Binnen deze betaalde niveaus publiceert OpenAI Standard-snelheidslimieten voor modellen zoals Astra, Sol, Terra en Luna. Deze Standard-cijfers verschillen van de Ultrafast-limieten. OpenAI adviseert uw actuele waarden te controleren onder Settings > Organization > Limits.

Niveau Model RPM TPM
Build Astra, Sol, Terra 5,000 1,000,000
Build Luna 5,000 2,000,000
Launch Astra, Sol, Terra 10,000 4,000,000
Launch Luna 10,000 10,000,000
Grow Astra, Sol, Terra 15,000 40,000,000
Grow Luna 30,000 180,000,000

Gepubliceerde OpenAI Standard-snelheidslimieten per 17 november 2026, volgens de ontwikkelaarsdocumentatie van OpenAI.

Snelheidslimieten, caching en oplopende limieten van Anthropic Claude

Anthropic meet de snelheidslimieten van de Messages API per modelklasse in RPM, ITPM en OTPM. Wanneer verkeer een drempel overschrijdt, noemt een 429-respons de overschreden limiet. Bevat de respons een retry-after-header, dan moeten aanroepers volgens de documentatie van Anthropic minstens dat aantal seconden wachten voordat ze opnieuw proberen.

Anthropic houdt bij de ITPM-berekening ook rekening met de cache, wat verandert hoe promptcaching de doorvoer beïnvloedt. Standaard tellen alleen input_tokens na het laatste cachebreekpunt en cache_creation_input_tokens mee voor ITPM. Cruciaal is dat cache_read_input_tokens niet meetellen. Anthropic schat ITPM aan het begin van elke aanvraag en past de telling tijdens de uitvoering aan. Daardoor krijgen workloads die veel cache gebruiken aanzienlijk meer effectieve invoercapaciteit. (Ga er niet van uit dat OpenAI of Google Gemini cachelezingen op dezelfde manier van tokenlimieten uitsluiten, tenzij hun eigen documentatie dat uitdrukkelijk vermeldt.)

Ook onder ITPM en OTPM kunnen scherpe verkeerspieken de oplopende limieten van Anthropic activeren. Een piek van slechts enkele seconden kan als sterke stijging gelden. Anthropic berekent de limiet als het hoogste recente gebruik per minuut van dat model door uw organisatie plus een vaste stap. Elke minuut kunt u één stap boven uw recente piek stijgen totdat u de volledige limiet van uw niveau bereikt; de toegestane hoeveelheid daalt ook na perioden van inactiviteit nooit onder een vaste beginwaarde.

Niveau Model RPM ITPM OTPM
Start Claude Opus 5.5 4,000 2,000,000 400,000
Start Claude Sonnet 5.5 4,000 2,000,000 400,000
Build Claude Opus 5.5 10,000 5,000,000 1,000,000
Build Claude Sonnet 5.5 10,000 5,000,000 1,000,000
Scale Claude Opus 5.5 13,000 10,000,000 2,000,000
Scale Claude Sonnet 5.5 13,000 10,000,000 2,000,000

Representatieve niveaulimieten voor de Anthropic Messages API per 17 november 2026, volgens de documentatie van Anthropic. Controleer uw console en de volledige officiële tabel voor andere modelklassen en accountspecifieke plafonds.

Snelheidslimieten en uitgavenplafonds van de Google Gemini API

Snelheidslimieten van de Google Gemini API gelden per project in plaats van per API-sleutel en volgen doorgaans RPM, invoer-TPM en RPD. Dagelijkse RPD-quota worden om middernacht Pacific time gereset. Google vermeldt dat gepubliceerde limieten per model en niveau verschillen, strenger zijn voor experimentele en previewmodellen en niet gegarandeerd zijn. Controleer daarom uw actieve modelwaarden rechtstreeks in Google AI Studio in plaats van op vaste schattingen te vertrouwen.

Gemini handhaaft ook model- en toolspecifieke quota. Beeldgenererende modellen kunnen IPM-limieten hebben en sommige modellen hebben TPD-limieten. Ingebouwde tools hebben eigen plafonds: per 17 november 2026 is de standaard voor Grounding with Google Search op Gemini 3 en nieuwere modellen 1,500 RPD per project op de Gemini Developer API.

Naast aanvraag- en tokenplafonds past Google afhankelijk van facturatiegeschiedenis en niveau uitgavenlimieten toe die over een voortschrijdend venster van 10 minuten worden beoordeeld:

Gebruiksniveau Uitgavenlimiet (per 10 minuten)
Free N/A
Tier 1 $10
Tier 2 $50
Tier 3 $200

Voortschrijdende uitgavenlimieten van 10 minuten voor de Google Gemini API per 17 november 2026, volgens de documentatie van Google.

Het bereiken van een op uitgaven gebaseerde Gemini-limiet levert 429 RESOURCE_EXHAUSTED op. Google adviseert kort te wachten en opnieuw te proberen, dure aanroepen te vertragen met kleinere contextvensters of kortere uitvoer, en een hogere limiet aan te vragen als normaal productieverkeer het plafond voortdurend bereikt.

Wat betekent een 429-fout en hoe probeert u veilig opnieuw?

Een HTTP 429-respons betekent dat een aanroeper een API-quotum, snelheidsdrempel of facturatieplafond heeft overschreden, maar niet elke 429 moet opnieuw worden geprobeerd. Het Helpcentrum van OpenAI waarschuwt expliciet dat een 429 een tijdelijke snelheidslimiet, een uitgeput prepaid saldo, een ingestelde harde uitgavenlimiet of een maandelijkse gebruikslimiet kan aangeven. Een 429 door facturatie of een harde uitgavenlimiet opnieuw proberen verspilt alleen pogingen; de oplossing vereist een aanpassing van facturatie of limieten.

429-snelheidsfouten onderscheiden van 503-overbelasting

Aanbieders gebruiken specifieke foutgegevens om pieken in verkeerssnelheid te onderscheiden van tijdelijke problemen met servercapaciteit. In de API van OpenAI geeft 429 samen met rate_limit_error en slow_down aan dat uw aanvraagsnelheid te snel is gestegen. Dat kan ook binnen de RPM- en TPM-grenzen gebeuren. 503 samen met service_unavailable_error en server_is_overloaded betekent daarentegen dat het doelmodel tijdelijk overbelast is. Bij Anthropic geven 429-fouten aan welke limiet is geraakt, terwijl Gemini-uitgavenplafonds 429 RESOURCE_EXHAUSTED teruggeven.

Pieken, max_tokens en mechanismen voor opnieuw proberen

Korte pieken activeren vaak snelheidslimieten omdat aanbieders plafonds over intervallen korter dan een minuut handhaven: OpenAI merkt op dat een limiet van 60 RPM ook over vensters van 1 seconde kan worden gecontroleerd. Uitvoerbudgetten zijn ook belangrijk, omdat de berekening van OpenAI het maximum van max_tokens en een schatting op basis van het aantal tekens kan nemen. Door max_tokens dicht bij de verwachte antwoordgrootte in te stellen, voorkomt u kunstmatig opgeblazen tokenreserveringen.

Volg deze stappen bij een 429 of 503 die opnieuw kan worden geprobeerd:

  1. Controleer eerst de foutcode, zodat u fouten door prepaid saldo, gebruikslimieten of harde uitgavenlimieten nooit opnieuw probeert.
  2. Respecteer Retry-After of retry-after wanneer aanwezig en wacht minstens het opgegeven aantal seconden voor de volgende poging.
  3. Gebruik exponentiële backoff met jitter als er geen header is: verhoog de vertraging na elke mislukking, voeg een kleine willekeurige vertraging toe zodat workers niet botsen en beperk het totale aantal pogingen.
  4. Houd rekening met herhalingen van officiële SDK’s door ingebouwde herhaallussen uit te schakelen of af te stemmen als u eigen logica toevoegt, zodat aanvraagstormen niet worden vermenigvuldigd.
  5. Spreid gelijktijdigheid aan de clientzijde door wachtrijtaken over de hele minuut te verdelen in plaats van een minuutquotum in één seconde te versturen.

Wanneer vermijdt een Batch API de live RPM- en TPM-limieten?

Een asynchrone Batch API vermijdt live synchrone RPM- en TPM-budgetten door niet-interactieve taken in een wachtrij te plaatsen voor offline verwerking, in plaats van onmiddellijke antwoorden te eisen. Met de Batch API van OpenAI kunt u grote verzamelingen aanvragen indienen zonder synchrone snelheidslimieten te verbruiken. De batchdoorvoer wordt bepaald door het totale aantal invoertokens in de wachtrij per model: openstaande batchtaken tellen mee voor de wachtrijlimiet en voltooide taken vallen eruit. De prijsdocumentatie van Google’s betaalde Gemini Developer API noemt eveneens een Batch API-optie met 50% kostenbesparing (raadpleeg de officiële documentatie van Google voor de huidige werking van Gemini-batches).

Verwar een Batch API niet met het bundelen van meerdere taken in één live synchrone prompt. OpenAI merkt op dat als u RPM bereikt terwijl er nog TPM-ruimte is, het combineren van meerdere kleine taken in één synchrone aanvraag meer tokens per minuut kan verwerken, vooral bij kleinere modellen. Gebundelde synchrone aanroepen verbruiken echter nog steeds uw live TPM-budget en blijven onderworpen aan piek- en max_tokens-regels. Zie voor bredere strategieën om modelgrootte en batching op de workload af te stemmen onze gids over AI-API-kosten verlagen. Als het organische productievolume uw niveau ontgroeit, dien dan via de officiële console van de aanbieder een formeel verzoek tot limietverhoging in in plaats van accountcontroles te omzeilen.

FAQ

Waarom krijg ik een 429-fout onder mijn RPM- en TPM-limieten?

Verschillende mechanismen kunnen een 429 veroorzaken, ook als uw gemiddelde per minuut veilig lijkt. Aanbieders handhaven korte piekvensters (zoals controles van 1 seconde bij een limiet van 60 RPM), oplopende limieten bij plotselinge verkeerspieken zoals de regel van Anthropic of slow_down van OpenAI, gedeelde familiepools, voortschrijdende uitgavenlimieten van 10 minuten bij Gemini, of uitgeputte prepaid saldi en uitgavenplafonds.

Moet ik elke 429-fout van een AI-API opnieuw proberen?

Nee, controleer de foutgegevens voordat u een 429-respons opnieuw probeert. Tijdelijke 429-snelheidslimieten en 503-overbelastingsfouten kunt u veilig opnieuw proberen na naleving van Retry-After of toepassing van exponentiële backoff met jitter. Fouten door uitgeput prepaid krediet, maandelijkse gebruikslimieten of ingestelde harde uitgavenlimieten vereisen een wijziging van facturatie of limieten en blijven bij herhaling mislukken.

Tellen promptcachelezingen mee voor de ITPM-limieten van Anthropic?

Nee, de cachebewuste ITPM-berekening van Anthropic sluit cache_read_input_tokens uit van uw quotum voor invoertokens per minuut. Alleen niet-gecachete input_tokens na het laatste cachebreekpunt en cache_creation_input_tokens tellen mee voor ITPM. Omdat Anthropic ITPM bij de start van de aanvraag schat en tijdens de aanroep aanpast, krijgen workloads met hoge cachehitrates extra invoerruimte.

Worden AI-API-snelheidslimieten gedeeld tussen API-sleutels?

Ja, extra API-sleutels binnen dezelfde organisatie of hetzelfde project geven geen afzonderlijke snelheidsquota. OpenAI definieert limieten op organisatie- en projectniveau in plaats van gebruikersniveau, en Google Gemini past limieten expliciet per project toe in plaats van per API-sleutel. Alle sleutels binnen dat bereik delen hetzelfde quotum.

Hoe beïnvloedt de instelling van max_tokens de snelheidslimieten van OpenAI?

OpenAI merkt op dat de berekening het maximum kan gebruiken van uw max_tokens-instelling en een schatting op basis van het aantal tekens. Als u max_tokens veel hoger instelt dan uw werkelijk verwachte antwoord, worden meer tokens tegen uw TPM-limiet gereserveerd en neemt de kans op token-snelheidsfouten toe. Een realistische waarde voor max_tokens beschermt de live doorvoer.

Bronnen

Geschreven door

Chunyu Cai

Chunyu Cai is CEO van Lotook, LLC en ondernemer. Hij schrijft over AI-modellen, agenten en hoe ze het dagelijkse werk veranderen. Chunyu Cai heeft een masterdiploma van Imperial College London.