KI-API-Ratenlimits begrenzen, wie viele Anfragen (RPM) und Token (TPM) eine Organisation oder ein Projekt in einem festen Zeitfenster senden kann. Wird auch nur ein einzelner Schwellenwert überschritten, folgt ein HTTP-429-Fehler. Anbieter setzen diese Kontingente durch, um Missbrauch zu verhindern, fairen Zugang zu gewährleisten und die gemeinsam genutzte Modellinfrastruktur zu schützen. Für Offline-Workloads bieten sie Batch-Endpunkte an.
Bei meiner Arbeit an API-Integrationen bei Lotook entstehen die meisten Überraschungen im Produktivbetrieb, wenn Teams die monatlichen Ausgaben beobachten, aber den Durchsatz pro Minute und kurze Lastspitzen ignorieren. Da Anbieter bei jedem Aufruf mehrere unabhängige Zähler prüfen, hilft es, jede Dimension vor steigendem Datenverkehr zu verstehen: So bleiben Hintergrundaufgaben und Funktionen für Nutzer stabil.
Was bedeuten RPM, TPM und RPD bei KI-APIs?
KI-API-Ratenlimits messen den Datenverkehr anhand mehrerer paralleler Dimensionen, darunter Anfragen pro Minute (RPM), Token pro Minute (TPM) und tägliche Kontingente wie Anfragen pro Tag (RPD) oder Token pro Tag (TPD). Je nach Endpunkt können Anbieter auch Grenzen für Einheiten wie Bilder pro Minute (IPM) oder Audiominuten pro Minute bei Streaming-Audiomodellen festlegen.
Wenn Sie noch nicht genau wissen, wie Anbieter Textmengen zählen, lesen Sie unseren Leitfaden dazu, was ein Token in der KI ist. Manche Anbieter erfassen ein gemeinsames TPM-Budget, andere teilen es in Eingabetoken pro Minute (ITPM) und Ausgabetoken pro Minute (OTPM) auf.
Die wichtigste Regel für den Betrieb: Das Überschreiten eines einzigen geltenden Limits löst einen Ratenlimitfehler aus, selbst wenn bei allen anderen Messwerten noch viel Spielraum besteht. Die OpenAI-Dokumentation zeigt dies an einem einfachen Beispiel: 20 kleine Anfragen in einer Minute schöpfen ein Limit von 20 RPM aus, auch wenn Ihr TPM-Budget größtenteils ungenutzt bleibt. Umgekehrt können einige sehr große Prompts mit hohen Ausgabebudgets TPM erschöpfen, lange bevor Sie die RPM-Obergrenze erreichen.
Wie funktionieren OpenAI-Ratenlimits und Nutzungsstufen?
OpenAI setzt Ratenlimits auf Organisations- und Projektebene statt auf Ebene einzelner Nutzer durch; die Limits unterscheiden sich je nach Modell und Nutzungsstufe. Stand 17. November 2026 weist die OpenAI-Dokumentation darauf hin, dass sich einige Modellfamilien eine gemeinsame Obergrenze teilen: Beträgt das gemeinsame TPM beispielsweise 3.5 Millionen, zählen Aufrufe aller Modelle dieser Gruppe zum selben Pool von 3.5 Millionen.
Für bestimmte Workloads gibt es eigene Kontingente. Modelle mit langem Kontext (wie GPT-5.5 in der OpenAI-Dokumentation) können in der Entwicklerkonsole ein separates Ratenlimit für Anfragen mit langem Kontext haben. Die Aufnahme in einen Vector Store ist auf 300 RPM pro Vector-Store-ID begrenzt, gemeinsam für /vector_stores/{vector_store_id}/files und /.../file_batches; daher empfiehlt OpenAI file_batches für größere Aufnahmen.
OpenAI ordnet Organisationen automatisch kostenpflichtigen Stufen zu, sobald ihre gesamten Guthabenkäufe die jeweiligen Schwellen erreichen. Dadurch werden höhere Ratenlimits und höhere genehmigte monatliche Nutzungslimits freigeschaltet. Ein genehmigtes monatliches Nutzungslimit unterscheidet sich von einem optionalen Ausgabenlimit, das Sie selbst festlegen. Dass ein Modell in einer Ratenlimittabelle erscheint, bestätigt zudem nicht, dass Ihre Organisation oder Ihr Schlüssel Zugriff darauf hat. Einen breiteren Kostenüberblick über verschiedene Anbieter bietet unser Preisvergleich für KI-APIs.
| Stufe | Voraussetzung | Nutzungslimits |
|---|---|---|
| Free | Nutzer muss sich in einer zugelassenen Region befinden | $100 / Monat |
| Build | Guthabenkäufe insgesamt $5 | $500 / Monat |
| Launch | Guthabenkäufe insgesamt $100 | $5,000 / Monat |
| Grow | Guthabenkäufe insgesamt $500 | $200,000 / Monat |
OpenAI-Nutzungsstufen und monatliche Nutzungslimits am 17. November 2026 gemäß OpenAIs Leitfaden zu Ratenlimits.
Innerhalb dieser kostenpflichtigen Stufen veröffentlicht OpenAI Standard-Ratenlimits für Modelle wie Astra, Sol, Terra und Luna. Diese Standardwerte unterscheiden sich von den Ultrafast-Ratenlimits. OpenAI empfiehlt, Ihre aktuellen Werte unter Settings > Organization > Limits zu prüfen.
| Stufe | Modell | RPM | TPM |
|---|---|---|---|
| Build | Astra, Sol, Terra | 5,000 | 1,000,000 |
| Build | Luna | 5,000 | 2,000,000 |
| Launch | Astra, Sol, Terra | 10,000 | 4,000,000 |
| Launch | Luna | 10,000 | 10,000,000 |
| Grow | Astra, Sol, Terra | 15,000 | 40,000,000 |
| Grow | Luna | 30,000 | 180,000,000 |
Veröffentlichte OpenAI-Standard-Ratenlimits am 17. November 2026 gemäß der OpenAI-Entwicklerdokumentation.
Anthropic-Claude-Ratenlimits, Caching und Anstiegslimits
Anthropic misst die Ratenlimits der Messages API für jede Modellklasse in RPM, ITPM und OTPM. Beim Überschreiten eines Schwellenwerts nennt die 429-Antwort das betroffene Limit. Enthält die Antwort einen retry-after-Header, sollen Aufrufende laut Anthropic-Dokumentation vor einem erneuten Versuch mindestens die angegebene Sekundenzahl warten.
Anthropic verwendet außerdem eine Cache-berücksichtigende ITPM-Berechnung, die beeinflusst, wie Prompt-Caching den Durchsatz verändert. Standardmäßig zählen für ITPM nur input_tokens nach dem letzten Cache-Breakpoint sowie cache_creation_input_tokens. Entscheidend ist, dass cache_read_input_tokens nicht auf ITPM angerechnet werden. Anthropic schätzt ITPM zu Beginn jeder Anfrage und passt den Zähler während der Ausführung an. Dadurch erhalten cacheintensive Workloads eine erheblich höhere effektive Eingabekapazität. (Gehen Sie nicht davon aus, dass OpenAI oder Google Gemini Cache-Lesevorgänge auf dieselbe Weise von Tokenlimits ausnehmen, sofern deren Dokumentation dies nicht ausdrücklich sagt.)
Auch unterhalb von ITPM und OTPM können starke Lastspitzen Anthropics Anstiegslimits auslösen. Bereits ein nur wenige Sekunden dauernder Schub kann als starker Anstieg gelten. Anthropic berechnet das Anstiegslimit aus der höchsten jüngsten Nutzung dieses Modells pro Minute in Ihrer Organisation plus einem festen Schritt. Pro Minute können Sie einen Schritt über den jüngsten Spitzenwert steigen, bis das volle Limit Ihrer Stufe erreicht ist. Selbst nach Ruhephasen fällt die erlaubte Menge nie unter einen festgelegten Ausgangswert.
| Stufe | Modell | RPM | ITPM | OTPM |
|---|---|---|---|---|
| Start | Claude Opus 5.5 | 4,000 | 2,000,000 | 400,000 |
| Start | Claude Sonnet 5.5 | 4,000 | 2,000,000 | 400,000 |
| Build | Claude Opus 5.5 | 10,000 | 5,000,000 | 1,000,000 |
| Build | Claude Sonnet 5.5 | 10,000 | 5,000,000 | 1,000,000 |
| Scale | Claude Opus 5.5 | 13,000 | 10,000,000 | 2,000,000 |
| Scale | Claude Sonnet 5.5 | 13,000 | 10,000,000 | 2,000,000 |
Beispielhafte Stufenlimits der Anthropic Messages API am 17. November 2026 gemäß Anthropics Ratenlimitdokumentation. Prüfen Sie Ihre Konsole und die vollständige offizielle Tabelle auf weitere Modellklassen und kontospezifische Grenzen.
Google-Gemini-API-Ratenlimits und Ausgabenobergrenzen
Ratenlimits der Google Gemini API gelten pro Projekt statt pro API-Schlüssel und erfassen typischerweise RPM, Eingabe-TPM und RPD. Tägliche RPD-Kontingente werden um Mitternacht pazifischer Zeit zurückgesetzt. Google weist darauf hin, dass veröffentlichte Ratenlimits je nach Modell und Stufe variieren, bei experimentellen und Vorschau-Modellen strenger sind und nicht garantiert werden. Prüfen Sie deshalb die aktuellen Werte Ihres Modells direkt in Google AI Studio, statt sich auf statische Schätzungen zu verlassen.
Gemini setzt auch modell- und toolspezifische Kontingente durch. Bildgenerierende Modelle können IPM-Limits haben, bestimmte Modelle auch TPD-Limits; integrierte Tools haben eigene Grenzen: Stand 17. November 2026 beträgt der Standardwert für Grounding with Google Search bei Gemini 3 und neueren Modellen in der Gemini Developer API 1,500 RPD pro Projekt.
Neben Anfrage- und Tokenlimits wendet Google abhängig von Abrechnungsverlauf und Stufe ausgabenbasierte Ratenlimits über ein gleitendes 10-Minuten-Fenster an:
| Nutzungsstufe | Ausgabenlimit (pro 10 Minuten) |
|---|---|
| Free | N/A |
| Tier 1 | $10 |
| Tier 2 | $50 |
| Tier 3 | $200 |
Gleitende 10-Minuten-Ausgabenlimits der Google Gemini API am 17. November 2026 gemäß Googles Ratenlimitdokumentation.
Beim Erreichen eines ausgabenbasierten Gemini-Limits wird 429 RESOURCE_EXHAUSTED zurückgegeben. Google empfiehlt, kurz zu pausieren und es erneut zu versuchen, teure Aufrufe durch kleinere Kontextfenster oder kürzere Ausgaben zu verlangsamen und eine Limiterhöhung zu beantragen, wenn normaler Produktionsverkehr die Grenze regelmäßig erreicht.
Was bedeutet ein 429-Fehler und wie wiederholen Sie Anfragen sicher?
Eine HTTP-429-Antwort bedeutet, dass ein Aufruf ein API-Kontingent, einen Ratenschwellenwert oder eine Abrechnungsgrenze überschritten hat. Allerdings sollte nicht jeder 429 wiederholt werden. Das OpenAI Help Center warnt ausdrücklich, dass ein 429 ein vorübergehendes Ratenlimit, ein aufgebrauchtes Prepaid-Guthaben, ein konfiguriertes hartes Ausgabenlimit oder ein monatliches Nutzungslimit anzeigen kann. Wiederholungen bei einem abrechnungs- oder ausgabenbedingten 429 verbrauchen lediglich Versuche; zur Behebung müssen Abrechnung oder Limits angepasst werden.
429-Ratenfehler von 503-Überlastung unterscheiden
Anbieter unterscheiden Spitzen der Anfragerate und vorübergehende Serverkapazitätsprobleme durch spezifische Fehlerdaten. In der OpenAI-API zeigt 429 zusammen mit rate_limit_error und slow_down, dass Ihre Anfragerate zu schnell gestiegen ist; das kann selbst innerhalb der RPM- und TPM-Grenzen passieren. 503 zusammen mit service_unavailable_error und server_is_overloaded bedeutet dagegen, dass das Zielmodell vorübergehend überlastet ist. Bei Anthropic geben 429-Fehler das ausgelöste Limit an, während Gemini-Ausgabenlimits 429 RESOURCE_EXHAUSTED zurückgeben.
Lastspitzen, max_tokens und Wiederholungsmechanismen
Kurze Lastspitzen lösen häufig Ratenlimits aus, weil Anbieter Obergrenzen über Intervalle unter einer Minute durchsetzen: OpenAI weist darauf hin, dass ein Limit von 60 RPM auch über Fenster von 1 Sekunde geprüft werden kann. Ausgabebudgets sind ebenfalls wichtig, weil OpenAIs Ratenlimitberechnung das Maximum aus max_tokens und einer Schätzung anhand der Zeichenzahl verwenden kann. Wenn Sie max_tokens nahe an der erwarteten Antwortlänge festlegen, verhindern Sie künstlich aufgeblähte Tokenreservierungen.
Gehen Sie bei einem wiederholbaren 429 oder 503 wie folgt vor:
- Prüfen Sie zuerst den Fehlercode, damit Sie Fehler wegen Prepaid-Guthaben, Nutzungslimit oder hartem Ausgabenlimit nie erneut versuchen.
- Beachten Sie
Retry-Afteroderretry-after, sofern vorhanden, und warten Sie vor dem nächsten Versuch mindestens die angegebene Sekundenzahl. - Nutzen Sie exponentielles Backoff mit Jitter, wenn kein Header vorliegt: Erhöhen Sie die Wartezeit nach jedem Fehlschlag, ergänzen Sie eine kleine zufällige Verzögerung gegen Kollisionen von Workern und begrenzen Sie die Gesamtzahl der Versuche.
- Berücksichtigen Sie Wiederholungen offizieller SDKs, indem Sie eingebaute SDK-Wiederholungsschleifen deaktivieren oder koordinieren, wenn Sie eigene Wiederholungslogik ergänzen. So verhindern Sie vervielfachte Anfragestürme.
- Glätten Sie die clientseitige Parallelität, indem Sie Aufgaben in der Warteschlange über die ganze Minute verteilen, statt das Kontingent einer Minute in einer Sekunde abzuschicken.
Wann umgeht eine Batch API die Live-Limits für RPM und TPM?
Eine asynchrone Batch API umgeht synchrone Live-Budgets für RPM und TPM, indem sie nicht interaktive Aufgaben zur Offline-Verarbeitung in eine Warteschlange stellt, statt sofortige Antworten zu verlangen. Mit OpenAIs Batch API können Sie große Anfragepakete einreichen, ohne synchrone Ratenlimits zu verbrauchen. Der Batch-Durchsatz richtet sich stattdessen nach der Gesamtzahl der eingereihten Eingabetoken pro Modell: Ausstehende Batch-Aufgaben zählen zum Warteschlangenlimit, abgeschlossene fallen heraus. Googles Preisdokumentation für die kostenpflichtige Gemini Developer API führt ebenfalls einen Batch-API-Weg mit 50% Kostenreduktion auf (prüfen Sie Googles offizielle Dokumentation für die aktuellen Gemini-Batch-Mechanismen).
Verwechseln Sie eine Batch API nicht damit, mehrere Aufgaben in einen synchronen Live-Prompt zu packen. OpenAI weist darauf hin, dass das Zusammenfassen mehrerer kleiner Aufgaben in einer synchronen Anfrage mehr Token pro Minute verarbeiten kann, wenn Sie RPM erreichen und noch TPM-Spielraum haben, besonders bei kleineren Modellen. Solche gebündelten synchronen Aufrufe verbrauchen jedoch weiterhin Ihr Live-TPM-Budget und unterliegen den Regeln für Lastspitzen und max_tokens. Weitere Strategien zur Abstimmung von Modellgröße und Batching auf den Workload finden Sie in unserem Leitfaden zum Senken von KI-API-Kosten. Wenn das organische Produktionsvolumen Ihre Stufe übersteigt, beantragen Sie über die offizielle Konsole des Anbieters eine formelle Limiterhöhung, statt Kontokontrollen zu umgehen.
FAQ
Warum erhalte ich einen 429-Fehler unterhalb meiner RPM- und TPM-Limits?
Mehrere Mechanismen können einen 429 auslösen, selbst wenn Ihr Minutendurchschnitt unbedenklich aussieht. Anbieter setzen kurze Lastspitzenfenster durch (etwa Prüfungen über 1 Sekunde bei einem Limit von 60 RPM), Anstiegslimits bei plötzlichen Verkehrsspitzen wie Anthropics Anstiegsregel oder OpenAIs slow_down, gemeinsame Familienpools, gleitende 10-Minuten-Ausgabenlimits bei Gemini oder Grenzen für aufgebrauchtes Prepaid-Guthaben und Ausgaben.
Sollte ich jeden 429-Fehler einer KI-API erneut versuchen?
Nein, prüfen Sie vor jeder Wiederholung einer 429-Antwort die Fehlerdaten. Vorübergehende Ratenlimit-429 und 503-Überlastungsfehler lassen sich sicher wiederholen, nachdem Sie Retry-After beachtet oder exponentielles Backoff mit Jitter angewendet haben. Fehler durch aufgebrauchtes Prepaid-Guthaben, monatliche Nutzungslimits oder konfigurierte harte Ausgabenlimits erfordern eine Änderung der Abrechnung oder Limits und schlagen bei Wiederholung weiterhin fehl.
Zählen Prompt-Cache-Lesevorgänge zu Anthropics ITPM-Limits?
Nein, Anthropics Cache-berücksichtigende ITPM-Berechnung nimmt cache_read_input_tokens aus Ihrem Kontingent für Eingabetoken pro Minute aus. Nur nicht gecachte input_tokens nach dem letzten Cache-Breakpoint und cache_creation_input_tokens zählen zu ITPM. Da Anthropic ITPM beim Anfragestart schätzt und während des Aufrufs anpasst, erhalten Workloads mit hohen Cache-Trefferraten zusätzlichen Eingabespielraum.
Werden KI-API-Ratenlimits zwischen API-Schlüsseln geteilt?
Ja, zusätzliche API-Schlüssel innerhalb derselben Organisation oder desselben Projekts schaffen keine separaten Ratenlimitkontingente. OpenAI definiert Ratenlimits auf Organisations- und Projektebene statt auf Nutzerebene; Google Gemini wendet Limits ausdrücklich pro Projekt statt pro API-Schlüssel an. Alle Schlüssel innerhalb dieses Bereichs teilen sich dasselbe Kontingent.
Wie wirkt sich die Einstellung von max_tokens auf OpenAI-Ratenlimits aus?
OpenAI weist darauf hin, dass seine Ratenlimitberechnung das Maximum aus Ihrer max_tokens-Einstellung und einer Schätzung anhand der Zeichenzahl verwenden kann. Wenn Sie max_tokens weit über der tatsächlich erwarteten Antwort festlegen, erhöht das die gegen Ihr TPM-Limit reservierten Token und die Wahrscheinlichkeit von Tokenratenfehlern. Ein realistischer Wert für max_tokens schützt den Live-Durchsatz.



