AIガイド · 16分で読めます

AI APIのレート制限とは?RPM、TPM、429エラー、バッチ処理を解説

AI APIのレート制限は、1分あたりのリクエスト数とトークン数に上限を設けます。RPMとTPMの違い、各プロバイダーの利用階層と割り当て、429エラーの意味、安全な再試行の方法、バッチAPIを使う場面を具体例とともに詳しく解説します。運用時に確認したい制限も紹介します。

琥珀色に光る球体がスレート色の計測ゲートを通り、曲がった側路が球体の集まりを貯留槽へ運ぶ様子を描いたアイソメトリックなイラスト

AI APIのレート制限は、組織またはプロジェクトが一定の時間枠内に送信できるリクエスト数(RPM)とトークン数(TPM)に上限を設け、いずれか1つの閾値を超えるとHTTP 429エラーを返します。 プロバイダーは不正利用を防ぎ、公平なアクセスを維持し、共有モデル基盤を保護するためにこれらの割り当てを適用するとともに、オフラインのワークロード向けにバッチエンドポイントを提供しています。

LotookでAPI連携を設計してきた私の経験では、チームが月間支出を追跡する一方、1分あたりのスループットや短いバーストの時間枠を見落とすと、本番環境で予想外の問題が起きがちです。プロバイダーは呼び出しごとに複数の独立したカウンターを評価するため、トラフィックが増える前に各指標を理解しておくと、バックグラウンドジョブやユーザー向け機能を安定させられます。

AI APIのRPM、TPM、RPDとは?

AI APIのレート制限は、1分あたりのリクエスト数(RPM)、1分あたりのトークン数(TPM)、1日あたりのリクエスト数(RPD)やトークン数(TPD)などの日次割り当てを含む、複数の並行する指標でトラフィックを測定します。エンドポイントによっては、1分あたりの画像数(IPM)や、ストリーミング音声モデルにおける1分あたりの音声の分数といった単位の上限も設けられます。

プロバイダーがテキスト量をどう数えるか初めて学ぶ方は、AIのトークンとは何かを解説したガイドをご覧ください。入力と出力を合わせたTPMを追跡するベンダーもあれば、トークンの予算を1分あたりの入力トークン数(ITPM)と出力トークン数(OTPM)に分けるベンダーもあります。

運用上最も重要なのは、他のすべての指標に十分な余裕があっても、適用される上限を1つでも超えるとレート制限エラーが発生するというルールです。OpenAIのドキュメントには単純な例があります。1分間に小さなリクエストを20件送ると、TPMの予算がほぼ未使用でも20 RPMの上限を使い切ります。逆に、出力枠を大きく取った非常に長いプロンプトを数件送ると、RPMの上限に近づくずっと前にTPMを使い切ることがあります。

OpenAIのレート制限と利用階層の仕組みは?

OpenAIは個々のユーザー単位ではなく、組織とプロジェクトの単位でレート制限を適用し、その値はモデルと利用階層によって異なります。2026年11月17日時点のOpenAIのレート制限ドキュメントによると、一部のモデルファミリーは共通の上限を共有します。例えば共有TPMが3.5百万の場合、共有グループ内のすべてのモデルへの呼び出しが同じ3.5百万の枠に算入されます。

ワークロードによっては別の枠もあります。長いコンテキストを扱うモデル(OpenAIのドキュメントにあるGPT-5.5など)には、開発者コンソールで長文コンテキストのリクエスト専用のレート制限が設けられる場合があります。ベクトルストアへの取り込みは、ベクトルストアIDごとに300 RPMが上限で、/vector_stores/{vector_store_id}/filesと/.../file_batchesで共有されます。そのためOpenAIは、大量の取り込みにfile_batchesを推奨しています。

OpenAIは、クレジット購入総額が各閾値を超えると組織を自動的に有料階層へ割り当て、より高いレート制限と承認済み月間利用上限を利用できるようにします。承認済み月間利用上限は、自分で任意に設定する支出上限とは別のものです。また、モデルがレート制限表に載っていても、組織やキーにそのモデルへのアクセス権があるとは限りません。プロバイダー間の費用を広く把握するには、AI APIの料金比較をご覧ください。

階層 条件 利用上限
Free ユーザーが許可された地域にいること $100 / 月
Build クレジット購入総額が$5 $500 / 月
Launch クレジット購入総額が$100 $5,000 / 月
Grow クレジット購入総額が$500 $200,000 / 月

OpenAIのレート制限ガイドに基づく、2026年11月17日時点の利用階層と月間利用上限。

これらの有料階層について、OpenAIはAstra、Sol、Terra、LunaなどのモデルのStandardレート制限を公開しています。これらのStandard値はUltrafastのレート制限とは異なり、OpenAIはSettings > Organization > Limitsで現在の値を確認するよう勧めています。

階層 モデル RPM TPM
Build Astra, Sol, Terra 5,000 1,000,000
Build Luna 5,000 2,000,000
Launch Astra, Sol, Terra 10,000 4,000,000
Launch Luna 10,000 10,000,000
Grow Astra, Sol, Terra 15,000 40,000,000
Grow Luna 30,000 180,000,000

OpenAIの開発者向けドキュメントに基づく、2026年11月17日時点の公開済みStandardレート制限。

Anthropic Claudeのレート制限、キャッシュ、急増制限

AnthropicはMessages APIのレート制限をモデルクラスごとにRPM、ITPM、OTPMで測定し、トラフィックが閾値を超えると、超過した制限を示す429レスポンスを返します。レスポンスにretry-afterヘッダーが含まれる場合、Anthropicのドキュメントは、再試行前に少なくとも指定された秒数だけ待つよう求めています。

Anthropicはキャッシュを考慮したITPMの計算も採用しており、プロンプトキャッシュがスループットに与える影響が変わります。デフォルトのITPMでは、最後のキャッシュブレークポイントより後のinput_tokensとcache_creation_input_tokensだけがカウントされます。重要な点として、cache_read_input_tokensはITPMに算入されません。Anthropicは各リクエストの開始時にITPMを見積もり、実行中にカウントを調整するため、キャッシュを多用するワークロードでは実効的な入力容量が大幅に増えます。(OpenAIやGoogle Geminiも同様にキャッシュ読み取りをトークン制限から除外すると、それぞれのドキュメントに明記されていない限り決めつけないでください。)

ITPMとOTPMを下回っていても、トラフィックの急増によってAnthropicの急増制限が発動することがあります。わずか数秒のバーストでも急激な増加と見なされる場合があります。Anthropicは、そのモデルについて組織が最近記録した1分あたりの最大使用量に固定の増分を加えて急増制限を計算します。各分で直近のピークから1段階ずつ増やせ、階層の上限全体に到達できます。また、許容量はアイドル期間の後でも所定の最低開始値を下回りません。

階層 モデル RPM ITPM OTPM
Start Claude Opus 5.5 4,000 2,000,000 400,000
Start Claude Sonnet 5.5 4,000 2,000,000 400,000
Build Claude Opus 5.5 10,000 5,000,000 1,000,000
Build Claude Sonnet 5.5 10,000 5,000,000 1,000,000
Scale Claude Opus 5.5 13,000 10,000,000 2,000,000
Scale Claude Sonnet 5.5 13,000 10,000,000 2,000,000

Anthropicのレート制限ドキュメントに基づく、2026年11月17日時点のAnthropic Messages APIの代表的な階層別上限。その他のモデルクラスやアカウント固有の上限は、コンソールと公式の完全な表で確認してください。

Google Gemini APIのレート制限と支出上限

Google Gemini APIのレート制限はAPIキーごとではなくプロジェクトごとに適用され、通常はRPM、入力TPM、RPDを追跡します。日次RPD割り当ては太平洋時間の午前0時にリセットされます。Googleによると、公開レート制限はモデルと階層によって異なり、実験版やプレビューモデルではより厳しく、保証もされません。そのため、固定的な推定値に頼らず、Google AI Studioで使用中のモデルの値を直接確認してください。

Geminiはモデル固有およびツール固有の割り当ても適用します。画像生成モデルにはIPM制限があり、TPD制限を持つモデルもあります。組み込みツールにも独自の上限があり、2026年11月17日時点でGemini 3以降のモデルにおけるGrounding with Google Searchのデフォルトは、Gemini Developer APIのプロジェクトあたり1,500 RPDです。

リクエスト数とトークン数の上限に加え、Googleは課金履歴と階層に応じて、直近の10分間を移動窓として評価する支出ベースのレート制限を適用します。

利用階層 支出レート制限(10分あたり)
Free N/A
Tier 1 $10
Tier 2 $50
Tier 3 $200

Googleのレート制限ドキュメントに基づく、2026年11月17日時点のGoogle Gemini APIの移動する10分間の支出上限。

Geminiの支出ベースの上限に達すると、429 RESOURCE_EXHAUSTEDが返されます。Googleは、短時間待ってから再試行し、コンテキストウィンドウを小さくするか出力を短くして高コストの呼び出しのペースを落とし、通常の本番トラフィックが継続的に上限に達する場合は上限引き上げを申請するよう案内しています。

429エラーの意味と安全な再試行方法は?

HTTP 429レスポンスは、呼び出し元がAPIの割り当て、レートの閾値、または課金上限を超えたことを意味しますが、すべての429を再試行すべきではありません。OpenAIのヘルプセンターは、429が一時的なレート制限、使い切った前払い残高、設定済みの厳格な支出上限、または月間利用上限を示す場合があると明確に警告しています。課金や厳格な支出上限による429を再試行しても試行回数を消費するだけで、解決には課金または上限の調整が必要です。

429のレートエラーと503の過負荷を区別する

プロバイダーは特定のエラー内容を使い、トラフィック率の急増と一時的なサーバー容量の問題を区別します。OpenAIのAPIで429がrate_limit_errorおよびslow_downとともに返される場合、リクエスト率が急激に増えすぎたことを示します。これはRPMとTPMの範囲内でも起こり得ます。一方、503がservice_unavailable_errorおよびserver_is_overloadedとともに返される場合、対象モデルが一時的に過負荷であることを意味します。Anthropicの429エラーは発動した上限を示し、Geminiの支出上限は429 RESOURCE_EXHAUSTEDを返します。

バースト、max_tokens、再試行の仕組み

プロバイダーは1分未満の間隔でも上限を適用するため、短いバーストでレート制限が発動することはよくあります。OpenAIによると、60 RPMの制限が1秒の時間枠でもチェックされる場合があります。OpenAIのレート制限の計算ではmax_tokensと文字数に基づく推定値の大きい方が使われることがあるため、出力予算も重要です。max_tokensを想定される応答サイズに近く設定すると、予約トークン数が不必要に膨らむのを防げます。

再試行可能な429または503が発生したら、次の手順に従ってください。

  1. 最初にエラーコードを確認することで、前払い残高、利用上限、厳格な支出上限のエラーを再試行しないようにします。
  2. Retry-Afterまたはretry-afterがあれば従い、次の試行まで少なくとも指定された秒数だけ待ちます。
  3. ヘッダーがない場合はジッター付き指数バックオフを使い、失敗するたびに待ち時間を増やし、ワーカーの衝突を防ぐために小さなランダム遅延を加え、総試行回数に上限を設けます。
  4. 公式SDKの再試行を考慮し、独自の再試行ロジックを追加する場合はSDK内蔵の再試行ループを無効化または調整して、リクエストの殺到が倍増するのを防ぎます。
  5. クライアント側の同時実行を平準化し、1分分の割り当てを1秒で送るのではなく、待機中のジョブを1分全体に分散します。

Batch APIはいつリアルタイムのRPM・TPM制限を回避できる?

非同期のBatch APIは、即時のレスポンスを求めず、非対話型ジョブをオフライン処理のキューに入れることで、リアルタイムの同期RPM・TPM予算を回避します。OpenAIのBatch APIでは、同期レート制限を消費せずに大量のリクエストを送信できます。バッチのスループットは代わりにモデルごとのキュー内入力トークン総数で管理され、保留中のバッチジョブはキュー上限に算入され、完了したジョブは除外されます。Googleの有料Gemini Developer APIの料金ドキュメントにも、コストを50%削減するBatch APIの方法が掲載されています(現在のGeminiのバッチ処理の仕組みはGoogleの公式ドキュメントを確認してください)。

Batch APIと、複数のタスクを1つのリアルタイムの同期プロンプトにまとめることを混同しないでください。OpenAIによると、TPMに余裕がある状態でRPMに達した場合、複数の小さなタスクを1つの同期リクエストにまとめると、特に小型モデルでは1分あたりに処理できるトークン数を増やせます。ただし、まとめた同期呼び出しもリアルタイムのTPM予算を消費し、バーストとmax_tokensのルールが引き続き適用されます。モデルサイズやバッチ処理をワークロードに合わせる幅広い戦略については、AI APIのコスト削減のガイドをご覧ください。自然な本番トラフィック量が階層の上限を超えたら、アカウントの管理を回避しようとせず、プロバイダーの公式コンソールから正式に上限引き上げを申請してください。

FAQ

RPMとTPMの上限を下回っているのに429エラーが出るのはなぜ?

1分あたりの平均が安全に見えても、複数の仕組みによって429が発生します。プロバイダーは短いバースト時間枠(60 RPMの制限に対する1秒単位のチェックなど)、Anthropicの急増ルールやOpenAIのslow_downのような突然のトラフィック増加に対する制限、ファミリー共有枠、Geminiの移動する10分間の支出上限、または使い切った前払い残高や支出上限を適用します。

AI APIの429エラーはすべて再試行すべき?

いいえ。429レスポンスを再試行する前に、エラーの内容を確認してください。一時的なレート制限による429と過負荷による503エラーは、Retry-Afterに従うかジッター付き指数バックオフを適用した後なら安全に再試行できます。前払いクレジットの枯渇、月間利用上限、設定済みの厳格な支出上限によるエラーは課金または上限の更新が必要で、再試行しても失敗し続けます。

プロンプトキャッシュの読み取りはAnthropicのITPM制限に算入される?

いいえ。Anthropicのキャッシュを考慮したITPM計算では、cache_read_input_tokensは1分あたりの入力トークンの割り当てから除外されます。ITPMに算入されるのは、最後のキャッシュブレークポイントより後のキャッシュされていないinput_tokensとcache_creation_input_tokensだけです。Anthropicはリクエスト開始時にITPMを見積もり、呼び出し中に調整するため、キャッシュヒット率の高いワークロードでは入力に追加の余裕が生まれます。

AI APIのレート制限はAPIキー間で共有される?

はい。同じ組織やプロジェクト内にAPIキーを追加しても、別々のレート制限枠は得られません。OpenAIはユーザー単位ではなく組織とプロジェクトの単位でレート制限を定義し、Google GeminiはAPIキー単位ではなくプロジェクト単位で制限を適用すると明示しています。その範囲内のすべてのキーが同じ割り当てを共有します。

max_tokensの設定はOpenAIのレート制限にどう影響する?

OpenAIによると、レート制限の計算には、設定したmax_tokensと文字数から導いた推定値の大きい方が使われる場合があります。max_tokensを実際に想定する応答よりはるかに高く設定すると、TPM上限に対して予約されるトークン数が膨らみ、トークンレートエラーの可能性が高まります。max_tokensを現実的な値に保つと、リアルタイムのスループットを守れます。

出典

執筆

Chunyu Cai

Chunyu CaiはLotook, LLCの最高経営責任者(CEO)であり、起業家です。AIモデルやエージェント、そしてそれらが日々の仕事をどう変えるかについて執筆しています。Chunyu CaiはImperial College Londonで修士号を取得しています。