I limiti di frequenza delle API di IA stabiliscono quante richieste (RPM) e quanti token (TPM) un’organizzazione o un progetto può inviare in un intervallo di tempo fisso; quando viene superata anche una sola soglia, viene restituito un errore HTTP 429. I fornitori applicano queste quote per prevenire gli abusi, garantire un accesso equo e proteggere l’infrastruttura condivisa dei modelli, offrendo al contempo endpoint batch per i carichi di lavoro offline.
Nel mio lavoro di progettazione delle integrazioni API in Lotook, la maggior parte delle sorprese in produzione si verifica quando i team monitorano la spesa mensile ma ignorano la capacità di elaborazione al minuto e i brevi intervalli di picco. Poiché i fornitori valutano diversi contatori indipendenti a ogni chiamata, comprendere ogni dimensione prima che il traffico aumenti permette di mantenere stabili i processi in background e le funzionalità rivolte agli utenti.
Cosa significano RPM, TPM e RPD nelle API di IA?
I limiti di frequenza delle API di IA misurano il traffico su più dimensioni parallele, tra cui richieste al minuto (RPM), token al minuto (TPM) e quote giornaliere come richieste al giorno (RPD) o token al giorno (TPD). A seconda dell’endpoint, i fornitori possono imporre anche limiti su unità come immagini al minuto (IPM) o minuti di audio al minuto nei modelli audio in streaming.
Se non conosci ancora bene il modo in cui i fornitori contano il volume di testo, consulta la nostra guida su cosa sia un token nell’IA. Alcuni fornitori monitorano i TPM combinati, mentre altri dividono il budget di token tra token di input al minuto (ITPM) e token di output al minuto (OTPM).
La regola operativa più importante è che il superamento di un solo limite applicabile provoca un errore di limite di frequenza, anche quando tutte le altre metriche hanno ancora molto margine. La documentazione OpenAI lo illustra con un esempio semplice: inviare 20 piccole richieste in un minuto esaurisce un limite di 20 RPM anche se il budget TPM rimane quasi inutilizzato. Viceversa, pochi prompt molto grandi con ampie allocazioni di output possono esaurire i TPM ben prima di avvicinarsi al limite RPM.
Come funzionano i limiti di frequenza e i livelli di utilizzo di OpenAI?
OpenAI applica i limiti di frequenza a livello di organizzazione e progetto, non di singolo utente; tali limiti variano in base al modello e al livello di utilizzo. Al 17 novembre 2026, la documentazione OpenAI indica che alcune famiglie di modelli condividono un limite combinato: per esempio, se i TPM condivisi sono 3.5 milioni, le chiamate a ogni modello del gruppo vengono conteggiate nello stesso insieme di 3.5 milioni.
Alcuni carichi di lavoro hanno inoltre quote separate. I modelli a contesto lungo (come GPT-5.5 nella documentazione OpenAI) possono avere nella console per sviluppatori un limite dedicato alle richieste con contesto lungo. L’acquisizione in un archivio vettoriale è limitata a 300 RPM per ID dell’archivio, condivisi tra /vector_stores/{vector_store_id}/files e /.../file_batches; per questo OpenAI consiglia file_batches per acquisizioni più grandi.
OpenAI assegna automaticamente le organizzazioni ai livelli a pagamento quando gli acquisti complessivi di crediti superano ciascuna soglia, sbloccando limiti di frequenza e limiti mensili di utilizzo approvati più elevati. Un limite mensile di utilizzo approvato è distinto da qualsiasi limite di spesa facoltativo impostato dall’utente; inoltre, la presenza di un modello in una tabella dei limiti non conferma che l’organizzazione o la chiave vi abbia accesso. Per un quadro più ampio dei costi tra fornitori, consulta il nostro confronto dei prezzi delle API di IA.
| Livello | Requisito | Limiti di utilizzo |
|---|---|---|
| Free | L’utente deve trovarsi in un’area geografica consentita | $100 / mese |
| Build | $5 di acquisti complessivi di crediti | $500 / mese |
| Launch | $100 di acquisti complessivi di crediti | $5,000 / mese |
| Grow | $500 di acquisti complessivi di crediti | $200,000 / mese |
Livelli e limiti mensili di utilizzo OpenAI al 17 novembre 2026, secondo la guida OpenAI ai limiti di frequenza.
Per questi livelli a pagamento, OpenAI pubblica limiti di frequenza Standard per modelli come Astra, Sol, Terra e Luna. Questi valori Standard differiscono dai limiti Ultrafast e OpenAI consiglia di verificare i valori attuali in Settings > Organization > Limits.
| Livello | Modello | RPM | TPM |
|---|---|---|---|
| Build | Astra, Sol, Terra | 5,000 | 1,000,000 |
| Build | Luna | 5,000 | 2,000,000 |
| Launch | Astra, Sol, Terra | 10,000 | 4,000,000 |
| Launch | Luna | 10,000 | 10,000,000 |
| Grow | Astra, Sol, Terra | 15,000 | 40,000,000 |
| Grow | Luna | 30,000 | 180,000,000 |
Limiti di frequenza Standard pubblicati da OpenAI al 17 novembre 2026, secondo la documentazione per sviluppatori OpenAI.
Limiti di frequenza, caching e limiti di aumento di Anthropic Claude
Anthropic misura i limiti di frequenza della Messages API in RPM, ITPM e OTPM per ogni classe di modello; quando il traffico supera una soglia, restituisce una risposta 429 che indica il limite superato. Se la risposta include un’intestazione retry-after, la documentazione Anthropic invita chi effettua la chiamata ad attendere almeno il numero di secondi indicato prima di riprovare.
Anthropic usa anche un conteggio ITPM che tiene conto della cache, modificando l’effetto del caching dei prompt sulla capacità di elaborazione. Per impostazione predefinita, gli ITPM contano solo gli input_tokens successivi all’ultimo punto di interruzione della cache più i cache_creation_input_tokens. È fondamentale che i cache_read_input_tokens non vengano conteggiati negli ITPM. Anthropic stima gli ITPM all’inizio di ogni richiesta e adegua il conteggio durante l’esecuzione, offrendo ai carichi che usano molto la cache una capacità di input effettiva notevolmente maggiore. (Non presumere che OpenAI o Google Gemini escludano allo stesso modo le letture dalla cache dai limiti di token, a meno che la rispettiva documentazione non lo dichiari esplicitamente.)
Anche rimanendo sotto ITPM e OTPM, bruschi picchi di traffico possono attivare i limiti di aumento di Anthropic. Un picco di pochi secondi può essere considerato un forte incremento. Anthropic calcola il limite di aumento sommando un incremento fisso al massimo utilizzo recente al minuto di quel modello da parte dell’organizzazione. Ogni minuto è possibile salire di un passo sopra il picco recente fino a raggiungere il limite completo del livello; la quota consentita non scende mai sotto una soglia iniziale minima, neanche dopo periodi di inattività.
| Livello | Modello | RPM | ITPM | OTPM |
|---|---|---|---|---|
| Start | Claude Opus 5.5 | 4,000 | 2,000,000 | 400,000 |
| Start | Claude Sonnet 5.5 | 4,000 | 2,000,000 | 400,000 |
| Build | Claude Opus 5.5 | 10,000 | 5,000,000 | 1,000,000 |
| Build | Claude Sonnet 5.5 | 10,000 | 5,000,000 | 1,000,000 |
| Scale | Claude Opus 5.5 | 13,000 | 10,000,000 | 2,000,000 |
| Scale | Claude Sonnet 5.5 | 13,000 | 10,000,000 | 2,000,000 |
Esempi di limiti per livello della Anthropic Messages API al 17 novembre 2026, secondo la documentazione Anthropic. Consulta la console e la tabella ufficiale completa per altre classi di modelli e limiti specifici dell’account.
Limiti di frequenza e tetti di spesa della Google Gemini API
I limiti di frequenza della Google Gemini API si applicano per progetto anziché per chiave API e di norma monitorano RPM, TPM di input e RPD. Le quote giornaliere RPD si azzerano a mezzanotte, ora del Pacifico. Google precisa che i limiti pubblicati variano per modello e livello, sono più restrittivi per i modelli sperimentali e in anteprima e non sono garantiti. È quindi opportuno verificare direttamente in Google AI Studio i valori attivi del proprio modello, anziché affidarsi a stime statiche.
Gemini applica anche quote specifiche per modello e strumento. I modelli che generano immagini possono avere limiti IPM e alcuni modelli includono limiti TPD, mentre gli strumenti integrati hanno tetti propri: al 17 novembre 2026, Grounding with Google Search su Gemini 3 e modelli successivi ha un valore predefinito di 1,500 RPD per progetto sulla Gemini Developer API.
Oltre ai limiti di richieste e token, Google applica limiti di frequenza basati sulla spesa, valutati su una finestra mobile di 10 minuti in base alla cronologia di fatturazione e al livello:
| Livello di utilizzo | Limite di spesa (per 10 minuti) |
|---|---|
| Free | N/A |
| Tier 1 | $10 |
| Tier 2 | $50 |
| Tier 3 | $200 |
Limiti di spesa mobili di 10 minuti della Google Gemini API al 17 novembre 2026, secondo la documentazione Google.
Il raggiungimento di un limite di spesa Gemini restituisce 429 RESOURCE_EXHAUSTED. Google consiglia di fare una pausa e riprovare dopo un breve intervallo, ridurre il ritmo delle chiamate costose usando finestre di contesto più piccole o output più brevi e richiedere un aumento del limite se il normale traffico di produzione raggiunge costantemente il tetto.
Cosa significa un errore 429 e come riprovare in sicurezza?
Una risposta HTTP 429 significa che chi effettua la chiamata ha superato una quota API, una soglia di frequenza o un tetto di fatturazione, ma non tutti i 429 vanno ritentati. Il centro assistenza OpenAI avverte esplicitamente che un 429 può indicare un limite di frequenza temporaneo, un saldo prepagato esaurito, un limite rigido di spesa configurato o un limite mensile di utilizzo. Riprovare un 429 dovuto a fatturazione o a un limite rigido di spesa consuma soltanto tentativi; per risolverlo occorre modificare la fatturazione o i limiti.
Distinguere gli errori di frequenza 429 dal sovraccarico 503
I fornitori usano contenuti di errore specifici per distinguere i picchi di frequenza del traffico dai problemi temporanei di capacità del server. Nell’API OpenAI, 429 insieme a rate_limit_error e slow_down indica che la frequenza delle richieste è aumentata troppo rapidamente, cosa che può accadere anche entro i limiti RPM e TPM. Invece, 503 insieme a service_unavailable_error e server_is_overloaded indica che il modello di destinazione è temporaneamente sovraccarico. In Anthropic gli errori 429 identificano il limite attivato, mentre i tetti di spesa Gemini restituiscono 429 RESOURCE_EXHAUSTED.
Picchi, max_tokens e meccanismi di ripetizione
I picchi brevi attivano spesso i limiti perché i fornitori applicano tetti su intervalli inferiori al minuto: OpenAI osserva che un limite di 60 RPM può essere verificato anche su finestre di 1 secondo. Anche i budget di output contano, poiché il calcolo del limite OpenAI può prendere il massimo tra max_tokens e una stima basata sul numero di caratteri. Impostare max_tokens vicino alla lunghezza prevista della risposta evita di gonfiare artificialmente le prenotazioni di token.
Quando si verifica un 429 o 503 che consente un nuovo tentativo, segui questi passaggi:
- Esamina prima il codice di errore, per non riprovare gli errori dovuti a saldo prepagato, limite di utilizzo o limite rigido di spesa.
- Rispetta
Retry-Afteroretry-afterquando presente, attendendo almeno i secondi indicati prima del tentativo successivo. - Usa un backoff esponenziale con jitter se non è presente un’intestazione: aumenta l’attesa dopo ogni errore, aggiungi un piccolo ritardo casuale per evitare collisioni tra worker e limita il numero totale di tentativi.
- Considera i tentativi degli SDK ufficiali, disattivando o coordinando i cicli di ripetizione integrati se aggiungi una logica personalizzata, per evitare tempeste di richieste moltiplicate.
- Distribuisci la concorrenza lato client scaglionando i processi in coda sull’intero minuto anziché inviare in un secondo la quota di un minuto.
Quando una Batch API evita i limiti RPM e TPM in tempo reale?
Una Batch API asincrona evita i budget RPM e TPM sincroni in tempo reale mettendo in coda i processi non interattivi per completarli offline, anziché richiedere risposte immediate. La Batch API di OpenAI permette di inviare grandi raccolte di richieste senza consumare i limiti di frequenza sincroni; la capacità batch è invece regolata dal totale dei token di input in coda per modello: i processi batch in attesa contano nel limite della coda, quelli completati ne escono. Anche la documentazione dei prezzi della Gemini Developer API a pagamento di Google elenca un percorso Batch API con una riduzione dei costi del 50% (consulta la documentazione ufficiale Google per il funzionamento attuale dei batch Gemini).
Non confondere una Batch API con il raggruppamento di più attività in un unico prompt sincrono in tempo reale. OpenAI osserva che, se raggiungi gli RPM mentre hai ancora margine TPM, combinare più attività piccole in una richiesta sincrona può elaborare più token al minuto, soprattutto sui modelli più piccoli. Le chiamate sincrone raggruppate consumano comunque il budget TPM in tempo reale e restano soggette alle regole sui picchi e su max_tokens. Per strategie più ampie su come adattare dimensione del modello e batch al carico di lavoro, consulta la guida su come ridurre i costi delle API di IA. Quando il volume organico di produzione supera il tuo livello, invia una richiesta formale di aumento tramite la console ufficiale del fornitore anziché cercare di aggirare i controlli dell’account.
FAQ
Perché ricevo un errore 429 sotto i miei limiti RPM e TPM?
Diversi meccanismi possono attivare un 429 anche quando la media al minuto sembra sicura. I fornitori applicano brevi finestre di picco (come controlli di 1 secondo su un limite di 60 RPM), limiti di aumento per picchi improvvisi come la regola di Anthropic o slow_down di OpenAI, gruppi condivisi per famiglia, limiti di spesa mobili di 10 minuti su Gemini oppure limiti legati a saldi prepagati esauriti e tetti di spesa.
Devo riprovare ogni errore 429 di un’API di IA?
No, esamina il contenuto dell’errore prima di riprovare qualsiasi risposta 429. I 429 dovuti a limiti temporanei e gli errori 503 di sovraccarico possono essere ritentati in sicurezza dopo aver rispettato Retry-After o applicato un backoff esponenziale con jitter. Gli errori causati da crediti prepagati esauriti, limiti mensili di utilizzo o limiti rigidi di spesa configurati richiedono una modifica della fatturazione o dei limiti e continueranno a fallire se ritentati.
Le letture dalla cache dei prompt contano nei limiti ITPM di Anthropic?
No, il calcolo ITPM di Anthropic che tiene conto della cache esclude i cache_read_input_tokens dalla quota di token di input al minuto. Solo gli input_tokens non memorizzati nella cache dopo l’ultimo punto di interruzione e i cache_creation_input_tokens contano negli ITPM. Poiché Anthropic stima gli ITPM all’inizio della richiesta e li adegua durante la chiamata, i carichi con alte percentuali di accesso riuscito alla cache ottengono ulteriore margine di input.
I limiti di frequenza delle API di IA sono condivisi tra chiavi API?
Sì, creare altre chiavi API nella stessa organizzazione o nello stesso progetto non fornisce quote separate. OpenAI definisce i limiti a livello di organizzazione e progetto anziché di utente, e Google Gemini li applica esplicitamente per progetto anziché per chiave API. Tutte le chiavi in tale ambito condividono la stessa quota.
In che modo max_tokens influisce sui limiti di frequenza OpenAI?
OpenAI osserva che il calcolo del limite può usare il massimo tra l’impostazione max_tokens e una stima ricavata dal numero di caratteri. Impostare max_tokens molto più in alto della risposta realmente prevista aumenta i token prenotati rispetto al limite TPM e la probabilità di errori di frequenza dei token. Mantenere max_tokens realistico protegge la capacità di elaborazione in tempo reale.



