Request Limits vs Token Limits: Which Flat-Rate LLM API Pricing Is Cheaper for Your Workload?
Short answer: a flat-rate OpenAI-compatible API either limits how many requests you send (a request quota) or how many tokens or dollars of compute you burn (a token or budget limit). Request quotas win when your prompts are big, as with coding agents, RAG and long chats, because a 30,000-token req
Kurze Antwort: Eine Flatrate-API mit OpenAI-Kompatibilität begrenzt entweder, wie viele Anfragen Sie senden (ein Anfragenlimit) oder wie viele Token bzw. wie viel Rechenbudget in Dollar Sie verbrauchen (ein Token- oder Budgetlimit). Anfragenlimits gewinnen, wenn Ihre Prompts groß sind, wie bei Coding Agents, RAG und langen Chats, denn eine Anfrage mit 30.000 Token kostet dasselbe wie eine mit 300 Token. Token- oder Budgetlimits gewinnen, wenn Ihre Aufrufe klein und häufig sind, oder wenn Sie nur sehr wenige Aufrufe tätigen.
APIClaw, das ich entwickle, ist vom Typ Anfragenlimit: 19 bis 129 Dollar pro Monat für 500 bis 8.000 Anfragen pro Tag, zurückgesetzt um 00:00 UTC, ohne Token-Abrechnung und mit einer kostenlosen Testphase von 50 Anfragen. Es passt für Entwickler und kleine Teams, die täglich große Prompts senden und eine feste Rechnung wollen. Wenn Sie nur wenige Aufrufe pro Woche machen, ist die einfache Token-Abrechnung günstiger.
Fast jeder Tarif fällt in eine dieser Kategorien:
Manche Tarife mischen Concurrency-Limits oder rollierende 5-Stunden-Fenster hinzu, aber die Kernfrage bleibt immer dieselbe: Welche Einheit zehrt an Ihrem Kontingent?
Preise geprüft im Oktober 2026 auf den jeweiligen Live-Preisseiten der Anbieter.
Eine gegenüberstellende Liste weiterer Gateways, die aktuell gehalten wird, finden Sie in diesem Vergleich von OpenAI-kompatiblen Gateways.
Nehmen wir Sonnet-Klassen-Preise von 2 Dollar pro Million Eingabetoken und 10 Dollar pro Million Ausgabetoken an.
Workload A, ein Coding Agent. Jeder Aufruf sendet etwa 20.000 Eingabetoken (Dateien, Verlauf, Tool-Ausgaben) und erhält 1.000 zurück. Das sind 0,04 Dollar plus 0,01 Dollar, also 0,05 Dollar pro Aufruf. Bei 500 Aufrufen täglich über 30 Tage kosten 15.000 Aufrufe tokenbasiert etwa 750 Dollar pro Monat. Bei einem Kontingent von 500 Anfragen pro Tag sind es 19 Dollar. Ein Rechenbudget-Tarif müsste für dieselbe Arbeit ein Budget im hunderte-Dollar-Bereich haben.
Workload B, ein winziger Klassifikator. Jeder Aufruf sendet 500 Eingabetoken und erhält 200 zurück: 0,001 Dollar plus 0,002 Dollar, also 0,003 Dollar pro Aufruf. Bei 300 Aufrufen pro Monat sind das etwa 0,90 Dollar. Jeder Flatrate-Tarif wäre hier verschwendetes Geld; zahlen Sie pro Token.
Workload C, hochvolumige kurze Aufrufe. 20.000 Aufrufe täglich mit je 400 Token. Tokenbasiert sind das etwa 0,002 Dollar pro Aufruf, also rund 1.200 Dollar pro Monat, und es sprengt jedes mir bekannte tägliche Anfragenkontingent. Hier passt ein Token-Budget-Tarif oder eine direkte Token-Abrechnung mit Volumenrabatten besser.
Die Faustregel: Teilen Sie die durchschnittlichen Token pro Aufruf durch die Aufrufe pro Tag. Große Prompts und moderate Aufrufzahlen sprechen für Anfragenlimits. Kleine Prompts und enorme Aufrufzahlen sprechen für Token-Preise.
Wenn Sie die Nutzung bereits loggen (das OpenAI SDK liefert bei jeder Antwort usage.prompt_tokens und usage.completion_tokens zurück), wandelt dieses Skript ein JSONL-Log in monatliche Kosten pro Modell um:
import json import math from collections import defaultdict # Per-million-token prices for the per-token comparison (edit to match your model). PRICE_IN = 2.00 PRICE_OUT = 10.00 # Request-quota tiers: (monthly price, requests per day) QUOTA_TIERS = [( 19, 500 ), ( 39, 1000 ), ( 59, 1500 ), ( 69, 3000 ), ( 89, 4000 ), ( 99, 6000 ), ( 129, 8000 )] def load ( path ): per_day = defaultdict ( lambda: { " calls ": 0, " in ": 0, " out ": 0 }) with open ( path ) as f: for line in f: row = json. loads ( line ) # {"date": "2026-10-25", "prompt_tokens": 1234, "completion_tokens": 321} d = per_day [ row [ " date " ]] d [ " calls " ] += 1 d [ " in " ] += row [ " prompt_tokens " ] d [ " out " ] += row [ " completion_tokens " ] return per_day def estimate ( path ): days = load ( path ) n = len ( days ) tok_in = sum ( d [ " in " ] for d in days. values ()) tok_out = sum ( d [ " out " ] for d in days. values ()) peak_calls = max ( d [ " calls " ] for d in days. values ()) per_token_month = ( tok_in * PRICE_IN + tok_out * PRICE_OUT ) / 1e6 * ( 30 / n ) tier = next (( t for t in QUOTA_TIERS if t [ 1 ] >= peak_calls ), None ) print ( f " days logged: { n }, peak calls/day: { peak_calls } " ) print ( f " avg tokens per call: { math. ceil (( tok_in + tok_out ) / sum ( d [ ' calls ' ] for d in days. values ())) } " ) print ( f " per-token estimate: $ { per_token_month:,. 2 f } /month " ) if tier: print ( f " smallest request-quota tier covering your peak day: $ { tier [ 0 ] } /month ( { tier [ 1 ] } /day) " ) else: print ( " your peak day exceeds 8,000 requests; a request quota won ' t cover it " ) if __name__ == " __main__ ": estimate ( " usage.jsonl " ) Enter fullscreen mode Exit fullscreen mode Passen Sie das Kontingent an Ihrem Spitzenntag an, nicht am Durchschnitt, denn ein tägliches Anfragenkontingent stoppt Sie an dem Tag, an dem Sie es überschreiten.
Token-Budgets haben den umgekehrten Fehlermodus: Eine einzige intensive Woche kann den ganzen Monat aufzehren.
Jeder Tarif in der obigen Tabelle spricht das OpenAI-Chat-Completions-Format, sodass das Ausprobieren eines anderen Preismodells kein Umschreiben des Codes bedeutet:
import os from openai import OpenAI client = OpenAI ( base_url = os. environ. get ( " OPENAI_BASE_URL ", " https://apiclaw.biz/v1 " ), api_key = os. environ [ " OPENAI_API_KEY " ], ) resp = client. chat. completions. create ( model = " apiclaw/claude-sonnet-5.5 ", messages = [{ " role ": " user ", " content ": " Summarise this diff in two sentences. " }], ) print ( resp. choices [ 0 ]. message. content ) print ( resp. usage ) # keep logging this so you can re-run the estimate later Enter fullscreen mode Exit fullscreen mode Bei einem Anfragenkontingent zahlt sich eine Gewohnheit aus: Bündeln Sie kleine Anfragen in einem Aufruf (klassifizieren Sie zum Beispiel 20 Elemente in einem Prompt und geben Sie JSON zurück), statt 20 separate Aufrufe zu tätigen. Bei Token-Abrechnung ändert das wenig; bei einem Anfragenkontingent senkt es die Nutzung um das Zwanzigfache.
Was ist der Unterschied zwischen Anfragenlimits und Token-Limits bei einer LLM-API? Ein Anfragenlimit zählt Aufrufe, unabhängig davon, wie groß jeder einzelne ist. Ein Token-Limit zählt die Token (oder das Rechenbudget in Dollar), die jeder Aufruf verbraucht, sodass lange Prompts es schneller aufbrauchen.
Ist eine Flatrate-LLM-API günstiger als Pay-per-Token? Nur wenn Ihre Nutzung stetig ist und Ihre Prompts groß sind. Bei leichter oder gelegentlicher Nutzung ist Pay-per-Token günstiger.
Kosten lange Prompts mehr bei einem Anfragenkontingent-Tarif? Nein. Ohne Token-Abrechnung zählen ein langer und ein kurzer Prompt jeweils als eine Anfrage. Die Context-Window-Grenzen des Modells gelten weiterhin.
Was passiert, wenn ich mein tägliches Anfragenkontingent erreiche? Weitere Anfragen schlagen fehl, bis sich das Kontingent zurücksetzt (um 00:00 UTC bei APIClaw). Behandeln Sie den Fehler im Code und warten Sie entweder oder wechseln Sie zu einem größeren Tarif.
Welches Preismodell eignet sich am besten für Coding Agents wie Claude Code oder Cline? Agents senden bei jedem Schritt großen Kontext erneut, daher fährt ein Anfragenkontingent bei täglicher Nutzung meist am günstigsten. Prüfen Sie zuerst Ihre Logs mit dem obigen Skript.
Kann ich denselben Code mit allen diesen Tarifen verwenden? Ja, sofern der Anbieter OpenAI-kompatibel ist. Ändern Sie Base-URL, Schlüssel und Modell-ID; der Rest Ihres Codes bleibt gleich.
Offenlegung: Ich entwickle APIClaw. Dieser Artikel wurde mit KI-Unterstützung geschrieben und von mir geprüft. Wettbewerberpreise stammen von deren öffentlichen Preisseiten aus dem Oktober 2026 und können sich ändern.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Short answer: a flat-rate OpenAI-compatible API either limits how many requests you send (a request quota) or how many tokens or dollars of compute you burn (a token or budget limit). Request quotas win when your prompts are big, as with coding agents, RAG and long chats, because a 30,000-token request costs the same as a 300-token one. Token or budget limits win when your calls are tiny and frequent, or when you send very few calls. APIClaw, which I build, is the request-quota kind: $19 to $129 a month for 500 to 8,000 requests a day, reset at 00:00 UTC, with no per-token metering and a free 50-request trial. It fits developers and small teams who send large prompts every day and want a fixed bill. If you make a handful of calls a week, plain per-token billing is cheaper.
Almost every plan falls into one of these:
Some plans mix in concurrency caps or rolling 5-hour windows, but the core question is always the same: what unit drains your allowance?
Prices checked Oct 2026 on each provider's live pricing page.
A side-by-side list of more gateways, kept up to date, is in this comparison of OpenAI-compatible gateways.
Take Sonnet-class pricing of $2 per million input tokens and $10 per million output tokens.
Workload A, a coding agent. Each call sends about 20,000 input tokens (files, history, tool output) and gets 1,000 back. That's $0.04 + $0.01 = $0.05 per call. At 500 calls a day for 30 days, 15,000 calls cost about $750 a month per token. On a 500-requests-a-day quota, it's $19. A compute-budget plan would need a budget in the hundreds of dollars for the same work.
Workload B, a tiny classifier. Each call sends 500 input tokens and gets 200 back: $0.001 + $0.002 = $0.003 per call. At 300 calls a month, that's about $0.90. Any flat plan is a waste of money here; pay per token.
Workload C, high-volume short calls. 20,000 calls a day at 400 tokens each. Per token that's roughly $0.002 per call, or about $1,200 a month, and it blows past any daily request quota I know of. This is where a token-budget plan or direct per-token pricing with volume discounts fits better.
The rule of thumb: divide average tokens per call by calls per day. Big prompts and moderate call counts favour request quotas. Small prompts and huge call counts favour token pricing.
If you already log usage (the OpenAI SDK returns usage.prompt_tokens and usage.completion_tokens on every response), this script turns a JSONL log into a monthly cost under each model:
import json import math from collections import defaultdict # Per-million-token prices for the per-token comparison (edit to match your model). PRICE_IN = 2.00 PRICE_OUT = 10.00 # Request-quota tiers: (monthly price, requests per day) QUOTA_TIERS = [( 19, 500 ), ( 39, 1000 ), ( 59, 1500 ), ( 69, 3000 ), ( 89, 4000 ), ( 99, 6000 ), ( 129, 8000 )] def load ( path ): per_day = defaultdict ( lambda: { " calls ": 0, " in ": 0, " out ": 0 }) with open ( path ) as f: for line in f: row = json. loads ( line ) # {"date": "2026-10-25", "prompt_tokens": 1234, "completion_tokens": 321} d = per_day [ row [ " date " ]] d [ " calls " ] += 1 d [ " in " ] += row [ " prompt_tokens " ] d [ " out " ] += row [ " completion_tokens " ] return per_day def estimate ( path ): days = load ( path ) n = len ( days ) tok_in = sum ( d [ " in " ] for d in days. values ()) tok_out = sum ( d [ " out " ] for d in days. values ()) peak_calls = max ( d [ " calls " ] for d in days. values ()) per_token_month = ( tok_in * PRICE_IN + tok_out * PRICE_OUT ) / 1e6 * ( 30 / n ) tier = next (( t for t in QUOTA_TIERS if t [ 1 ] >= peak_calls ), None ) print ( f " days logged: { n }, peak calls/day: { peak_calls } " ) print ( f " avg tokens per call: { math. ceil (( tok_in + tok_out ) / sum ( d [ ' calls ' ] for d in days. values ())) } " ) print ( f " per-token estimate: $ { per_token_month:,. 2 f } /month " ) if tier: print ( f " smallest request-quota tier covering your peak day: $ { tier [ 0 ] } /month ( { tier [ 1 ] } /day) " ) else: print ( " your peak day exceeds 8,000 requests; a request quota won ' t cover it " ) if __name__ == " __main__ ": estimate ( " usage.jsonl " ) Enter fullscreen mode Exit fullscreen mode Size the quota to your peak day, not your average, because a daily request quota stops you on the day you exceed it.
Token budgets have the opposite failure mode: a single heavy week can drain the whole month.
Every plan in the table above speaks the OpenAI Chat Completions format, so trying a different pricing model doesn't mean rewriting code:
import os from openai import OpenAI client = OpenAI ( base_url = os. environ. get ( " OPENAI_BASE_URL ", " https://apiclaw.biz/v1 " ), api_key = os. environ [ " OPENAI_API_KEY " ], ) resp = client. chat. completions. create ( model = " apiclaw/claude-sonnet-5.5 ", messages = [{ " role ": " user ", " content ": " Summarise this diff in two sentences. " }], ) print ( resp. choices [ 0 ]. message. content ) print ( resp. usage ) # keep logging this so you can re-run the estimate later Enter fullscreen mode Exit fullscreen mode On a request quota, one habit pays off: batch small asks into one call (for example, classify 20 items in one prompt and return JSON) instead of 20 separate calls. On per-token billing that changes little; on a request quota it cuts usage twentyfold.
What is the difference between request limits and token limits on an LLM API? A request limit counts calls, no matter how large each one is. A token limit counts the tokens (or dollars of compute) each call consumes, so long prompts use it up faster.
Is a flat-rate LLM API cheaper than pay-per-token? Only if your usage is steady and your prompts are large. For light or occasional use, pay-per-token is cheaper.
Do long prompts cost more on a request-quota plan? No. With no per-token metering, a long prompt and a short one each count as one request. Context-window limits of the model still apply.
What happens when I hit a daily request quota? Further requests fail until the quota resets (00:00 UTC on APIClaw). Handle the error in code and either wait or move to a bigger plan.
Which pricing model is best for coding agents like Claude Code or Cline? Agents resend large context on every step, so a request quota usually works out cheapest for daily use. Check your logs first with the script above.
Can I use the same code with any of these plans? Yes, if the provider is OpenAI-compatible. Change the base URL, key and model ID; the rest of your code stays the same.
Disclosure: I build APIClaw. This article was written with AI assistance and checked by me. Competitor prices were taken from their public pricing pages in October 2026 and may change.