Hoe je jouw AI Agents binnen de juiste OpenAI usage tier laat passen
Zodra je een AI Agent hebt ingericht, is een van de belangrijkste taken het begrijpen van de intentie van de beller en het doorverbinden naar de juiste extensie. Daarbij is één voorwaarde cruciaal: je AI Agent moet toegang hebben tot OpenAI én mag niet worden beperkt door rate limits. Wanneer je AI Agent een rate limit bereikt, krijgt de beller geen antwoord. De callflow breekt af, gesprekken worden niet doorverbonden en de kans is groot dat de beller ophangt.
Om dit te voorkomen, delen we in dit blog een aantal praktische richtlijnen. Dit is een uitgebreid artikel. Kort samengevat behandelen we:
- Hoe je rate limits herkent in logs
- Hoe je tokenverbruik kunt inschatten
- De impact van complexiteit op verbruik
- De invloed van knowledge sources op tokenverbuik
- Hoe je rate limits vertaalt naar gelijktijdige AI Agent gesprekken
- Hoe je OpenAI limits configureert en opschaalt
- Open AI accounts die met $100 beginnen, worden doorgaans direct Tier 3.
Logmeldingen bij het bereiken van rate limits
Wanneer je de OpenAI rate limit bereikt, zie je dit terug in het 3CXAI.log bestand, bijvoorbeeld:
2026-03-09 10:17:26.674|DEBUG|{'call': 110, 'dir': 'ai', 'detail': True} [OpenAI] response.done content> :
{'type': 'response.done', 'event_id': 'event_DHYWMxZ4ipQABCDEFGHIJ', 'response':
{'object': 'realtime.response', 'id': 'resp_DHYWMnVTGk1234567890', 'status': 'failed', 'status_details':
{'type': 'failed', 'error':
{'type': 'tokens', 'code': 'rate_limit_exceeded',
'message': 'Rate limit reached for gpt-4o-realtime in organization org-LwDoeGAu4fbAABBCCDDEEFF on tokens per min (TPM): Limit 40000, Used 31222, Requested 14701. Please try again in 8.805s.
Visit https://platform.openai.com/account/rate-limits to learn more.'}},
'output': [], 'conversation_id': 'conv_DHYW8SqVAABBCCDDEEFFG', 'output_modalities': ['audio'], 'max_output_tokens': 'inf', 'audio': {'output': {'format': {'type': 'audio/pcm', 'rate': 24000}, 'voice': 'marin'}},
'usage': {'total_tokens': 0, 'input_tokens': 0, 'output_tokens': 0, 'input_token_details': {'text_tokens': 0, 'audio_tokens': 0, 'image_tokens': 0, 'cached_tokens': 0, 'cached_tokens_details':
{'text_tokens': 0, 'audio_tokens': 0, 'image_tokens': 0}}, 'output_token_details': {'text_tokens': 0, 'audio_tokens': 0}}, 'metadata': None}} Dit laat duidelijk zien dat:
- De tokens per minuut (TPM) limiet is bereikt
- Er tijdelijk geen nieuwe requests verwerkt kunnen worden (bijv. gedurende 8,805 seconden)
Rekenkundig betekent dit:
- De limiet van het account ligt op 40.000 tokens per minuut
- In de afgelopen minuut zijn 31.222 tokens gebruikt
- Er blijven 8.778 tokens beschikbaar
- De nieuwe request vereist 14.701 tokens → en overschrijdt dus de limiet
Tokenverbruik: een praktische inschatting
Basis: natuurlijke gesprekken
- Tokenverbruik hangt af van meerdere factoren:
- Taal
- Model
- Gespreksstijl
- Aantal gesproken woorden
- Gemiddelde aannames:
- Een gesprek bevat ±150 woorden per minuut
- Maximale gespreksduur: 7 minuten
- Totaal: ±1.050 woorden
- ApenAI’s breed geaccepteerde token Conversie ratio (voor Engels): 1 woord ≈ 1,3 tokens
- Een gemiddeld gesprek van 7 minuten komt komt uit op ±1.365 tokens
Voor de praktijk kun je rekenen met een veilige bovengrens van 1.500 tokens per gesprek.
Impact van complexiteit op tokenverbruik
- Niet elk gesprek is gelijk. De inhoud bepaalt hoeveel “denkwerk” de AI moet doen:
- Eenvoudige gesprekken (bijv. afspraak plannen) → schatting ±1.000 tokens
- Gebalanceerde gesprekken (werkoverleg, algemene vragen)
- Dit valt in de catogorie “Natuurlijke gesprekken” → schatting ±1.500 tokens
- Zijn gesprekken technisch en complex, dan moet de AI Agent meer denkwerk verrichten.
- Voor deze gesprekken kun je rekenen met een schatting van ±2.500 tokens
AI Agents met knowledge sources
Gebruik je knowledge sources? Dan komt er extra tokenverbruik bij voor het ophalen van kennis uit de bronnen. Houd rekening met tot 2.000 tokens extra voor het ophalen van informatie
Totale schatting van tokengebruik
Voor een technisch gesprek met knowledge sources:
2.500 tokens (gesprek)
2.000 tokens (knowledge retrieval)
Wanneer je een veiligheidsbuffer inbouwt van 500 tokens, dan reken je met 5.000 tokens oftewel 714 tokens per minuut. Dit kun je ook nog afronden naar 1.000 tokens per minute.
Hoeveel gelijktijdige AI-calls kun je verwerken?
Je moet rekening houden met twee limieten:
- Tokens per minuut (TPM)
- Requests per minuut
Tokens Per Minuut
Wanneer je het AI model rate limit hebt beperkt tot 20.000 per minuut, dan kunnen bij 1.000 TPM per AI Agent 20 simultane gesprekken gevoerd worden.
Requests Per Minuut
We gaan hier niet diep op de details in, maar het is belangrijk om te weten dat AI-gesprekken meerdere requests per minuut genereren. Configureer je het systeem bijvoorbeeld voor 50 gelijktijdige AI-gesprekken en vraagt elk gesprek gemiddeld 3 requests per minuut, dan moet de RPM-limiet minimaal op 150 liggen om alles soepel te laten verlopen.
OpenAI usage tiers en rate limits instellen
De meeste gebruikers starten in de Free tier, waardoor rate limits snel bereikt worden. Open AI accounts die met $100 beginnen, worden doorgaans direct Tier 3.
Zo controleer en verhoog je je limieten: Ga naar je OpenAI dashboard en ga naar Project → Limits Pagina en bij “Rate limits ” klik je “Select Models”.
Scroll naar Realtime rate limits. Hier stel je in:
- TPM = Tokens per minuut
- RPM = Requests per minuut
Het screenshot is een in de Free tier en zie je bijvoorbeeld een maximum van 40.000 TPM en 3 RPM. Om op te schalen ga je naar Organization → Limits en verhoog je je budget
Klik de rate limits guide voor meer informatie over de voornaamste tiers:
Zodra je aan de vereiste voorwaarden voldoet, wordt je tier automatisch aangepast. Ga vervolgens opnieuw naar Project → Limits om je limieten te verhogen waar nodig.
Blijf op de hoogte
Praat verder mee in ons AI-forum en volg ons op X en LinkedIn voor updates over nieuwe features en ontwikkelingen.
