Zo kies je de juiste hardware voor jouw AI Server in V20 Update 10.
Hoe snel is de 3CX AI Server?
En welke hardware hebt u nodig voor goede prestaties? Om dat te bepalen, kijken we vooral naar twee waarden: Speed Factor en Round Trip Time.
Met de introductie van de 3CX AI Server in Update 10 Alpha hebben we verschillende hardwareconfiguraties getest. De resultaten geven een goede indicatie van de prestaties die u kunt verwachten.
Wat is de Speed Factor?
De Speed Factor geeft aan hoeveel minuten aan opnames de AI Server in één minuut kan verwerken.
Een Speed Factor van 10x betekent bijvoorbeeld dat de server 10 uur aan opnames in één uur kan verwerken.
Hoe hoger de Speed Factor, hoe meer opnames de AI Server binnen dezelfde tijd kan verwerken. Dit is vooral belangrijk wanneer u grote hoeveelheden gespreksopnames wilt laten verwerken.
Wat is de Round Trip Time?
De Round Trip Time geeft aan hoe lang de verwerking van een opname duurt.
De meting begint zodra de AI Server de opname ontvangt. De meting stopt wanneer de verwerking klaar is en de resultaten naar de PBX kunnen worden teruggestuurd.
Een lagere Round Trip Time betekent dus dat resultaten sneller beschikbaar zijn.
De lengte van opnames beïnvloedt de resultaten
De duur van een opname heeft direct invloed op de Round Trip Time. Een langer gesprek kost immers meer tijd om te verwerken dan een korte voicemail.
Voor onze tests gebruikten we:
- Een gemiddelde gespreksopname van ongeveer 140 seconden
- Een gemiddelde voicemailopname van ongeveer 30 seconden
Dit zijn gemiddelden die we in verschillende omgevingen hebben gezien.
Jouw situatie kan echter anders zijn. Dat hangt bijvoorbeeld af van uw branche en de gesprekken die u opneemt.
Neemt u sollicitatiegesprekken op? Dan duren gesprekken waarschijnlijk langer dan gemiddeld. De Round Trip Time kan daardoor ook hoger uitvallen.
De onderstaande resultaten zijn daarom vooral bedoeld als richtlijn. De volgorde van langzamere naar snellere hardware zal in de meeste situaties wel vergelijkbaar blijven.
Speed Factor – van langzaam naar snel
De Speed Factor laat zien hoeveel opname-uren de hardware binnen een bepaalde tijd kan verwerken. Een hogere waarde betekent betere prestaties.
- 18x – Mac Mini M4 Standard 24 GB
- 32x – Google g2-standard-4_NVIDIA_L4
- 43x – Mac Studio M4 Max 14-core 36 GB
- 44x – Single RTX 4060 Ti 16 GB
- 111x – Single RTX 4090 24 GB
- 226x – Dual RTX 4090 24 GB
De verschillen zijn aanzienlijk. Een Mac Mini M4 haalt bijvoorbeeld een Speed Factor van 18x. Een systeem met twee RTX 4090 GPU’s komt uit op 226x.
Voor het verwerken van grote hoeveelheden opnames levert krachtigere GPU-hardware dus een duidelijk voordeel op.
Round Trip Time – van langzaam naar snel
Bij Round Trip Time geldt het tegenovergestelde. Een lagere waarde is beter, omdat de verwerking dan sneller klaar is.
- 55 sec. – Mac Mini M4 Standard 24 GB
- 31 sec. – Google g2-standard-4_NVIDIA_L4
- 25 sec. – Mac Studio M4 Max 14-core 36 GB
- 18 sec. – Single RTX 4060 Ti 16 GB
- 11 sec. – Dual RTX 4090 24 GB
- 9 sec. – Single RTX 4090 24 GB
Ook hier zien we duidelijke verschillen. De Mac Mini M4 heeft gemiddeld 55 seconden nodig. Een RTX 4090 brengt dit terug naar slechts 9 seconden.
Welke hardware hebt u nodig?
De snelste hardware is niet automatisch voor iedere 3CX-installatie de beste keuze.
Verwerkt u relatief weinig opnames? Dan kan een Mac Mini of Mac Studio al voldoende zijn. Deze systemen bieden een eenvoudige manier om lokaal een 3CX AI Server te draaien.
Verwerkt u veel gespreksopnames? Dan wordt de Speed Factor belangrijker. Een systeem met een krachtige NVIDIA GPU kan in dat geval aanzienlijk meer opnames verwerken.
Kijk daarom niet alleen naar de maximale prestaties. Houd ook rekening met het aantal opnames, de gemiddelde gespreksduur en de gewenste verwerkingstijd.
Resultaten kunnen nog veranderen
Houd er rekening mee dat dit een vroege versie van de nieuwe 3CX AI Server is.
We blijven de AI Server verder ontwikkelen en optimaliseren. Daardoor kunnen de prestaties en bovenstaande resultaten in toekomstige versies veranderen.
Praat mee
Praat mee over 3CX op onze speciale Partner– of Klanten Forums. Volg ons daarnaast op X en LinkedIn om op de hoogte te blijven van het laatste nieuws en nieuwe features.
