De updates maken het eenvoudiger om AI met 3CX in V20 Update 10 te implementeren, beheren en op te schalen.
Met de introductie van de standalone 3CX AI Server in V20 Update 10 wordt het mogelijk om AI lokaal te draaien binnen je eigen infrastructuur. De volgende updates bouwen daarop voort.
Het doel is duidelijk: de 3CX AI Server eenvoudiger installeren, beheren en opschalen. Tegelijkertijd wordt lokale AI toegankelijker doordat je straks niet alleen NVIDIA-systemen, maar ook Apple Macs kunt gebruiken.
Eenvoudigere Installatie
De aankomende update voor de 3CX AI Server vereenvoudigt een aantal belangrijke onderdelen van de installatie:
- firewallconfiguratie;
- keuze en aanschaf van GPU-hardware;
- configuratie van de FQDN en SSL
Vooral het nieuwe verbindingsmodel speelt hierbij een belangrijke rol.
Een Nieuw Verbindingsmodel
De grootste verandering zit onder de motorkap.
Voortaan gedraagt de AI Server zich als een client. De AI Server maakt dus verbinding met de 3CX PBX, in plaats van dat de PBX verbinding maakt met de AI Server.
Dat levert direct een aantal voordelen op:
- Geen SSL-certificaat nodig
- Geen publieke FQDN vereist
- Geen handmatige firewallconfiguratie
- Eenvoudigere installatie met minder kans op fouten
Deze wijzigingen hebben geen gevolgen voor de beveiliging. 3CX gebruikt meerdere beveiligingslagen om een veilige en vertrouwde verbinding tussen de PBX en AI Server te garanderen.
Gebruik een Mac als 3CX AI Server
Een belangrijke vernieuwing is ondersteuning voor macOS. Hierdoor kun je bijvoorbeeld een Mac mini inzetten als 3CX AI Server.
Dat maakt lokale AI een stuk toegankelijker. Je hoeft niet langer zelf een pc samen te stellen en een geschikte GPU te selecteren. Voor een 3CX AI Server op macOS geldt een minimum van 24 GB geheugen.
Voor organisaties die lokale AI willen inzetten zonder direct in gespecialiseerde GPU-hardware te investeren, verlaagt dit de instapdrempel aanzienlijk.
Van Transcription Engine naar 3CX AI Server
We hebben de naam ‘3CX Transcription Engine (Lokaal Geïnstalleerd)’ gewijzigd in ‘3CX AI Server’. Die naam past beter bij wat de server daadwerkelijk doet. De 3CX AI Server verzorgt namelijk niet alleen transcripties, maar host verschillende AI-modellen en voert ook analyses van gesprekken uit. De mogelijkheden gaan daarmee veel verder dan alleen het transcriberen van gesprekken.
Verbeterde status en monitoring
Door de ondersteuning voor macOS en de nieuwe architectuur worden ook de status- en monitoringweergaven van de AI Server vernieuwd.
Beheerders krijgen een vereenvoudigd overzicht waarin onder andere het besturingssysteem van de server wordt weergegeven. Op macOS zie je het gebruik van de GPU en de ANE (Apple Neural Engine). Op systemen met een NVIDIA-GPU worden onder andere het RAM- en VRAM-gebruik weergegeven.
Daarnaast kun je belangrijke serverstatussen zoals Queue, Conversions en Max Conversions monitoren. Zo zie je snel of een AI Server normaal functioneert, zwaar wordt belast, is vastgelopen of onvoldoende capaciteit heeft.
Meerdere verbindingen
De flexibiliteit van de nieuwe 3CX AI Server-architectuur gaat verder dan één AI Server per installatie.
Met het nieuwe verbindingsmodel kun je de AI-verwerking optimaliseren door:
- meerdere AI Servers met één PBX te verbinden;
- één AI Server met meerdere PBX’en te delen;
- meerdere AI Servers in een mesh over meerdere PBX’en te verdelen.
Zo kun je de infrastructuur nauwkeurig afstemmen op de specifieke werklast en capaciteitsbehoefte van je organisatie.
Eén AI Server voor meerdere PBX’en
Een van de belangrijkste voordelen van de nieuwe architectuur is dat één 3CX AI Server door meerdere PBX’en kan worden gebruikt.
Stel dat je PBX A en PBX B hebt.
PBX A maakt al gebruik van een AI Server, terwijl PBX B nog geen AI Server heeft.
Ga in PBX B naar ‘+ Add AI Server’ en voeg een nieuwe AI Server toe. Kopieer vervolgens de gegenereerde installatieopdracht.
Voer deze opdracht uit op de AI Server die al met PBX A is verbonden. Daarna maken beide PBX’en gebruik van dezelfde 3CX AI Server voor transcripties. Je hoeft dus niet voor iedere PBX een aparte AI Server te installeren.
Meerdere AI Servers voor één PBX
Andersom kan ook.
De huidige beperking op het aantal AI Servers dat met één PBX kan worden verbonden, komt te vervallen. Daardoor kun je meerdere servers inzetten wanneer de hoeveelheid AI-verwerking daarom vraagt.
In de praktijk is er geen vaste limiet. De beschikbare hardware, netwerkcapaciteit en totale werklast bepalen hoeveel AI Servers je zinvol kunt inzetten.
NVIDIA of Apple
De nieuwe 3CX AI Server kan draaien op systemen met een NVIDIA-GPU en op Apple Macs.
De Mac-architectuur verlaagt daarbij de instapkosten voor lokale AI, terwijl NVIDIA-systemen juist veel capaciteit binnen één server kunnen bieden.
Als richtlijn:
- 50.000 – 200.000 minuten per maand: Mac mini M4 met 24 GB geheugen
- Tot circa 500.000 minuten per maand: Mac Studio M4 Max met 36 GB geheugen
- Vanaf 500.000 minuten per maand: systeem met NVIDIA RTX 4090
Door meerdere 3CX AI Servers te combineren, kun je bovendien verschillende systemen naast elkaar inzetten. Zo stel je de infrastructuur samen die het beste aansluit op je capaciteit, werklast en budget.
Meer informatie over gebruik en kosten vind je in onze blog Cloud vs 3CX AI Server Transcription.
Nieuwste AI-modellen en betere prestaties
De nieuwe release profiteert ook van de nieuwste architectuurverbeteringen en best practices op het gebied van AI.
Nieuwe modellen en back-endcomponenten zorgen voor snellere verwerking en een lager geheugengebruik. Hierdoor kun je meer capaciteit en prestaties uit dezelfde 3CX AI Server halen.
Blijf op de hoogte
Praat mee over 3CX via onze speciale Partner– of Klantenforums. Volg ons daarnaast op X en LinkedIn om op de hoogte te blijven van het laatste nieuws en nieuwe functionaliteiten.
