Is ChatGPT GDPR-compliant voor zakelijk gebruik?
De consumentenversie van ChatGPT is over het algemeen niet GDPR-compliant, omdat gesprekken bewaard en voor training gebruikt kunnen worden zonder verwerkersovereenkomst of garantie op EU-dataresidentie. Een self-hosted of private LLM voorkomt dit door elke prompt en elk document binnen infrastructuur te houden die u beheert, zodat er geen persoonsgegevens de EU-jurisdictie verlaten. Wij bouwen het GDPR-compliante alternatief rond open modellen en open standaarden, niet rond één leverancier.
Wat is private AI?
Private AI betekent dat u large language models, RAG-pipelines en AI-agents draait op infrastructuur die u beheert, on-premise of in een dedicated EU-omgeving, in plaats van data naar externe cloud-API's te sturen. Uw prompts, documenten en modelgewichten verlaten nooit uw perimeter en worden nooit gebruikt om andermans model te trainen, wat u volledige datasoevereiniteit geeft en afstemming met GDPR en de EU AI Act door ontwerp.
Welke open-source-modellen en -tools kunnen on-premise draaien?
Capabele open-weight modellen zoals Llama, Mistral, Mixtral, Qwen en DeepSeek draaien goed op uw eigen GPU-servers, met kleinere modellen op een enkele 24GB-GPU en modellen van 70B-klasse op multi-GPU-opstellingen. We serveren ze via de inference engine die past, bijvoorbeeld vLLM, Ollama, llama.cpp, SGLang, LocalAI of Hugging Face TGI, die allemaal de OpenAI-compatibele API blootstellen zodat u nooit vastzit. We helpen u de juiste combinatie te selecteren, te fine-tunen en te deployen voor uw nauwkeurigheid, latency en budget.
Hoe voorkomt u dat gevoelige data en PII in een LLM lekken?
We voegen een PII-beschermingslaag toe, doorgaans gebouwd op open tooling zoals Microsoft Presidio, die namen, e-mailadressen, financiële en gezondheidsdata detecteert en redigeert voordat prompts het model bereiken, met optionele omkeerbare tokenisatie zodat antwoorden gepersonaliseerd blijven. Gecombineerd met on-premise hosting en een lokale RAG- en vectorstore verlaat er nooit gevoelige informatie uw netwerk.
Is een LLM zelf hosten goedkoper dan cloud-API's gebruiken?
Dat hangt af van het gebruik. Bij laag of sporadisch volume zijn cloud-API's goedkoper; bij aanhoudende, hoogvolume workloads wint on-premise doorgaans op totale kosten over een horizon van twee tot drie jaar, en het voordeel van datasoevereiniteit is structureel in plaats van een post op de begroting. Wij dimensioneren de hardware en architectuur op uw werkelijke gebruik zodat het omslagpunt in uw voordeel uitvalt.