Wat betekent "on-premise AI" en wanneer heb je het echt nodig?

On-premise AI betekent dat de AI-modellen draaien op hardware die fysiek in je eigen pand of op je eigen netwerk staat, in plaats van op de servers van een clouddienst ergens op internet. Je gegevens worden dan lokaal verwerkt en verlaten je organisatie niet: het omzetten van spraak naar tekst, het schrijven van een verslag en een eventuele chat gebeuren allemaal op een machine die jij beheert. "On-premise" (letterlijk "op locatie") staat tegenover "cloud", waarbij je een gesprek of tekst naar een externe server stuurt die het werk doet. Je hebt on-premise AI écht nodig wanneer je werkt met gegevens die de organisatie principieel niet mogen verlaten — bijzondere persoonsgegevens, beroepsgeheim, vertrouwelijke gesprekken — én wanneer je aantoonbaar wilt kunnen maken dat er niets is weggelekt. Voor niet-gevoelige taken is de cloud vaak sneller, goedkoper en krachtiger. In dit artikel lees je precies wat on-premise AI is, hoe het verschilt van cloud en "EU-servers", en hoe je bepaalt of jouw situatie het vraagt.

Wat is on-premise AI precies?

Bij on-premise AI (ook wel "lokale AI") draaien de rekenmodellen op computers, servers of andere apparaten die je zelf beheert, binnen je eigen netwerk. Er wordt geen gebruikgemaakt van externe cloudservers: de gegevens worden verwerkt op je eigen hardware — een workstation, een laptop of een interne server — en niet op de infrastructuur van een externe leverancier.[5] Het woord "premise" komt van het Engelse premises: het gebouw of terrein waar je organisatie zit. On-premise betekent dus letterlijk "binnen de muren".

Het verschil met een gewone AI-dienst zit hem in de vraag waar het rekenwerk gebeurt. Wanneer je een gesprek laat samenvatten door een populaire cloud-AI, stuurt jouw apparaat de tekst of audio over internet naar een datacenter, waar het model draait; het antwoord komt terug over dezelfde lijn. Bij on-premise AI blijft die hele reis binnen je eigen netwerk. Het model, de opname en het verslag komen op geen enkel moment op andermans computer terecht. Dat is geen belofte over goed gedrag van een leverancier — het is een eigenschap van waar de machine staat.

Lang was on-premise AI voor de meeste organisaties geen realistische optie: de krachtigste modellen pasten alleen in grote datacenters. Dat verandert snel. De Autoriteit Persoonsgegevens signaleert een verschuiving naar meer gespecialiseerde en kleinere modellen die in eigen huis gedraaid kunnen worden.[1] Waar je vroeger een serverruimte nodig had, kan een moderne computer met een krachtige processor tegenwoordig een bruikbaar taalmodel lokaal draaien.

On-premise, cloud, edge en "EU-servers" uit elkaar

Rond dit onderwerp zwerven een paar begrippen die makkelijk door elkaar lopen. Ze uit elkaar houden is belangrijk, want een verkeerde aanname over "waar de data staat" is precies waar het misgaat.

• Cloud-AI — het model draait in een extern datacenter. Je stuurt je gegevens ernaartoe. Krachtig en schaalbaar, maar je gegevens verlaten je organisatie en je bent afhankelijk van de leverancier en de verbinding.[6]
• On-premise / lokale AI — het model draait op hardware die jij beheert, binnen je eigen netwerk. De gegevens blijven binnen.
• Edge AI — een variant van lokale AI waarbij het model draait op het apparaat waar de gegevens ontstaan, dicht bij de bron (denk aan een camera of een machine op de werkvloer). Voor kantoortoepassingen valt dit in de praktijk samen met on-premise.
• "EU-servers" — een clouddienst die belooft je gegevens in een Europees datacenter te bewaren. Dit is niet hetzelfde als on-premise: je gegevens verlaten nog steeds je organisatie, en de vraag wie er juridisch bij kan, blijft open.

Die laatste is de valkuil. Het verschil dat telt is dat tussen data residency (waar de gegevens fysiek staan) en data sovereignty (onder wiens rechtsmacht ze vallen). Een Amerikaanse aanbieder met een datacenter in Frankfurt geeft je het eerste, niet het tweede. De Amerikaanse CLOUD Act uit 2018 verplicht Amerikaanse aanbieders om gegevens te verstrekken aan Amerikaanse autoriteiten, ook als die gegevens buiten de Verenigde Staten zijn opgeslagen. De Europese privacytoezichthouders EDPB en EDPS concludeerden in een gezamenlijke juridische beoordeling dat deze wet op gespannen voet kan staan met de AVG, omdat een Amerikaanse rechterlijke last op zichzelf geen geldige grondslag is om Europese persoonsgegevens over te dragen.[4] Met andere woorden: een Europees datacenter lost het probleem niet volledig op zolang de leverancier onder buitenlandse wetgeving valt. Meer over diezelfde datastroom-vraag lees je in ambient scribe vs. dicteren. Bij on-premise AI speelt deze discussie niet: er is geen aanbieder die iets kan verstrekken, want er verlaat geen gespreksinhoud het pand.

De echte voordelen van on-premise AI

De aantrekkingskracht van on-premise AI is geen ideologie maar een reeks concrete eigenschappen die voortvloeien uit dat ene feit: de gegevens blijven binnen.

• Privacy en gegevensbescherming. Gevoelige gegevens — medische dossiers, vertrouwelijke gesprekken, broncode — verlaten de eigen infrastructuur nooit. Het risico op datalekken via externe API's wordt daarmee sterk verkleind.[5]
• Controle over de gegevens. De AP benadrukt dat organisaties zicht moeten houden op welke gegevens erin gaan en hoe die worden verwerkt, en waarschuwt tegen niet-controleerbare "black box"-systemen in kritieke processen.[1] Bij lokale verwerking heb je dat zicht per definitie: de gegevens en het model staan onder je eigen dak.
• Aantoonbaarheid. De AVG kent een verantwoordingsplicht — je moet kunnen áántonen dat je je aan de regels houdt, niet alleen beloven dat je dat doet.[2] Bij on-premise AI is "er is niets weggelekt" geen belofte maar een meting: je kunt het netwerkverkeer inspecteren en zien dat geen enkele uitgaande verbinding gespreksinhoud draagt.
• Onafhankelijkheid. Bedrijfskritische processen blijven draaien, ongeacht een storing bij de cloudprovider of een haperende internetverbinding.[5]
• Voorspelbare kosten. In plaats van te betalen per verwerkte eenheid ("per token"), investeer je eenmalig in hardware. Zodra die er staat, kost elke extra verwerking niets meer.[5]

Er is bovendien een strategisch argument. De AP adviseert organisaties om te letten op een exit-strategie en op het vermijden van leveranciersafhankelijkheid, bijvoorbeeld door open modellen on-premise of in een private cloud te draaien, en besteedt extra aandacht aan de afhankelijkheid van dienstverleners van buiten de EU.[1] On-premise AI is daarmee niet alleen een privacykeuze, maar ook een manier om te voorkomen dat je vastzit aan één leverancier.

De echte kosten en nadelen

On-premise AI is geen gratis lunch, en wie het tegenovergestelde beweert, verkoopt je iets. De nadelen zijn reëel en horen eerlijk op tafel.

• Technische verantwoordelijkheid. Het opzetten en onderhouden van de omgeving ligt bij jou. Zonder een goede leverancier of een beheerde oplossing vraagt dat kennis die niet elke organisatie in huis heeft: het installeren, updaten en beveiligen kost tijd.[5]
• Beperkte schaalbaarheid. Een clouddienst schaalt met een druk op de knop mee als de vraag piekt. Lokale hardware doet dat niet: meer capaciteit betekent fysiek meer machines aanschaffen en inrichten.[5]
• Modelcapaciteit. De allergrootste, krachtigste modellen draaien (voorlopig) in de cloud. Lokaal draaiende modellen zijn vaak kleiner en soms iets minder capabel, al is het gat de laatste jaren hard gekrompen en zijn kleine modellen voor afgebakende taken vaak ruim voldoende.[6]
• Investering vooraf. Waar cloud een laag instapbedrag heeft, vraagt on-premise een eenmalige aanschaf van hardware. Over meerdere jaren kan dat goedkoper uitpakken, maar de kosten komen aan het begin.[5]

Microsoft vat de afweging in zijn eigen ontwikkelaarsdocumentatie nuchter samen: cloud-modellen bieden schaal en de nieuwste mogelijkheden, lokale modellen bieden privacy, offline werken en lagere variabele kosten — en welke keuze past, hangt af van de gevoeligheid van de gegevens en de eisen aan latency en beschikbaarheid.[6] De belangrijkste vraag is dus niet "wat is beter", maar "wat past bij dít gebruik".

Wanneer heb je het echt nodig?

Niet elke taak vraagt om on-premise AI. Het wordt pas een echte noodzaak wanneer meerdere van de volgende punten tegelijk gelden. Loop ze langs voor jouw situatie:

• De gegevens zijn extra gevoelig. Werk je met bijzondere persoonsgegevens (gezondheid, geloof, seksuele geaardheid), met gegevens onder een beroepsgeheim (zorg, recht, geestelijke gezondheid), of met vertrouwelijke bedrijfsinformatie? Dan weegt "de gegevens verlaten de organisatie niet" zwaar.
• Je moet het kunnen aantonen. Volstaat een belofte van een leverancier, of moet je tegenover een cliënt, een Functionaris Gegevensbescherming of een toezichthouder kunnen láten zien dat er niets is weggelekt? Bij het tweede is een meetbare nul aan externe verbindingen goud waard.[2]
• De keten moet controleerbaar blijven. Kun je je een black-box-verwerking veroorloven, of eist je proces dat je precies weet welk model welke gegevens verwerkt? De AP acht ondoorzichtige systemen in kritieke processen onacceptabel.[1]
• Afhankelijkheid is een risico. Is het een probleem als je leverancier zijn voorwaarden wijzigt, zijn dienst stopt, of onder buitenlandse rechtsmacht valt? Dan telt het exit-strategie-argument mee.[4]
• Offline werken is soms nodig. Moet het ook werken op een plek zonder betrouwbare internetverbinding — een huisbezoek, een locatie zonder wifi? Cloud valt dan weg.

Sla je op deze punten grotendeels aan, dan is on-premise AI geen luxe maar de passende keuze. In de zorg komt daar nog een norm bovenop: NEN 7510 vraagt organisaties om informatiebeveiliging aantoonbaar te beheersen, en een verwerking waarbij gegevens het pand niet verlaten is een stuk eenvoudiger te verantwoorden dan een die over externe servers loopt.[7]

Wanneer de cloud prima is

Het eerlijke tegenwicht: voor een groot deel van het dagelijkse AI-werk is de cloud een prima, vaak betere keuze. Gaat het om openbare of niet-gevoelige informatie — een blogtekst oppoetsen, een publiek rapport samenvatten, code schrijven zonder geheimen — dan wegen de voordelen van de cloud (schaal, de nieuwste modellen, lage instapkosten, geen onderhoud) meestal zwaarder dan het privacyargument. De trend richting lokale verwerking betekent niet dat cloud verdwijnt: analisten van Gartner voorspellen weliswaar dat tegen 2025 zo'n 75% van de door bedrijven gegenereerde gegevens buiten een traditioneel centraal datacenter of cloud wordt verwerkt[3], maar dat is een verschuiving in de mix, geen einde van de cloud.

De verstandige aanpak is dus niet "alles lokaal" of "alles cloud", maar de gevoeligheid van de gegevens leidend maken. Deel je verwerkingen in: wat openbaar of laag-risico is mag naar de cloud, wat vertrouwelijk of bijzonder is blijft binnen. Zo betaal je alleen de prijs van on-premise — de investering en het onderhoud — voor de gevallen waar die prijs iets oplevert.

Hoe het er in de praktijk uitziet

Voor gespreksverslagen in de zorg en het recht vallen bijna alle "wanneer heb je het echt nodig"-punten samen: bijzondere persoonsgegevens, beroepsgeheim, de plicht om het aantoonbaar te maken, en gesprekken die soms op locatie plaatsvinden. Dat is precies het domein waarvoor een on-premise opzet is bedoeld.

Zo werkt Verbinn: één Mac in het eigen pand — de Kern — doet de transcriptie en het schrijven van het verslag, de clients zijn een lichte app en een web-UI op het eigen netwerk, en er verlaat geen woord van het gesprek de organisatie (de Kern laat zien welke uitgaande verbindingen er wél zijn). Elk verslag blijft een concept tot een mens het goedkeurt, elke zin is aanklikbaar naar de letterlijke bronregel, en bij elke export zit een privacy-paspoort dat vastlegt hoe het verslag tot stand kwam. Het punt hier is niet het merk, maar het patroon: dit is hoe on-premise AI eruitziet zodra je de eigenschap "de gegevens blijven binnen" combineert met aantoonbaarheid en menselijke controle.