Voor wie: directeuren die van hun IT-partij of een adviseur het voorstel krijgen om "AI zelf te draaien", en willen weten of dat in hun situatie ergens op slaat.
AI lokaal draaien: wanneer het nodig is en wanneer niet
Een goed antwoord op een vraag die de meeste MKB-bedrijven niet hebben — en een dure omweg als je hem wel stelt.
Kort antwoord: AI lokaal draaien betekent dat het model op hardware van jezelf staat, zodat je gegevens je eigen omgeving niet verlaten. Technisch kan dat prima, ook in het MKB. Maar de vraag die eronder ligt is bijna altijd "ik wil niet dat onze informatie ergens anders gebruikt wordt" — en dat is meestal op te lossen met afspraken en een zakelijke omgeving, niet met eigen hardware. Lokaal draaien is het juiste antwoord in vier situaties: gegevens die er contractueel of wettelijk niet uit mogen, werken zonder internetverbinding, één afgebakende taak met heel veel volume, en de wens om niet afhankelijk te zijn van modelwijzigingen. Buiten die gevallen betaal je met minder kwaliteit en structureel beheer voor een zekerheid die je goedkoper kunt regelen.
Drie dingen die door elkaar lopen
In gesprekken worden drie verschillende opstellingen met dezelfde term aangeduid. Het onderscheid bepaalt de hele afweging.
- Echt lokaal. Het model draait op een machine van jou — een server in je meterkast, of zelfs de laptop van een medewerker. Er gaat geen enkel gegeven het pand uit.
- Eigen omgeving bij een hoster. Het model draait op hardware die voor jou is gereserveerd, in een datacentrum, meestal in Nederland of elders in de EU. Niet lokaal, wel afgescheiden en onder contract.
- Een publieke dienst met zakelijke afspraken. Je gebruikt een gewone AI-dienst, maar dan met een zakelijk account en de bijbehorende afspraken over wat er met je invoer gebeurt.
Wie "lokaal" zegt, bedoelt vaak de tweede of derde variant. Dat scheelt in kosten en werk een orde van grootte, dus het loont om die vraag als eerste scherp te krijgen.
De vraag achter de vraag
In vrijwel elk gesprek blijkt de onderliggende zorg één van deze drie:
- "Ik wil niet dat onze informatie gebruikt wordt om hun model te trainen."
- "Ik wil niet dat onze gegevens de EU verlaten."
- "Ik wil kunnen uitleggen aan mijn klant waar zijn dossier staat."
Alle drie zijn terecht. Alleen: geen van drieën vraagt om eigen hardware. Ze vragen om afspraken. De AVG regelt dit langs die lijn — wie gegevens voor jou verwerkt, doet dat op basis van een verwerkersovereenkomst, met afspraken over wat er wel en niet met die gegevens mag gebeuren en waar ze verwerkt worden. Zelf hosten is één manier om aan die eisen te voldoen; het is niet de eis.
Ook de AI Act schrijft nergens voor dat je een model zelf moet draaien. Die wet gaat over wat je met AI doet en wat je erover moet weten, niet over waar de servers staan — zie wat is AI-geletterdheid voor het deel dat wél op elk bedrijf van toepassing is.
Wanneer het wél het antwoord is
Vier situaties waarin lokaal draaien geen luxe is maar de kern van de oplossing.
1. De gegevens mogen er niet uit
Niet "we vinden het spannend", maar een harde grens: een aanbestedingsvoorwaarde, een geheimhoudingsverklaring met een grote klant, of regelgeving in jouw sector. Als je het aan een auditor moet kunnen uitleggen, is dit de weg.
2. Er is geen verbinding
Een productiehal zonder stabiel netwerk, een machine op locatie, een schip. Werkt de cloudroute niet, dan is de discussie snel klaar.
3. Eén taak, heel veel volume
Duizenden documenten per dag door dezelfde molen halen — classificeren, samenvatten, controleren. Bij dat soort volume kantelt de rekensom, en een kleiner model dat één taak goed doet is dan vaak ruim voldoende.
4. Je wilt dat het morgen hetzelfde doet als vandaag
Publieke diensten werken hun modellen bij. Meestal is dat winst, maar zit je in een proces waarin de uitkomst reproduceerbaar moet zijn, dan is een model dat je zelf beheert en pas bijwerkt wanneer jij dat wil een reëel argument.
Wat het echt kost
De hardware is de zichtbare kostenpost, en zelden de grootste. Wat erbij komt:
- Iemand die het beheert. Modellen bijwerken, beveiligingsupdates, monitoren of het nog draait. Dat is geen eenmalige klus maar een taak die iemand erbij krijgt — of die je inkoopt.
- Kwaliteitsverschil. Modellen die je zelf redelijk kunt draaien zijn kleiner dan de grote publieke modellen. Voor afgebakende taken is dat prima; voor open werk merk je het verschil meteen, en dat kost het draagvlak dat je net had opgebouwd.
- Alles eromheen. Een model is nog geen werkende toepassing. De koppelingen, de gebruikersomgeving, de rechten en de logging maken het pas bruikbaar — dezelfde post die in wat kost AI-implementatie voor elke route terugkomt.
De eerlijke vergelijking is dus niet "hardware versus abonnement", maar "hardware plus beheer plus kwaliteitsverlies versus abonnement plus afspraken".
Lokaal is niet automatisch veiliger
Dit is het misverstand dat de meeste schade aanricht. "Het staat bij ons in huis" zegt iets over de plek, niet over de beveiliging.
Een server in eigen beheer die niemand bijwerkt, waar het halve kantoor bij kan en waar geen back-up van is, is aantoonbaar onveiliger dan een goed ingerichte dienst met tweefactorauthenticatie en een leverancier die patcht. De vraag is niet waar het staat, maar wie erbij kan, wie het onderhoudt en wat er gebeurt als het misgaat.
Daar komt bij dat het risico dat je met lokaal draaien afdekt — gegevens die bij een externe partij terechtkomen — in de praktijk zelden via de gekozen route binnenkomt. Het komt binnen via een medewerker die iets in een gratis tool plakt omdat de goedgekeurde route te omslachtig is. Wat je daaraan doet, staat in klantgegevens in ChatGPT en shadow AI. De bredere afweging tussen privacy en lokaal draaien staat in de wiki onder lokale AI en privacy.
Hoe je kiest
Vier vragen, in deze volgorde. De eerste die je met "ja" beantwoordt, bepaalt de route.
| Vraag | Bij "ja" |
|---|---|
| Is er een contract of regel die zegt dat deze gegevens ons netwerk niet uit mogen? | Lokaal, of een eigen omgeving met harde garanties |
| Moet het werken zonder verbinding? | Lokaal |
| Gaat het om één taak met heel veel volume? | Reken beide routes door; lokaal is een serieuze kandidaat |
| Geen van bovenstaande? | Zakelijke omgeving met afspraken — en zet je tijd in de inrichting |
In verreweg de meeste MKB-situaties eindigt dit bij de laatste regel. Dat is geen concessie: de winst zit toch niet in waar het model draait, maar in wat het over jouw bedrijf weet. Waarom dat de bepalende factor is, staat in ChatGPT of een eigen AI-systeem en in wat is een AI-kennisbank.