Een van de vragen die ik het vaakst krijg, is deze: “Als ik veel met Ai ga doen, kan ik dan niet beter een dikke computer met een zware videokaart kopen en het lokaal draaien? Dan ben ik van die API-kosten af.” Het klinkt logisch. Je koopt iets één keer, en daarna is het gratis. Geen tikkende meter, geen factuur per maand.

Ik heb die som recent echt gemaakt, voor een project waarin ik klantsites host en met Ai-agents onderhoud. En de uitkomst was zo eenduidig dat ik de aankoop heb uitgesteld. In dit artikel laat ik de berekening zien, want dezelfde logica geldt voor bijna elk MKB-bedrijf dat overweegt om zelf Ai-hardware neer te zetten.

De verleiding: één keer betalen, daarna gratis#

De aantrekkingskracht is echt. Een moderne Ai-videokaart of een krachtige Mac kost tussen de €2.500 en €6.000. Daarmee kun je open modellen lokaal draaien, en dan betaal je inderdaad niets meer per verwerkte vraag. Voor iemand die gewend is aan een maandelijkse cloud-rekening voelt dat als eindelijk grip krijgen op de kosten.

Maar “gratis daarna” is een illusie zodra je de aankoopprijs meeneemt in de rekensom. De vraag is niet of lokaal draaien geld kost per vraag (dat doet het bijna niet), maar hoe lang het duurt voordat die €2.500 tot €6.000 zichzelf terugverdient tegenover wat je nu aan een cloud-aanbieder betaalt. En daar wringt het.

De cijfers uit mijn eigen project#

In het hostingproject draaien de Ai-taken op een mix van een goedkoop en een middelklasse cloudmodel. Denk aan het samenvatten van logbestanden, het inschatten van updates, het classificeren van meldingen. Ik heb per klantsite ingeschat wat die Ai-taken op jaarbasis kosten bij de verwachte hoeveelheid werk. Dat kwam uit op ongeveer €2 tot €5 per klantsite per jaar.

Lees dat nog eens. Twee tot vijf euro. Per site. Per jaar. Voor het complete Ai-onderhoud van die site.

Zet daar de hardware tegenover. Een investering van €2.500 tot €6.000, afgezet tegen een paar euro besparing per site per jaar, levert een terugverdientijd op van ergens tussen de 5 en 40 jaar. En dat is nog puur gerekend op de tokens voor dit ene soort werk, zonder de stroomkosten, het onderhoud en de veroudering van de hardware mee te nemen. Geen enkele redelijke ondernemer schrijft een investering af over vier decennia. Tegen die tijd is de hardware allang drie generaties oud.

De conclusie was voor mij glashelder: voor het pilotvolume koop ik niets. Ik blijf de cloud-API huren, log netjes per site wat het kost, en herzie die keuze pas als het volume echt omhoog gaat.

Wanneer lokale hardware wél gaat kloppen#

Dat betekent niet dat lokaal draaien nooit zinnig is. Het kantelpunt ligt op twee voorwaarden die tegelijk waar moeten zijn.

Ten eerste: voldoende volume. Zolang je een handvol sites of processen hebt, is de API-rekening verwaarloosbaar en verlies je die vergelijking altijd. Pas bij tientallen sites of zwaar, continu gebruik begint de meter genoeg te lopen om een aankoop te overwegen.

Ten tweede, en dit is de belangrijkste: de hardware moet méér doen dan dit ene klusje. Op het moment dat diezelfde machine niet alleen de klantsites bedient, maar ook je andere Ai-workloads draagt (analyses, een interne chatbot, achtergrondverwerking, experimenten), verandert de aard van de uitgave. Dan is het geen kostenpost voor hosting meer, maar een platform-investering die je over meerdere toepassingen uitsmeert. Precies zoals je een bedrijfsserver ook niet afschrijft op één applicatie.

Zolang die twee dingen niet allebei waar zijn, is zelf hardware kopen een dure manier om een goedkoop probleem op te lossen.

Wat CPU-only draaien je in de praktijk oplevert#

Nog even over dat “lokaal draaien” zelf, want daar zit een verrassing die veel mensen niet zien aankomen. Je hoeft niet meteen een videokaart van duizenden euro’s te kopen om te experimenteren: je kunt een klein Ai-model ook gewoon op een normale processor draaien, zonder speciale videokaart. Ik doe dat op mijn eigen homeserver, een doodgewone machine met een gangbare processor en geen zware videokaart erin.

Werkt dat? Ja, maar traag. Zo’n opstelling haalt ongeveer 3 tot 8 tokens per seconde op een middelgroot model. Een token is grofweg een stukje van een woord, dus je moet je voorstellen dat de tekst er woord voor woord uit komt druppelen. Voor werk dat ‘s nachts of in de achtergrond mag lopen (een stapel documenten samenvatten, een batch meldingen classificeren, iets voorbereiden voor de ochtend) is dat prima. Het heeft geen haast, en gratis is gratis.

Maar voor iets waar een mens op zit te wachten (een chatbot die direct moet antwoorden, een assistent die live meedenkt terwijl een klant aan de lijn hangt) is die snelheid onbruikbaar. Niemand wacht geduldig terwijl een antwoord er langzaam uit sijpelt. Voor realtime werk heb je de snellere cloudmodellen nodig, of uiteindelijk die dure hardware. Dat onderscheid, batch versus realtime, is belangrijker voor je keuze dan de vraag lokaal versus cloud op zich.

Wat betekent dit voor jouw bedrijf?#

De les is niet “koop nooit hardware”, maar “reken de terugverdientijd uit vóórdat je iets bestelt, en wees eerlijk over het volume”. Concreet:

Bereken eerst wat je Ai-taken nú per maand of per jaar kosten in de cloud. Voor de meeste MKB-bedrijven is dat een verrassend laag bedrag, vaak lager dan één etentje. Zet dat af tegen de aanschafprijs van hardware plus stroom plus onderhoud. Als de terugverdientijd in de jaren loopt, is de keuze gemaakt: blijf huren.

Overweeg lokale hardware pas serieus als je twee dingen kunt aanvinken: het volume is echt groot, én dezelfde machine draagt meerdere van je Ai-toepassingen. Dan pas verschuift het van kostenpost naar investering.

En wil je alleen maar experimenteren, om te voelen wat een lokaal model kan? Dat kan gratis op een gewone computer, mits je accepteert dat het traag is en alleen voor werk zonder tijdsdruk. Een prima manier om te leren zonder een cent uit te geven.

De grootste besparing zit hier niet in de techniek, maar in het niet kopen van iets wat je niet nodig hebt. Dat is een terugkerend thema in mijn werk: de goedkoopste oplossing is vaak de aankoop die je nét niet doet.

Wil je voor jouw processen laten uitrekenen of Ai eigenlijk wel iets kost dat de moeite van bezuinigen waard is, en waar je geld écht weglekt? Kijk op de consulting-pagina hoe ik werk: nuchter, op cijfers, zonder je een dure oplossing aan te praten die je niet nodig hebt. Wil je zelf beginnen, download dan de gratis Ai-kostenwijzer voor het mkb: welk model wanneer, wat het kost en of lokale hardware zich terugverdient.