Het handigste stuk automatisering dat ik het afgelopen jaar heb gebouwd, past in mijn broekzak. Het is een Ai-collega die ik bereik via Telegram, de gewone chat-app die ik toch al open heb staan. Ik typ een vraag, en binnen een paar seconden komt er een antwoord terug dat gebaseerd is op mijn eigen kennisbank, mét een verwijzing naar het document waar het vandaan komt.

Geen laptop nodig, geen speciale app, geen ingewikkeld dashboard. Een berichtje sturen zoals ik naar een mens zou doen. En het bijzondere: er verlaat geen enkel gegeven mijn eigen apparatuur, en het kost me per vraag helemaal niets. Dat maakt het niet alleen goedkoop, maar ook een opzet waar ik met een gerust hart vertrouwelijke informatie in stop.

Een chatvenster als voordeur naar je kennis#

Het idee is simpel. Al mijn kennis, aantekeningen, beslissingen en procedures staan in een kennisbank. Die kennisbank is waardevol, maar alleen als ik er ook bij kan op het moment dat ik iets nodig heb. En dat moment is zelden achter mijn bureau. Het is onderweg, in de auto voor een afspraak, of ‘s avonds op de bank als me iets te binnen schiet.

Daarom heb ik als voordeur naar die kennis gekozen voor iets wat ik altijd bij me heb: een chat-app. Ik stuur een vraag, de bot zoekt in mijn kennisbank de paar stukjes op die het meest relevant zijn, en formuleert daaruit een antwoord. De techniek erachter heet RAG, maar de kern is dat de bot niet uit zijn duim zuigt: hij antwoordt op basis van wat er echt in mijn documenten staat, en zegt erbij waar hij het vandaan heeft. Die bronvermelding is geen detail. Ze maakt het verschil tussen een collega die je op zijn woord moet geloven en een collega die je meteen laat zien waar je het kunt nalezen.

Waarom ik dit volledig lokaal draai#

De voor de hand liggende vraag is: waarom niet gewoon een bestaande Ai-dienst? Het antwoord is tweeledig: privacy en kosten.

Zodra je je kennisbank in een externe Ai-dienst stopt, verlaten je gegevens je bedrijf. Klantnamen, interne afspraken, misschien persoonsgegevens: het gaat naar de servers van een ander. Voor veel bedrijven is dat op zijn best een grijs gebied en op zijn slechtst in strijd met de AVG. Bij mij speelt die discussie niet, want alles gebeurt op eigen hardware. Zowel het model dat mijn documenten doorzoekbaar maakt als het model dat de antwoorden schrijft, zijn gratis, open modellen die lokaal draaien. Er is geen dienst die meeleest en geen data die het pand verlaat.

En de cijfers zijn vriendelijk. Mijn kennisbank bestaat uit een paar honderd documenten, samen zo’n duizend kleine stukjes. Het opbouwen van de doorzoekbare index kostte een kleine vijf minuten op een gewone processor, zonder dure videokaart. Daarna kost elke vraag me niets, terwijl een betaalde dienst bij elke vraag de meter laat lopen. Voor iets wat ik de hele dag door raadpleeg, telt dat verschil op.

Escaleren mag, maar gecontroleerd#

Een klein lokaal model is snel en gratis, maar niet zo slim als de grote betaalde modellen. Voor de meeste vragen is dat prima: even iets opzoeken, een afspraak terugvinden, een procedure checken. Daar heeft dat kleine model ruim voldoende aan.

Maar soms komt er een vraag langs die echt om zwaarder denkwerk vraagt. Voor die gevallen heb ik ingebouwd dat de bot kan opschalen naar een krachtiger, betaald model. Alleen: dat gebeurt niet zomaar. De standaard is en blijft gratis en lokaal. De dure route is de uitzondering, en voor alles wat enig risico draagt, zet de bot eerst een bevestigingsknop in de chat. Hij voert het niet zelf uit, hij vraagt het eerst. Zo houd ik de kosten laag en de controle bij mezelf, terwijl ik toch de kracht van een groot model achter de hand heb voor de enkele vraag die het echt nodig heeft.

De valkuil die niks met techniek te maken had#

De leukste les zat niet in de techniek, maar in het gedrag van de bot. Ik had hem namelijk bovenop mijn algemene Ai-opzet gebouwd, en die opzet had allerlei ingebakken gewoontes die op mijn werkplek nuttig zijn, maar in een chatvenster volstrekt misplaatst.

Het gevolg was komisch en irritant tegelijk. Ik typte “hoi”, en in plaats van gewoon “hoi” terug, begon de bot voorstellen te doen om dingen op te slaan, aantekeningen te maken en zaken vast te leggen. Hij deed precies wat hij in zijn oorspronkelijke rol geleerd had, maar als gespreksgenoot sloeg het nergens op. Hij gedroeg zich als een assistent die halverwege een vergadering ineens begint te notuleren terwijl je alleen maar gedag zei.

De oorzaak was helder: een bot die je op een bestaande opzet ent, erft de instincten van die opzet. En die instincten moet je bewust uitschakelen. Ik heb de chat-bot daarom een eigen, aparte set instructies gegeven die losstaat van de rest: kort antwoorden, geen ongevraagde voorstellen, geen opmaakkopjes, gewoon de vraag beantwoorden. Pas met die eigen chat-persoonlijkheid gedroeg hij zich als een normale gesprekspartner.

Dit is een les die veel breder geldt dan mijn ene bot. Wie een Ai-onderdeel bouwt bovenop een bestaand Ai-systeem, krijgt de gewoontes van dat systeem er gratis bij, of hij dat nu wil of niet. Bedenk bewust welk gedrag past bij de nieuwe rol, en zet expliciet uit wat daar niet bij hoort. Anders gedraagt je nieuwe hulpje zich als een kopie van iets wat voor een heel ander doel gemaakt was.

Wat betekent dit voor jouw bedrijf?#

De belofte is aantrekkelijk: je kennis altijd bij de hand, via een app die je toch al gebruikt, zonder dat er per vraag geld wegloopt of gegevens het pand verlaten. Voor bedrijven die met gevoelige informatie werken is die lokale opzet niet zomaar een leuk extraatje, maar vaak de enige verantwoorde manier om Ai op je eigen kennis los te laten.

Maar de winst zit in de details die niks met het model te maken hebben. Laat je bot altijd de bron vermelden, zodat niemand een verzonnen antwoord voor waar aanneemt. Houd de standaard goedkoop en lokaal, en laat opschalen naar een duur model een bewuste uitzondering zijn met een bevestiging ertussen. En besef dat een bot die je op iets bestaands bouwt, de gewoontes daarvan overneemt: geef hem een eigen rol met eigen instructies.

Zelf aan de slag#

Denk je na over Ai die past bij hoe jouw bedrijf werkt, en vraag je je af waar de grenzen zouden moeten liggen, kijk dan op de consulting-pagina hoe ik werk. En wil je eerst zelf verkennen waar Ai in jouw bedrijf verantwoord kan starten, download dan de gratis Ai-startklaar-checklist voor het mkb.