Waar draait een chatbot als hij op uw website staat? Die vraag komt zelden ter sprake bij de aanschaf en vrijwel altijd bij de eerste vraag van een klant over gegevensbescherming. Het korte antwoord: het venster staat op uw site, het geheugen staat bij de aanbieder, en het denkwerk gebeurt op apparatuur van een derde partij. Drie plekken dus, en meestal drie verschillende bedrijven.

Plek 1: het venster op uw site

Wat de bezoeker ziet, is een klein stukje code dat uw WordPress-site meelaadt. Meestal is dat een script van enkele tientallen tot enkele honderden kilobytes, opgehaald van de servers van de aanbieder. Het venster zelf denkt niet; het toont alleen wat er binnenkomt.

Dat script is wel het onderdeel dat uw laadtijd beïnvloedt en dat in uw cookiemelding thuishoort. Het is bovendien het onderdeel waar u zelf iets over te zeggen heeft: u bepaalt op welke pagina’s het laadt en op welk moment. Voor de rest van uw externe scripts geldt hetzelfde afwegingskader, beschreven in het stuk over scripts van derden op uw pagina's.

Plek 2: het geheugen bij de aanbieder

De partij die u de chatoplossing levert, bewaart uw instellingen, uw ingelezen teksten en de gesprekken. Bij Europese aanbieders staat dat doorgaans in datacentra binnen de EU; bij Amerikaanse partijen is dat een vraag die u expliciet moet stellen, want het antwoord verschilt per pakket.

Hier zit ook de zoekstap: als een bezoeker iets vraagt, wordt in deze omgeving gezocht welke stukjes van uw teksten relevant zijn. Die zoekstap is niet zwaar en gaat snel; het is het volgende onderdeel dat de tijd kost.

Plek 3: het model op apparatuur van derden

Het eigenlijke taalmodel draait vrijwel nooit bij uw hostingpartij en meestal ook niet bij de chataanbieder. Het draait op gespecialiseerde apparatuur bij een handvol grote partijen, wereldwijd, en per vraag reist uw tekst daarheen en het antwoord terug.

Wat u daarover kunt regelen, is beperkt maar niet niets. Er zijn aanbieders die modellen aanbieden met verwerking binnen de EU, en zakelijke voorwaarden waarin staat dat uw teksten niet worden gebruikt om modellen verder te trainen. Vraag dat op papier; het is de vraag die u later moet kunnen beantwoorden als een klant erom vraagt.

Kan het niet gewoon op mijn eigen server

Technisch bestaat dat, maar voor het MKB is het zelden verstandig. Een taalmodel dat kwalitatief in de buurt komt van de bekende diensten, vraagt om apparatuur die honderden tot duizenden euro’s per maand kost aan huur, plus iemand die het bijhoudt. Uw gewone WordPress-hosting kan dit niet; die is gebouwd voor pagina’s uitserveren, niet voor rekenwerk van deze orde.

Kleinere modellen die wel op bescheiden apparatuur draaien, bestaan en worden snel beter. Voor eenvoudige taken zoals het indelen van formulierinzendingen is dat al bruikbaar. Voor vloeiend Nederlands klantcontact vallen ze op dit moment nog merkbaar af. Wij zien dat verschuiven, maar zouden er vandaag geen klantcontact op zetten.

Wat het betekent voor snelheid

Elke vraag legt een fysieke afstand af. Draait het model in de Verenigde Staten, dan kost alleen al de heen- en terugreis honderden milliseconden voordat er ook maar één woord is geschreven. Voor een chatgesprek is dat te overzien, voor een functie die bij elke paginaweergave iets moet ophalen niet.

Vandaar een simpele vuistregel: alles wat bij elke paginaweergave nodig is, hoort niet aan een extern model te hangen. Alles wat een bezoeker bewust aanroept, mag dat wel. Dezelfde afweging maakt u bij de plek van uw eigen server, zoals uitgelegd in het verhaal over serverlocatie en laadtijd.

Wat u vastlegt

  1. Welke drie partijen betrokken zijn, met naam. Zonder die lijst kunt u geen privacyverklaring schrijven die klopt.
  2. Waar de gesprekken worden bewaard en hoe lang.
  3. Of uw teksten voor training worden gebruikt. Bij zakelijke pakketten hoort het antwoord nee te zijn.
  4. Wat er gebeurt bij uitval. Valt de AI-dienst weg, dan moet uw site gewoon blijven werken. Dat klinkt vanzelfsprekend en is het niet.
  5. Wie de sleutels beheert. Staan de toegangssleutels op het account van een vertrokken medewerker, dan heeft u een probleem op het slechtste moment.

Wat er gebeurt als een schakel wegvalt

Bij drie schakels zijn er drie manieren om uit te vallen, en ze voelen voor de bezoeker alle drie anders.

Valt de partij achter het model weg, dan blijft het venster gewoon openstaan en gebeurt er na de vraag niets. Dat is de vervelendste variant, want de bezoeker denkt dat het aan hem ligt. Een venster dat na tien seconden meldt dat het antwoord er niet komt en een formulier toont, lost dat op.

Valt de chataanbieder weg, dan laadt het venster helemaal niet. Dat merkt niemand behalve u, en het is de onschuldigste storing van de drie, mits uw telefoonnummer en formulier gewoon op de pagina staan.

Het derde geval is het gevaarlijkste: uw eigen pagina wacht op een antwoord dat niet komt. Dat gebeurt alleen als iemand de AI-stap in het opbouwen van de pagina zelf heeft gezet, bijvoorbeeld in een zoekfunctie of een productadvies. Dan wordt uw hele site traag of loopt hij vast omdat een externe dienst hapert.

De regel die dat voorkomt, is kort: geen enkel AI-onderdeel mag een pagina laten wachten. Het laadt erna, of het laadt niet. Vraag dat expliciet na bij wie het voor u inbouwt, want achteraf is het lastiger te veranderen dan vooraf af te spreken.

De praktische samenvatting

U koopt geen apparaat maar een keten. Die keten heeft drie schakels, en bij elke schakel hoort een contract, een locatie en een storingsscenario. Dat is minder spannend dan het woord AI suggereert, en het lijkt sterk op wat u al kent van betaaldiensten en verzendkoppelingen.

Voor de meeste bedrijven is de verstandige keuze: een Europese aanbieder voor het venster en de opslag, een zakelijk contract voor het model, en het venster niet laden op pagina’s waar het niets doet. Wij leggen die keuze per site vast in het beheerdossier, samen met de andere externe diensten, zodat er over een jaar niemand hoeft te raden. Wat daar verder bij komt kijken, staat bij AI die naast uw bestaande hosting draait.