Wat er gebeurt als medewerkers klantgegevens in een AI-chat plakken
· Door Bee Flow · 3 min. lezen
Mensen plakken klantmails in ChatGPT omdat het tijd scheelt. Een verbod houdt dat niet tegen. Een controle op weg naar buiten wel, en die kan op je eigen server draaien.

Iemand bij jou op kantoor moet een lastige klantmail beantwoorden. Hij kopieert de mail naar ChatGPT, vraagt om een nette reactie en plakt het resultaat in Outlook. Twee minuten werk en het antwoord is prima. In die mail stonden ook een naam, een adres, een telefoonnummer en een IBAN. Die staan nu op een server van een bedrijf waarmee je waarschijnlijk geen verwerkersovereenkomst hebt.
Niemand doet dit met kwade bedoelingen. Het gaat gewoon sneller, en daarom helpt een regel in het personeelshandboek niet.
Waarom een verbod niet werkt
Veel bedrijven hebben een beleid waarin staat: "voer geen persoonsgegevens in bij AI-tools." Iedereen tekent ervoor. Alleen zien persoonsgegevens er tijdens het werk niet bijzonder uit. Een klantmail is gewoon een klantmail. En niemand loopt elke alinea na op een kenteken of een geboortedatum voordat hij op plakken drukt.
Een regel die ervan uitgaat dat mensen iets opmerken wat ze niet opmerken, heeft hulp van software nodig.
Een controle op weg naar buiten
Bee Flow heeft een filter dat Privacy Shield heet. Het leest elk bericht voordat het naar het AI-model gaat en zoekt naar 21 soorten gegevens, waaronder namen, adressen, telefoonnummers, IBAN's, BSN's, kentekens, medische termen en API-sleutels.
Dat gaat in twee stappen. Gegevens met een vaste vorm worden gevonden met patronen en een controlegetal. Een IBAN moet door dezelfde mod-97-controle die je bank gebruikt, een BSN door de elfproef. Voor gegevens zonder vaste vorm, zoals een naam of een adres, leest een klein taalmodel de context mee. Dat model voorkomt ook domme fouten: "factuurnummer 0123456789" is geen telefoonnummer, en dat snapt het.
Beide stappen draaien op je eigen server. De controle zelf stuurt niets door naar wie dan ook.
Blokkeren of vervangen
Wordt er iets gevonden, dan zijn er twee mogelijkheden. Standaard wordt het bericht tegengehouden en krijgt de medewerker te zien welk soort gegeven erin zat. Die haalt het weg en verstuurt opnieuw. Dit zit in elke licentie, ook de gratis.
De andere mogelijkheid vervangt elke waarde door een plaatshouder voordat het bericht vertrekt. Het model krijgt dan iets als "[person_1], wonend op [address_1], heeft factuur 2291 niet betaald" en schrijft zijn antwoord met die plaatshouders. Bee Flow zet de echte waarden terug voordat de medewerker het antwoord ziet. Het model heeft ze nooit gehad. Deze optie zit in de hogere licenties. Op de prijspagina zie je welke.
Ligt de detectieservice eruit, dan worden chatberichten tegengehouden. Dat hebben we bewust zo gemaakt. Ongecontroleerde tekst stilletjes doorsturen vinden we de ergere fout.
Wat het niet doet
De herkenning is niet foutloos. De meeste persoonsgegevens worden gevonden, een paar niet. Bij een telefoonnummer in een heel kort bericht zonder context is het filter bijvoorbeeld minder zeker. Je kunt het strenger afstellen, maar dan slaat het ook vaker aan op dingen die onschuldig zijn. Afspraken met je team blijven dus nodig. Het filter is er voor de momenten dat mensen die afspraken vergeten.
Het filter moet ook geïnstalleerd zijn. Het is een aparte service die op een gewone processor draait, een grafische kaart is niet nodig. Een zelf gehoste installatie zonder die service controleert niets.
De controle inbouwen
In Bee Flow zit de controle in de chat zelf, dus niemand hoeft voor het versturen aan een extra stap te denken. Blokkeren zit in elke licentie, ook de gratis. Op de pagina privacy en beveiliging zie je hoe het filter samengaat met versleuteling en de rest van de installatie, eigen AI-chat gaat over de chat zelf en Bee Flow en ChatGPT Business zet de twee naast elkaar. Wil je zien hoe het een verzonnen klantmail tegenhoudt, plan dan een gesprek van 20 minuten.
Dit stuk hoort bij een reeks over AI-chat en klantgegevens. Het begint bij is ChatGPT veilig voor bedrijven?, en is Copilot AVG-proof? gaat over de assistent van Microsoft.