Terug naar de blog

Minimale rechten voor AI-agents: begin met de functieomschrijving

· Door Bee Flow · 6 min. lezen

Zes nationale cybersecuritydiensten gaven samen advies over AI-agents die tools gebruiken: alleen de toegang die de taak vraagt, een mens vóór alles met gevolgen, en een logboek dat je kunt lezen. Hoe dat eruitziet in een kleine organisatie, met een verzonnen agent voor leveranciersmail.

Een plattegrond van een kantoor waarin alleen twee kamers amberkleurig zijn ingekleurd, met een toegangspas ernaast

Op 1 juni publiceerde het OWASP GenAI Security Project versie 2.01 van zijn rapport State of Agentic AI Security and Governance, een gids voor het beveiligen en besturen van AI-systemen die zelfstandig handelen. Een maand eerder, op 1 mei, brachten zes nationale cybersecuritydiensten, waaronder het Amerikaanse CISA, de NSA en het Britse NCSC, samen de richtlijn Careful adoption of agentic AI services uit. Het Britse NCSC vatte die op 15 mei samen in een blog met als ondertitel "make sure you can walk before you run".

De gezamenlijke richtlijn is geschreven voor overheden en vitale infrastructuur, maar de kern past ook bij een bedrijf van twintig mensen. Dit stuk maakt van het deel over rechten iets dat een IT-beheerder deze maand kan inrichten.

Wat de diensten vragen

De richtlijn is duidelijk over het risico. Volgens de auteurs zijn rechten een hoofdzorg bij AI-agents, en moet het principe van minimale rechten (least privilege) strikt worden gevolgd. Ze raden aan een agent nooit brede of onbeperkte toegang te geven, zeker niet tot gevoelige gegevens of kritieke systemen, en agents alleen in te zetten voor taken met een laag risico die niet gevoelig zijn.

Het voorbeeld uit de richtlijn ligt dicht bij veel kantoren. Een organisatie laat een agent inkoopgoedkeuringen en het contact met leveranciers afhandelen, en geeft hem ruime toegang tot financiële systemen, e-mail en contracten. Die rechten worden alleen bij de ingebruikname bekeken. Een aanvaller neemt één hulpmiddel met een laag risico in de werkstroom van de agent over, erft daarmee diens rechten, wijzigt contracten en keurt betalingen goed. Omdat alles onder de identiteit van de agent gebeurt, zien de auditlogs er legitiem uit.

Voor een kleine organisatie doen vier adviezen het meeste werk:

  • geef alleen toegang tot precies de gegevens, handelingen en periode die nodig zijn, en vervang vaste sleutels en wachtwoorden door inloggegevens die verlopen als de taak klaar is
  • bepaal vooraf wanneer een mens moet goedkeuren, en laat die keuze bij de ontwerpers en beheerders van het systeem, niet bij de agent zelf
  • leg vast welke tools een agent gebruikt, met de uitkomst in een vorm die een mens kan lezen
  • laat een agent nooit zijn eigen rechten aanpassen

De NCSC-blog voegt de menselijke kant toe. Het NCSC vraagt agents alleen de minimale toegang te geven die ze nodig hebben, voor de kortst mogelijke tijd. Voordat een agent aan echte systemen wordt gekoppeld, moet vastliggen wie eigenaar is, wie de toegang goedkeurt, wie het gedrag volgt, wie incidenten bekijkt en wie de agent uiteindelijk kan stoppen. De toets: kun je de acties van een agent niet begrijpen, volgen of indammen, dan is hij nog niet klaar voor gebruik.

Een agent is een collega met een functieomschrijving

Dat lijstje lijkt op wat je al doet voor mensen. Een nieuwe collega op inkoop krijgt toegang tot de inkoopmail, niet tot de map met salarissen. Op de eerste dag mag die een antwoord aan een leverancier opstellen, maar een wijziging in de betalingstermijn gaat langs de leidinggevende. En gaat er iets mis, dan zie je in de mailbox wat er is verstuurd.

Schrijf dezelfde vier regels op voor een agent, voordat je hem bouwt. Welke systemen hij mag lezen. Welke hij mag wijzigen, en hoe. Wanneer een mens moet goedkeuren. Hoe je achteraf ziet wat hij heeft gedaan. Zet er een vijfde regel bij: de naam van wie hem kan uitzetten.

Een verzonnen voorbeeld: de agent voor leveranciersmail

Groothandel Voorbeeld is een verzonnen groothandel met 25 medewerkers. Twee inkopers krijgen zo'n veertig leveranciersmails per dag: verschoven levertijden, prijswijzigingen, orderbevestigingen, af en toe een klacht. De IT-beheerder wil een agent die die mails leest en antwoorden voorbereidt.

Op dag één is de functieomschrijving kort.

Dag één Later, als hij het heeft verdiend
Leest de leveranciersmail van de inkopers, een kennisbank met de inkoopvoorwaarden de lijst met openstaande orders, alleen lezen
Wijzigt maakt een concept-antwoord, verder niets nog steeds alleen concepten, nu ook vanuit een geplande run elke ochtend
Goedkeuring de inkoper leest elk concept en verstuurt het vanuit de eigen mailbox een goedkeuringsstap voordat er iets de deur uit gaat
Achteraf elke toolaanroep zichtbaar in het gesprek een rungeschiedenis met de invoer en uitvoer van elke stap
Nooit versturen, verwijderen, doorsturen, betaalgegevens, bankrekeningen van leveranciers hetzelfde

De agent krijgt op dag één drie tools: mail zoeken, een bericht lezen, een concept maken. De tool die verstuurt krijgt hij niet. Hij wordt gedeeld met de twee inkopers en verder niemand, dus hij bereikt alleen wat hun eigen accounts bereiken. Een inkoper opent het concept, past het aan en verstuurt het. Dat is de menselijke goedkeuring: zo'n tien seconden per mail.

De onderste regel telt het zwaarst. Een leveranciersmail is tekst van buiten je organisatie, en zulke tekst kan instructies bevatten die voor de agent bedoeld zijn en niet voor jou. Liggen versturen, doorsturen en bankgegevens buiten bereik van de agent, dan levert zo'n mail in het ergste geval een vreemd concept op, en dat valt een inkoper op.

Een rij van zes schakelaars: twee aan, drie uit, en de laatste onder een gesloten amberkleurig veiligheidskapje

Wat je later toevoegt, en wanneer

Voeg rechten één voor één toe, en alleen als je kunt zeggen waarop je dat baseert. Na een maand concepten die de inkopers zelden herschrijven, mag de agent de openstaande orders lezen, zodat hij het juiste ordernummer noemt. Dat blijft lezen. Noteer datum en reden, zoals bij een toegangsverzoek van een collega.

De volgende stap haalt de agent uit het chatvenster en zet hem in een geplande taak die concepten klaarzet voordat de inkopers binnenkomen. Dan kijkt niemand meer mee, en geldt het advies over goedkeuringsmomenten volledig. Zet een goedkeuringsstap voor alles wat verstuurt of wegschrijft, en test de run eerst zonder dat er echt iets gebeurt.

Sommige rechten komen er nooit bij. Een ander rekeningnummer voor een leverancier, een betaling, een wijziging in een contract: dat blijft mensenwerk, hoe goed de agent het verder ook doet. Schrijf dat lijstje nu op, nu het nog kort is.

Loop de functieomschrijving elk kwartaal na. Rechten die voor één project zijn toegevoegd en sindsdien niet meer zijn gebruikt, gaan terug. Zo ziet "voor de kortst mogelijke tijd" eruit op een klein kantoor.

Hoe Bee Flow hiermee omgaat

In Bee Flow heeft elke agent een vaste set tools, die je één voor één aanvinkt in de Agent designer, met een blokkeerlijst voor tools die hij nooit mag aanroepen, en je kunt hem met alleen bepaalde groepen delen. Koppelingen zet je aan per organisatie en per groep, en een agent werkt via het gekoppelde account van de persoon die hem gebruikt, dus hij kan niet meer bereiken dan die persoon. In de Gmail-koppeling zijn een concept maken en versturen aparte tools, en Outlook bestaat ook in een variant die alleen leest, dus de kolom van dag één is een kwestie van vinkjes zetten. Elke toolaanroep staat in het gesprek, met het volledige verzoek en antwoord. Automatiseringen voegen daar goedkeuringsstappen aan toe die een run pauzeren tot iemand beslist, een proefrun die geen tools aanroept die versturen, aanmaken, wijzigen of verwijderen, en een rungeschiedenis met de invoer en uitvoer van elke stap. Wil je zo'n agent of automatisering met deze grenzen liever door ons laten bouwen, kijk dan bij automatisering als dienst. Meer op de pagina over privacy en beveiliging, of neem contact op om het voorbeeld met leveranciersmail op je eigen mail te proberen.

#security #ai-at-work