AI-governance voor agentic AI vraagt controle op bevoegdheden en bijsturing

Stand: 20 september 2026

Agentic AI is niet simpelweg een chatbot met een andere naam. NIST beschrijft agentic AI als systemen die als autonome agent kunnen functioneren: zij kunnen zelfstandig beslissingen nemen, leren van interacties, zich aanpassen aan veranderende omgevingen en dynamisch interacteren met gebruikers, systemen en praktijksituaties.[1] Zodra een systeem namens een organisatie informatie ophaalt, een processtap start of een andere applicatie aanstuurt, is de centrale bestuursvraag daarom niet alleen of het model een bruikbaar antwoord geeft. De vraag is ook: welke handeling mag deze agent uitvoeren, binnen welke grenzen, met welk bewijs en wie grijpt in wanneer dat nodig is?

Die vraag hoort vóór productie beantwoord te zijn. Goede AI-governance is geen afzonderlijk goedkeuringsmoment naast innovatie, maar de inrichting van verantwoordelijkheid, risicobeheersing en controle gedurende de levenscyclus. Voor organisaties in de EU komt daar een juridisch kader bij: de AI Act werkt risicogebaseerd en kent verschillende verplichtingen voor aanbieders en gebruikende organisaties, afhankelijk van de toepassing.[2]

Feiten: waarom agentic AI een ander beheersvraagstuk creëert

Een generatief model dat uitsluitend tekstvoorstellen doet, heeft al aandacht nodig voor betrouwbaarheid, privacy en informatiebeveiliging. Een agent die met toegestane hulpmiddelen gegevens leest, acties voorbereidt of opdrachten doorgeeft, voegt een uitvoeringslaag toe. Daarmee worden de grenzen van identiteit, autorisatie, logging en escalatie operationeel. Dit betekent niet dat iedere agent dezelfde risico’s heeft. Het risico wordt mede bepaald door doel, context, gegevens, gekoppelde systemen, doelgroep, mate van autonomie en de gevolgen van een fout.

NIST positioneert agentic AI nadrukkelijk rond betrouwbaarheid, evaluatie en testen, standaarden, interoperabiliteit, governance en risicomanagement.[1] Dat is een bruikbaar vertrekpunt, omdat het voorkomt dat governance wordt gereduceerd tot een modelkeuze of een eenmalige juridische toets. De NIST AI Risk Management Framework (AI RMF) is vrijwillige, algemene richtlijn; het is geen vervanging voor toepasselijke wet- of regelgeving. Het raamwerk onderscheidt vier samenhangende functies: GOVERN, MAP, MEASURE en MANAGE. GOVERN loopt door alle fasen heen; de drie andere functies kunnen op systeemniveau en op specifieke momenten in de levenscyclus worden toegepast.[3]

De inhoud daarvan is concreet. NIST noemt onder GOVERN onder meer gedocumenteerde juridische en regelgevende vereisten, heldere rollen, risicotoleranties, een AI-systeeminventaris, periodieke beoordeling en veilige uitfasering.[3] Voor generatieve AI adviseert NIST daarnaast onder andere afspraken over gebruiksvoorwaarden, het meenemen van effecten van koppelingen met derden, incidentregistratie, post-deploymentmonitoring, mogelijkheden voor override en wijzigingsbeheer.[4] Deze onderwerpen zijn juist relevant als een agent in een bedrijfsproces gereedschappen of externe componenten gebruikt.

Ook beveiliging verdient een eigen plaats in het besturingsmodel. OWASP publiceerde een peer-reviewed Top 10 voor agentic applications als praktisch startpunt voor risico’s rond autonome systemen die plannen, handelen en beslissen in complexe workflows.[5] De waarde hiervan is niet dat een lijst een volledig beveiligingsprogramma vervangt, maar dat zij teams dwingt om te kijken naar de combinatie van natuurlijke-taalinvoer, toegangsrechten, tools, geheugen, koppelingen en menselijke bediening. Een agent moet niet méér kunnen dan nodig is voor zijn afgebakende taak.

Feiten: de Europese context vraagt classificatie, niet gokken

De AI Act is Verordening (EU) 2024/1689 en hanteert een risicogebaseerde benadering. De Europese Commissie licht toe dat veel AI-systemen beperkt of geen risico hebben, terwijl bepaalde toepassingen door hun effect op gezondheid, veiligheid of grondrechten als hoog risico kunnen gelden.[2] Een organisatie kan daarom niet op basis van het etiket ‘agentic’ afleiden welke wettelijke plichten gelden. De concrete beoogde toepassing en gebruikscontext zijn bepalend.

Voor hoogrisicosystemen beschrijft de verordening eisen rond risicomanagement, relevante datakwaliteit, technische documentatie en registratie, transparantie, informatie voor de gebruikende organisatie, menselijk toezicht, robuustheid, nauwkeurigheid en cybersecurity.[6] De Commissie vermeldt dat de strikte verplichtingen voor hoogrisicosystemen vanaf 2 december 2027 van toepassing worden.[2] Dat is geen reden om tot die datum te wachten: inrichting, testen en bewijsvoering kosten tijd, en bestaande verplichtingen uit andere regels kunnen naast de AI Act blijven gelden.

Voor alle aanbieders en gebruikende organisaties is AI-geletterdheid een actueel aandachtspunt. Volgens de Commissie verplicht artikel 4 hen maatregelen te nemen die de AI-geletterdheid ondersteunen van medewerkers en andere personen die namens hen met AI-systemen werken. Daarbij moeten technische kennis, ervaring, opleiding en de gebruikscontext worden meegewogen.[7] Die verplichting geldt sinds 2 februari 2025; toezicht en handhaving begonnen volgens die toelichting vanaf augustus 2026.[7] Voor medewerkers die menselijk toezicht op hoogrisicosystemen uitvoeren, blijft gerichte opleiding volgens de Commissie essentieel.[7]

Eveneens actueel zijn de transparantieverplichtingen. De Commissie vermeldt dat deze vanaf augustus 2026 gelden, waaronder gevallen waarin mensen moeten weten dat zij met een machine interacteren en regels over de identificeerbaarheid van door AI gegenereerde inhoud.[2] Niet elke interne agent raakt deze verplichtingen op dezelfde manier. Wel maakt dit duidelijk waarom een organisatie haar toepassingsgevallen moet vastleggen in plaats van één algemeen AI-beleid op elk systeem te plakken.

Van beleid naar bestuurbare controle

Een werkbaar governanceprogramma begint met een register van AI-toepassingen. Leg per agent ten minste het bedrijfsdoel, proceseigenaar, leverancier of ontwikkelteam, gebruikte modellen, gegevenscategorieën, gekoppelde systemen, tools, beoogde gebruikers en de mate van autonomie vast. Voeg een classificatie toe van de mogelijke impact bij een fout, ongewenste actie, datalek of onbeschikbaarheid. Dit is geen administratieve oefening: zonder inventaris is niet zichtbaar waar toezicht, wijzigingsbeheer en incidentrespons moeten landen.

Vervolgens is een beslissings- en bevoegdhedenmodel nodig. Maak expliciet welke acties de agent alleen mag voorstellen, welke hij binnen harde grenzen mag uitvoeren en welke altijd menselijke toestemming vragen. Pas het beginsel van minimale bevoegdheden toe: geef alleen de identiteit, gegevens en toolrechten die voor de specifieke taak aantoonbaar nodig zijn. Scheid waar mogelijk lezen, voorbereiden, uitvoeren en goedkeuren. Begrens daarnaast bedragen, volumes, gegevensdomeinen, tijdvensters en uitzonderingspaden. Hiermee verandert ‘human in the loop’ van een vage wens in een controleerbare processtap.

Daarna komen toetsing en bewijs. Test niet alleen of een agent de ideale route aflegt, maar ook hoe hij reageert op onvolledige of tegenstrijdige informatie, ongebruikelijke opdrachten, ontbrekende rechten, foutmeldingen van tools en acties buiten zijn mandaat. Leg testscenario’s, uitkomsten, acceptatiecriteria en resterende risico’s vast. NIST noemt betrouwbaarheid, veiligheid, beveiliging en veerkracht, transparantie en verantwoording, uitlegbaarheid, privacy en het beheersen van schadelijke bias als eigenschappen van betrouwbare AI.[3] Niet elke eigenschap weegt in elke toepassing even zwaar, maar de afweging moet wel aantoonbaar zijn.

Productie is vervolgens geen eindstation. Richt logging zo in dat een organisatie kan reconstrueren welke versie van de agent actief was, welke toolaanroep en gegevensbron relevant waren, welke invoer de handeling beïnvloedde, welke regel of goedkeuring gold en wat het resultaat was. Bescherm die loggegevens passend; logging kan zelf gevoelige gegevens bevatten. Koppel dit aan een incidentproces met triage, tijdelijke beperking of stopzetting, herstel, beoordeling van betrokkenen en structurele verbetering. NIST adviseert voor generatieve AI expliciet post-deploymentmonitoring, incidentrespons, recovery, override, decommissioning en change management.[4]

Edgars analyse: begin klein, ontwerp voor terugdraaien

Mijn analyse is dat organisaties agentic AI het best behandelen als procesautomatisering met probabilistische componenten, niet als een zelfstandig digitaal personeelslid. Die formulering houdt het gesprek bij de bestuurbare werkelijkheid: doel, mandaat, controles en verantwoordelijkheid. Autonomie is geen binaire keuze. Een agent kan in een eerste fase bijvoorbeeld signaleren en een voorstel maken; pas na bewezen beheersing kan een organisatie per actiegebied beoordelen of beperkte uitvoering verantwoord is.

Dat leidt tot een praktische volgorde. Kies één proces met een duidelijk doel en een eigenaar. Bepaal vooraf welke uitkomst als waardevol geldt en welke schade onaanvaardbaar is. Ontwerp daarna de minimale toegangsrechten, menselijke beslismomenten, stopvoorwaarden en herstelroute. Laat risico-, privacy-, beveiligings- en proceseigenaren niet pas aan het einde beoordelen, maar laat hen de grenzen mee vaststellen. De OECD-principes voor betrouwbare AI onderstrepen het belang van een levenscyclusbenadering en van interoperabiliteit tussen beleidskaders; zij zijn een nuttig referentiepunt naast bindende regels.[8]

De volwassenheidsvraag is dus niet of een organisatie al een agent kan laten handelen. Zij is of de organisatie aantoonbaar kan uitleggen wat de agent doet, waarom hij dat mag, hoe afwijkingen zichtbaar worden en wie bevoegd is om hem te stoppen. Wie die vier vragen zorgvuldig beantwoordt, maakt ruimte voor gecontroleerde opschaling. Wie ze onbeantwoord laat, verplaatst operationeel risico naar productie.

Edgar van Lent schrijft over strategische inzet en governance van AI.

Bronnen