AI na livegang: waarom het toezicht achterblijft bij de controle vooraf

Veel controle vooraf, minder nazorg

Op 26 oktober 2026 publiceerden de Bank of England en de Financial Conduct Authority (FCA) hun vierde gezamenlijke onderzoek naar AI in de Britse financiële sector.1 Er namen 196 ondernemingen deel, waarvan 105 de volledige vragenlijst invulden. Van de respondenten zegt 86% AI te gebruiken, tegen 75% in 2024. Het rapport benadrukt dat de groep respondenten niet dezelfde is als in 2024, zodat die vergelijking voorzichtig moet worden gelezen. Het gaat bovendien om wat de deelnemende ondernemingen zelf rapporteren, niet om een volledig beeld van de sector.1

Het opvallendste resultaat gaat echter niet over adoptie, maar over toezicht. Bij het beheersen van gegevensrisico's zijn de controles vóór de ingebruikname vrijwel overal geregeld: een beoordeling vooraf, menselijke goedkeuring en onderzoek naar leveranciers worden elk door meer dan 90% van de respondenten genoemd. Doorlopende monitoring, tests op het weglekken van gegevens en periodieke herbeoordeling of hercertificering worden elk door ongeveer de helft genoemd.1

Respondenten rapporteren dus aanzienlijk vaker controles vóór de ingebruikname dan controles daarna. Het rapport zegt niets over hoe effectief die controles zijn, maar het verschil is groot. Vergelijk het met een nieuwe medewerker die zorgvuldig wordt geselecteerd, maar van wie het werk daarna slechts af en toe wordt bekeken. Het onderzoek gaat over Britse financiële instellingen, een sector met relatief veel toezicht. Mijn inschatting is dat het patroon daarom ook in andere sectoren herkenbaar is.

Wat het onderzoek concreet laat zien

De cijfers wijzen op drie ontwikkelingen die het toezicht na livegang lastiger maken.1

• Meer ingekochte AI. Systemen van derden vormen 39% van alle gerapporteerde AI-systemen, tegen 33% in 2024. Bij systemen met een hoge materialiteit, dus met veel impact op de onderneming, is dat 53%, tegen 35% in 2024.
• Minder eigen begrip van ingekochte systemen. Om zelf ontwikkelde systemen met een hoge materialiteit te begrijpen, steunt 77% van de respondenten op diepgaande eigen kennis van het systeem. Bij systemen van derden geldt dat voor 24%; daar steunt 81% vooral op garanties van de leverancier en contractuele afspraken.
• Meer AI-agents, maar met beperkte autonomie. Van de respondenten heeft 80% AI-agents in gebruik. Die worden vooral ingezet als beslisondersteuning: de agent doet een voorstel, een mens beslist. Slechts 2% meldt agents met brede autonomie.

Daarnaast blijkt dat monitoring vooral meet wat makkelijk meetbaar is. Terugkoppeling van gebruikers wordt door 85% gevolgd, nauwkeurigheid door 72% en financiële effecten door 70%. Indicatoren voor drift en vertekening volgt 52%, de impact op klanten 39% en risicomaatstaven 34%. Minder dan de helft beschikt over draaiboeken voor incidentbeheer en -respons.1

Drie zwakke plekken na de livegang

1. Monitoring meet techniek, niet uitkomsten

Een week eerder, op 19 oktober 2026, publiceerde de FCA voorbeelden van goede praktijk en verbeterpunten bij het gebruik van AI. De toezichthouder benadrukt dat die voorbeelden geen nieuwe eisen scheppen.2 Als verbeterpunt noemt de FCA monitoring die zich richt op technische maatstaven in plaats van op uitkomsten, en governance die als eenmalige toets wordt behandeld zonder voldoende monitoring of herbeoordeling na de ingebruikname.

Als goede praktijk beschrijft de FCA onder meer: monitoring van uitkomsten in de praktijk en van drift, dashboards met drempelwaarden en escalatieroutes, een aparte groep die na de implementatie controleert of systemen werken zoals bedoeld, steekproeven, logging en audittrails, en feedback van medewerkers over waarom zij een AI-uitkomst wel of niet gebruikten of aanpasten.2

2. Ingekochte AI verandert, ook als u niets doet

Een AI-systeem van een leverancier is geen statisch product. Modellen en de bijbehorende veiligheidsfilters worden bijgewerkt, en op wijzigingen door grote technologieaanbieders heeft een gebruiker niet altijd invloed.2 Van de respondenten zegt 48% bij updates van leveranciersmodellen met een hoge materialiteit altijd een regressietest uit te voeren en 25% meestal; 73% heeft altijd of meestal een plan om een update terug te draaien. Tegelijk laat 25% zulke updates altijd of meestal automatisch doorstromen naar productie. Slechts 48 ondernemingen beantwoordden deze vraag, dus deze cijfers zijn indicatief.1

De FCA erkent dat ondernemingen wijzigingen van grote technologieaanbieders niet altijd kunnen tegenhouden, maar wel de gevolgen kunnen beperken. Goede praktijk is contractueel vastleggen dat de leverancier significante modelwijzigingen vooraf meldt en toelicht, zodat updates kunnen worden getest voordat ze in gebruik komen. Een verbeterpunt is te veel vertrouwen op garanties van leveranciers die niet zelf zijn getoetst. De FCA is daarin duidelijk: uitbesteden kan, maar de verantwoordelijkheid blijft bij de onderneming.2

3. Exit en terugval zijn niet geoefend

Het onderzoek laat ook een sterke concentratie zien. Van de 169 gerapporteerde relaties met aanbieders van cloud- en rekencapaciteit wordt 37% als zeer kritiek én moeilijk vervangbaar beoordeeld. Van die groep heeft slechts 35% een getest exitplan.1

Voor financiële entiteiten in de EU is dit geen vrijblijvend onderwerp. De Digital Operational Resilience Act (DORA) verplicht hen exitstrategieën in te voeren voor ICT-diensten die kritieke of belangrijke functies ondersteunen.3 Voor andere organisaties is het een kwestie van goed bestuur. In een eerder artikel over exitplannen voor AI-leveranciers beschreef ik hoe zo'n plan eruit kan zien.

Wat de AI Act vraagt na de ingebruikname

Voor AI-systemen met een hoog risico maakt de AI Act monitoring na de ingebruikname tot een verplichting. Aanbieders moeten volgens artikel 72 een systeem inrichten dat gedurende de hele levensduur van het AI-systeem actief en systematisch gegevens over de prestaties verzamelt, documenteert en analyseert.4 Die monitoring is ook een verplicht onderdeel van het systeem voor kwaliteitsbeheer uit artikel 17,8 waarover ik schreef bij de publicatie van de eerste geharmoniseerde norm, EN 18286.

Ook gebruiksverantwoordelijken, de organisaties die zo'n systeem inzetten, hebben plichten. Volgens artikel 26 moeten zij de werking monitoren op basis van de gebruiksinstructies. Heeft een gebruiksverantwoordelijke reden om aan te nemen dat gebruik volgens de instructies een risico als bedoeld in artikel 79, lid 1, kan opleveren, dan moet hij de aanbieder of distributeur en de bevoegde markttoezichtautoriteit zonder onnodige vertraging informeren en het gebruik opschorten. Automatisch gegenereerde logs moeten, voor zover die onder zijn controle staan, ten minste zes maanden worden bewaard. Het menselijk toezicht moet liggen bij mensen met de nodige bekwaamheid, opleiding en bevoegdheid.5 Wat dat in de praktijk vraagt, besprak ik in het artikel over echte menselijke tussenkomst.

Voor financiële instellingen geldt de monitoringplicht van artikel 26 als vervuld wanneer zij de regels voor interne governance uit de financiële wetgeving naleven.5 Na de digitale omnibus voor AI gelden de verplichtingen voor zelfstandige AI-systemen met een hoog risico (bijlage III) vanaf 2 december 2027, en voor AI-systemen met een hoog risico in producten (bijlage I) vanaf 2 augustus 2028.67

Vijf stappen voor het toezicht na livegang

1. Breng alle AI in kaart, ook ingekochte en ingebouwde AI. Leg per systeem het doel, de eigenaar, de leverancier en de impact vast. In het onderzoek houdt 68% een centrale inventaris bij.1
2. Meet uitkomsten, niet alleen techniek. Bepaal per systeem wat een goede uitkomst is voor klant, medewerker of proces, en bij welke drempel iemand moet ingrijpen.
3. Regel leveranciersupdates vooraf. Spreek af dat significante modelwijzigingen vooraf worden gemeld, test ze voordat ze in productie komen en houd een terugdraaiplan klaar. Laat updates van systemen met veel impact niet ongetest doorstromen.
4. Toets garanties zelf. Gebruik eigen testgevallen en steekproeven om te controleren of een ingekocht systeem doet wat de leverancier belooft.
5. Oefen incidenten en exit. Zorg voor een draaiboek, een terugvaloptie en een geteste exit voor de afhankelijkheden die het zwaarst wegen.

Conclusie

Het onderzoek van de Bank of England en de FCA laat een herkenbaar patroon zien: controles vóór de ingebruikname worden veel vaker gerapporteerd dan toezicht daarna. Tegelijk neemt het aandeel ingekochte AI toe. Bij die systemen rapporteren respondenten minder vaak diepgaande eigen kennis, en bij wijzigingen door grote aanbieders kan hun invloed beperkt zijn. Mijn inschatting is dat de grootste AI-risico's de komende jaren niet ontstaan bij de selectie van een systeem, maar in de maanden daarna, wanneer modellen, gegevens en gebruik ongemerkt veranderen. Organisaties die monitoring, leveranciersupdates en exit nu als vast onderdeel van hun beheer inrichten, zijn beter voorbereid, ook als de AI Act-verplichtingen voor AI met een hoog risico voor hen pas vanaf december 2027 of augustus 2028 gelden.