AI-besluiten over mensen: wat de Uber-boete leert over echte menselijke tussenkomst

Een mens in het proces is nog geen menselijke toets

Veel organisaties gebruiken systemen die mensen een score, een classificatie of een signaal geven: een risicoscore bij fraude, een productiviteitsscore, een beoordeling door klanten. Zolang een medewerker het besluit formeel bevestigt, voelt dat als een veilige werkwijze. Recente ontwikkelingen laten zien dat toezichthouders en wetgevers daar niet genoegen mee nemen. Zij kijken of een mens het besluit werkelijk heeft beoordeeld en kon veranderen.

Dat is geen theoretische vraag. Wie besluiten over mensen laat leunen op AI, moet kunnen aantonen waar het oordeel van een mens zat. Ontbreekt dat bewijs, dan is het besluit in juridische zin vaak volledig geautomatiseerd.

De Uber-boete: geen menselijke beoordeling

De Autoriteit Persoonsgegevens (AP) maakte op 21 augustus 2026 bekend dat zij Uber een boete van € 824.990.000 oplegt. Volgens de AP nam Uber volledig geautomatiseerde besluiten over chauffeurs. Bij een vermoeden van fraude of te lage klantbeoordelingen werden accounts automatisch tijdelijk gedeactiveerd, en bij aanhoudend lage beoordelingen permanent. Chauffeurs liepen daardoor in die periode hun inkomsten via Uber mis. Volgens de AP was er geen menselijke beoordeling. De zaak betreft incidenten uit 2018 tot en met 2022.1

Het onderzoek begon met klachten van 171 Franse chauffeurs, ingediend via de Ligue des droits de l'Homme bij de Franse toezichthouder CNIL. Omdat het Europese hoofdkantoor van Uber in Nederland zit, behandelde de AP de zaak. De AP stelde twee overtredingen vast: het verbod op volledig geautomatiseerde besluitvorming uit artikel 22 van de AVG en onvoldoende informatie aan chauffeurs volgens artikel 13. Uber heeft de overtredingen beëindigd en is in beroep gegaan; er is nog geen definitieve rechterlijke uitspraak. Het Europees Comité voor gegevensbescherming (EDPB) heeft het besluit opgenomen in zijn overzicht van grensoverschrijdende handhavingsbesluiten.12

Vicevoorzitter Monique Verdier van de AP vatte de norm samen, in vertaling: een computer hoort niet zelfstandig besluiten te nemen die grote gevolgen voor iemand hebben; zulke besluiten hadden eerst door een mens bekeken moeten worden.1

Wat de wet vraagt

Artikel 22 van de AVG geeft betrokkenen het recht niet te worden onderworpen aan een besluit dat uitsluitend op geautomatiseerde verwerking berust en dat rechtsgevolgen heeft of hen anderszins in aanmerkelijke mate treft. Er zijn uitzonderingen, onder meer als het besluit noodzakelijk is voor een overeenkomst of als iemand uitdrukkelijk toestemming geeft. Ook dan moet de organisatie ten minste het recht bieden op menselijke tussenkomst, op het kenbaar maken van een standpunt en op het aanvechten van het besluit.3

De Europese privacytoezichthouders hebben in hun richtsnoeren uitgewerkt wat menselijke tussenkomst betekent. Een organisatie kan artikel 22 niet omzeilen door menselijke betrokkenheid te veinzen. Wie routinematig automatisch gegenereerde profielen toepast zonder werkelijke invloed op de uitkomst, neemt nog steeds een volledig geautomatiseerd besluit. Toezicht moet betekenisvol zijn en geen symbolisch gebaar. Het moet worden uitgevoerd door iemand met de bevoegdheid en de bekwaamheid om het besluit te wijzigen, die alle relevante gegevens weegt. De mate van menselijke betrokkenheid hoort te worden vastgelegd in de gegevensbeschermingseffectbeoordeling.4

De AI Act voegt daar voor de werkvloer een tweede laag aan toe. AI-systemen voor werving en selectie, voor besluiten over arbeidsvoorwaarden, promotie en beëindiging van arbeidsgerelateerde contractuele relaties, voor het toewijzen van taken op basis van gedrag of persoonlijke kenmerken en voor het monitoren en evalueren van werkenden gelden als hoog risico (bijlage III, punt 4). Gebruiksverantwoordelijken moeten het menselijk toezicht toewijzen aan mensen met de nodige bekwaamheid, opleiding en autoriteit (artikel 26, lid 2). Een werkgever moet werknemersvertegenwoordigers en betrokken werknemers informeren voordat zo'n systeem op de werkplek in gebruik wordt genomen (artikel 26, lid 7). Wie door een besluit op basis van zo'n systeem aanmerkelijk wordt geraakt, krijgt recht op een duidelijke en inhoudelijke uitleg over de rol van het systeem en de belangrijkste elementen van het besluit (artikel 86).5 Volgens de Europese Commissie gelden de strikte verplichtingen voor hoogrisicosystemen vanaf 2 december 2027.6 De AVG-norm uit de Uber-zaak geldt nu al.

Californië maakt de norm concreet

Op 30 september 2026 ondertekende gouverneur Gavin Newsom onder meer SB 947, de zogeheten No Robo Bosses Act. De wet verbiedt werkgevers om bij disciplinaire maatregelen en ontslag uitsluitend op een geautomatiseerd beslissysteem te vertrouwen.7 De definitie is breed: elk rekenproces op basis van machine learning, statistische modellen, data-analyse of AI dat een vereenvoudigde uitkomst geeft, zoals een score, classificatie of aanbeveling, en dat menselijke beslissingen ondersteunt of vervangt.8

Leunt een werkgever vooral op zo'n uitkomst, dan moet een mens die bevestigen aan de hand van de onderliggende gegevens of ander relevant materiaal. Lukt dat niet, of blijkt de uitkomst onjuist, onvolledig of misleidend, dan mag de werkgever die niet gebruiken. In dat geval krijgt de werknemer bij het besluit een schriftelijke kennisgeving en kan hij een beschrijving opvragen van zijn eigen gegevens die het systeem gebruikte. Toont iemand aan dat een systeem is gebruikt, dan moet de werkgever bewijzen dat hij aan de regels voldeed.89 SB 947 geldt vanaf 1 juli 2027.9 Opvallend is wat er niet in staat: volgens Reed Smith zijn bepalingen over zelfstandigen en over deactivering uit eerdere versies geschrapt, terwijl de indieners al op een strengere vervolgwet aansturen.8 Dezelfde dag ondertekende Newsom ook wetten over meldingen bij collectief ontslag door AI (SB 951) en een verbod op AI-emotieherkenning in werkplekmonitoring (AB 1883).79

Ook in Europa schuift de discussie op. Op 6 oktober 2026 nam het Europees Parlement met 413 stemmen voor, 210 tegen en 29 onthoudingen een initiatiefverslag over psychosociale risico's op het werk aan. Het Parlement vraagt dat de invoering van geautomatiseerde besluitvorming en monitoring vooraf wordt beoordeeld, samen met werknemers en hun vertegenwoordigers, en dat er bij algoritmisch management altijd menselijk toezicht is. Dit is een verzoek aan de Commissie, nog geen wet; de Commissie heeft drie maanden om te reageren.10

Vijf vragen voor uw organisatie

De les uit deze ontwikkelingen is niet dat AI geen rol mag spelen bij besluiten over mensen. De les is dat de menselijke toets aantoonbaar echt moet zijn. Deze vragen helpen om dat te toetsen:

1. Inventarisatie: welke systemen leveren een score, classificatie of signaal dat besluiten over medewerkers, klanten of partners beïnvloedt? Neem ook productiviteitsscores en analysetools mee die niet als AI worden verkocht.
2. Bevoegdheid: heeft de beoordelaar de bevoegdheid, de tijd en de kennis om van de uitkomst af te wijken, en wordt dat in de praktijk ook gedaan?
3. Informatie: ziet de beoordelaar alleen de score, of ook de onderliggende gegevens en de reactie van de betrokkene?
4. Vastlegging: wordt bij het besluit vastgelegd wie heeft beoordeeld, op basis van welke informatie en met welke uitkomst?
5. Rechten: weet de betrokkene dat een systeem een rol speelde, en kan hij zijn standpunt geven en het besluit aanvechten?

Een eenvoudige stuurinformatie helpt daarbij: hoe vaak wijkt de beoordelaar af van de aanbeveling van het systeem? Wijkt niemand ooit af, dan is dat een signaal om te onderzoeken of de toets werkelijk inhoud heeft. Dat sluit aan bij mijn eerdere analyse over het onderhouden van menselijk oordeel in het werkontwerp: toezicht werkt alleen als mensen de vaardigheid en de ruimte houden om tegen een systeem in te gaan.

Conclusie

De Uber-zaak, de richtsnoeren bij artikel 22 van de AVG, de AI Act en de nieuwe wet in Californië wijzen dezelfde kant op. Een besluit over een mens mag door AI worden voorbereid, maar moet worden genomen door iemand die werkelijk kan oordelen, met toegang tot de relevante informatie en met een vastgelegde afweging. Organisaties die dat nu inrichten, voldoen niet alleen eerder aan de regels. Zij nemen ook betere besluiten en kunnen die uitleggen aan de mensen die het raakt.