Software kan sollicitaties rangschikken, verzuimsignalen tonen, roosters voorstellen of medewerkers indelen in een risicoprofiel. Zodra zo'n uitkomst merkbaar meeweegt bij selectie, beoordeling, inzetbaarheid of arbeidsvoorwaarden, is het geen louter technisch hulpmiddel meer. Rijk, gemeenten, provincies, waterschappen en omgevingsdiensten hebben dan een werkgeversproces nodig waarin vooraf vaststaat welk besluit wordt ondersteund, wie de uitkomst kritisch mag negeren en hoe een betrokkene een echte heroverweging krijgt. Een scherm waarop iemand alleen op akkoord klikt, is daarvoor onvoldoende.
De besluitketen, menselijke heroverweging en transparantie spelen bij Rijk en alle decentrale overheidswerkgevers; productspecifieke en sectorale toepassing blijft afzonderlijk te toetsen.
Bekijk de inhoudelijke domeingrensWat de bronnen laten zien
De Autoriteit Persoonsgegevens legt uit dat artikel 22 AVG bescherming biedt tegen besluiten die uitsluitend op geautomatiseerde verwerking zijn gebaseerd en rechtsgevolgen hebben of iemand anderszins in aanmerkelijke mate treffen. Niet ieder rekenmodel en niet ieder advies valt automatisch onder dat verbod. De organisatie moet de feitelijke besluitketen onderzoeken: bepaalt het systeem de uitkomst, of beoordeelt een bevoegde medewerker de relevante informatie werkelijk opnieuw? De naam van het product en een contractuele aanduiding als "beslisondersteuning" zijn niet doorslaggevend.
De AP benadrukt bij betekenisvolle menselijke tussenkomst dat de menselijke beoordelaar voldoende deskundigheid, informatie, tijd, bevoegdheid en handelingsruimte nodig heeft. Alleen formele betrokkenheid of een mogelijkheid om in uitzonderlijke gevallen af te wijken maakt een automatisch proces niet menselijk. Ook structureel volgen van de systeemuitkomst kan erop wijzen dat de tussenkomst in de praktijk niet betekenisvol is. Werkgevers moeten daarom niet alleen een verantwoordelijke aanwijzen, maar ook controleren of die persoon de uitkomst begrijpt, alternatieven kan wegen en zonder nadelige prikkel kan overrulen.
De Europese AI-verordening behandelt bepaalde AI-systemen voor werving, selectie, arbeidsvoorwaarden, promotie, beëindiging, taaktoewijzing en prestatie- of gedragsbeoordeling als hoog risico. De precieze kwalificatie hangt af van het doel en de werking van het systeem. Voor zulke toepassingen stelt de verordening eisen aan onder meer risicobeheersing, documentatie, logging, informatie, menselijk toezicht en grondrechten. Een publieke werkgever moet daarom per toepassing vaststellen welke regels op het validatiemoment gelden; een generieke leveranciersverklaring vervangt die beoordeling niet.
Voor overheidsorganisaties komt daar bestuurlijke transparantie bij. Het Algoritmeregister van de Nederlandse overheid is bedoeld om informatie over impactvolle algoritmen vindbaar en controleerbaar te maken. Digitale Overheid vermeldt dat wettelijke verplichtstelling wordt voorbereid. Dat betekent dat registratie nu niet voor ieder systeem op dezelfde wettelijke grond verplicht is. Inventariseren, eigenaarschap vastleggen en een publicatiebesluit nemen zijn wel noodzakelijke beheersstappen, ook wanneer een toepassing na toetsing niet openbaar wordt geregistreerd of buiten de reikwijdte valt.
Start niet bij de technologie maar bij één afgebakend personeelsbesluit. Beschrijf doel, betrokkenen, gegevens, systeemuitkomst en het rechts- of feitelijke gevolg. Teken daarna de volledige route: wie voert gegevens in, wie beoordeelt de uitkomst, welke andere informatie wordt betrokken, wie beslist en waar wordt de motivering vastgelegd? Daarmee wordt zichtbaar of sprake is van automatisering, profilering, een uitsluitend geautomatiseerd besluit of een AI-systeem dat onder een aanvullend regime kan vallen.
Wijs per toepassing een inhoudelijk eigenaar aan in de lijn en leg naast technisch beheer ook HR-, privacy-, informatiebeveiligings-, juridische en medezeggenschapsrollen vast. De eigenaar moet het doel kunnen begrenzen, wijzigingen goedkeuren, prestaties en ongewenste effecten volgen en gebruik stilzetten. Leg vooraf stopcriteria vast, bijvoorbeeld bij onverklaarbare uitkomsten, een sterke afwijking tussen groepen, ontbrekende gegevens, systeemwijzigingen of een niet meer geldige grondslag.
Ontwerp menselijke beoordeling als een zelfstandig werkproces. Geef de beoordelaar de oorspronkelijke relevante informatie, uitleg over de herkomst en beperkingen van de systeemuitkomst, voldoende tijd en de expliciete bevoegdheid om af te wijken. Vraag om een eigen motivering die niet bestaat uit het kopiëren van de systeemscore. Meet vervolgens niet alleen hoe vaak iemand afwijkt; onderzoek ook of beoordelaars alternatieven herkennen, of werkdruk automatische bevestiging stimuleert en of besluiten zonder het systeem nog uitlegbaar zijn.
Maak heroverweging bereikbaar voor sollicitanten en medewerkers. Informeer in begrijpelijke taal dat en hoe een algoritmische uitkomst is gebruikt, welke menselijke rol bestaat, waar feitelijke fouten kunnen worden gecorrigeerd en wie het besluit opnieuw beoordeelt. Laat die herbeoordeling uitvoeren door iemand die bevoegd is de uitkomst te wijzigen en die niet uitsluitend dezelfde score opnieuw bekijkt. Leg verzoek, gebruikte informatie, nieuwe afweging en uitkomst controleerbaar vast.
Houd tenslotte één actueel toepassingsdossier bij met doel, eigenaar, gegevensstromen, leveranciersinformatie, kwalificatie onder AVG en AI-verordening, risico- en impactbeoordelingen, testresultaten, menselijke toezichtmaatregelen, wijzigingslog, incidenten en het besluit over opname in het Algoritmeregister. Herbeoordeel bij een nieuw model, nieuwe dataset, gewijzigde drempel, ander gebruiksdoel of nieuwe groep betrokkenen.
Werkgeverscheck
- Beschrijf per toepassing het personeelsbesluit, de systeemuitkomst, betrokken gegevens en het merkbare gevolg voor de persoon.
- Wijs één inhoudelijk eigenaar aan met bevoegdheid om gebruik te begrenzen, te wijzigen en stil te zetten.
- Geef beoordelaars informatie, tijd, deskundigheid en aantoonbare ruimte om de systeemuitkomst te negeren of te corrigeren.
- Richt een onafhankelijke, begrijpelijke heroverwegingsroute in voor sollicitanten en medewerkers.
- Houd één actueel toepassingsdossier bij en leg expliciet vast of en waarom registratie in het Algoritmeregister volgt.
Waar de grens ligt
Dit artikel kwalificeert geen concreet product of personeelsproces juridisch. Of artikel 22 AVG of de hoog-risicoregels van de AI-verordening van toepassing zijn, hangt af van doel, werking, effect, uitzonderingen en het actuele overgangsrecht. Laat die beoordeling per toepassing uitvoeren en documenteer ook waarom een regime niet van toepassing zou zijn.
Een menselijke controle maakt onrechtmatige gegevensverwerking, discriminatie of een ondeugdelijk model niet alsnog aanvaardbaar. Omgekeerd is niet elk digitaal hulpmiddel een uitsluitend geautomatiseerd besluit of hoog-risico-AI. Het Algoritmeregister is een transparantie-instrument en geen keurmerk. Betrek functionaris gegevensbescherming, privacy, juristen, informatiebeveiliging, HR, medezeggenschap en de verantwoordelijke lijn voordat een risicovolle toepassing invloed krijgt op mensen.
Dit artikel biedt algemene HR-duiding en is geen individueel juridisch, medisch of arbeidsvoorwaardelijk advies. Controleer de actuele primaire bron voor een concrete beslissing.
Bronnen
- Autoriteit Persoonsgegevens: automatisch besluitUitleg over uitsluitend geautomatiseerde besluitvorming, gevolgen en rechten onder de AVG.
- Autoriteit Persoonsgegevens: betekenisvolle menselijke tussenkomstToezichtsduiding over deskundigheid, bevoegdheid en werkelijke ruimte om een algoritmische uitkomst te beoordelen.
- Digitale Overheid: Algoritmeregister voor de overheidDoel, ontwikkeling en actuele status van het Nederlandse Algoritmeregister.
- Europese AI-verordening, geconsolideerde tekstOfficiële bepalingen over hoog-risico-AI, waaronder toepassingen bij arbeid en menselijk toezicht.