AP slaat alarm: vier van negen AI-indicatoren op rood, recruitment-AI onder het vergrootglas.

De rapportage verschijnt elk halfjaar en volgt negen indicatoren voor de risico's van AI in de samenleving. In deze editie staan er vier op rood, waar dat er in de vorige nog twee waren. De AP signaleert dat de risico's van AI het afgelopen halfjaar sterk zijn toegenomen, en constateert iets dat voor bedrijven direct relevant is: organisaties, ook commerciële, proberen regels rond AI te omzeilen of te negeren, terwijl toezicht en regulering achterlopen op de ontwikkeling.

Die laatste zin verdient een tweede lezing. Een toezichthouder die opschrijft dat zij achterloopt, kondigt zelden aan dat zij het daarbij laat. Het is eerder een aankondiging van waar de aandacht heen gaat, en de rapportage noemt zelf het terrein: werving en selectie, en gebrekkige transparantie.

Werving is het proces waar AI het bedrijf binnenkomt zonder dat iemand er een besluit over heeft genomen. Vrijwel elk modern recruitmentsysteem bevat inmiddels een vorm van automatische ranking, matching of voorselectie. Het bedrijf koopt een ATS, de leverancier zet een functie aan, en ineens beoordeelt een algoritme kandidaten zonder dat HR dat ooit zo heeft benoemd.

Voor de kandidaat is dat onzichtbaar, en daar zit precies het probleem dat de AP benoemt: gebrekkige transparantie. Iemand die wordt afgewezen door een systeem waarvan het bestaan niet eens gemeld is, kan zich nergens op beroepen. Dat is geen theoretisch risico voor een MKB-bedrijf; sollicitanten zijn ook klanten, en in een krappe arbeidsmarkt is een wervingsproces dat niet uit te leggen valt een duur bezit.

Het politieke gesprek over de AI Act gaat op dit moment vooral over uitstel van de hoog-risicoverplichtingen, en werving en selectie valt precies in die hoog-risicocategorie. De verleiding is dan te concluderen dat het onderwerp nog wel even kan wachten. Deze rapportage laat zien waarom dat de verkeerde conclusie is: de Nederlandse toezichthouder let er nú op, met de instrumenten die zij nú al heeft.

Want transparantie over geautomatiseerde verwerking van persoonsgegevens is geen toekomstmuziek uit de AI Act; dat regime bestaat al jaren onder de AVG. De rapportage verschuift alleen de aandacht. Wie wacht op de definitieve AI Act-kalender voordat hij zijn wervingsproces uitlegbaar maakt, wacht op de verkeerde deadline.

Voor een MKB-bedrijf zonder compliance-afdeling is dit behapbaarder dan het klinkt, omdat het om drie vragen gaat. Weet je welke van je systemen kandidaten of klanten automatisch beoordelen, inclusief de functies die de leverancier stilletjes heeft aangezet? Vertel je de mensen die het aangaat dat dat gebeurt? En kan een mens laten zien dat híj de beslissing nam, in plaats van dat hij achteraf tekende bij het kruisje van het systeem?

Die laatste vraag is de lastigste. Een menselijke toets die in de praktijk neerkomt op het doorklikken van een voorgesorteerde lijst is geen toets, en dat verschil is precies waar een toezichthouder naar kijkt. Het antwoord zit niet in een extra document maar in het proces zelf: waar in de stroom zit het menselijk oordeel, en zou het opvallen als het wegviel? Wie die vraag niet kan beantwoorden, heeft geen AI-probleem maar een procesprobleem. En dat is te repareren.