New York wil AI in wervingsprocessen reguleren

De stad New York wil het gebruik van algoritmes in wervingsprocessen van bedrijven en organisaties gaan reguleren. Nieuwe wetgeving moet er onder meer voor zorgen dat bedrijven het aan kandidaten vertellen als ze gebruik maken van selectieve algoritmes. Ook moeten de bedrijven die zulke technologie verkopen jaarlijkse controles laten uitvoeren om te bewijzen dat de technologie niet discriminerend werkt.

De regulering geldt voor kunstmatige intelligentie (AI) die wordt ingezet om mensen te selecteren in het bedrijfsleven. Dat kan gaan om het selecteren van kandidaten voor een vacature, maar ook om interne selecties.

Volgens vaknieuwssite Wired is de kans groot dat er binnenkort meer regulerende wetgeving komt voor algoritmes en software die ingrijpende consequenties hebben op het leven van mensen, nu de Democraten naast het presidentschap ook de controle hebben over de Senaat en het Huis van Afgevaardigden. Eerder heeft de staat New York al een tweejarig verbod ingevoerd op het gebruik van gezichtsherkenning in scholen.

In december vroegen tien senatoren de Equal Employment Opportunity Commission, een overheidsorganisatie die discriminatie op de werkvloer bestrijdt, om strenger te gaan letten op AI-bias. Dit is een verschijnsel waarbij (onbewuste) vooroordelen bij het ontwikkelen van AI er voor zorgt dat de kunstmatige intelligentie discriminerend werkt. De senatoren zijn bang dat de technologie de ongelijkheid in de werkvloer kan vergroten en het economisch herstel na de coronacrisis binnen gemeenschappen van minderheden belemmert.