Een algoritme is een stap-voor-stap procedure voor het oplossen van een probleem of het bereiken van een bepaald doel door een computer. Algoritmen worden steeds vaker ingezet om beslissingen te nemen die vroeger door een mens werden gemaakt. Dat wordt vaak gedaan vanuit het idee dat technologie eerlijker of neutraler is dan mensen. Maar technologie wordt gemaakt door mensen met bepaalde ideeën en waarden, in een bepaalde tijd en met een bepaald doel.

algoritmen

Algoritmen worden vooral gebruikt in een viertal categorieën:

  • Prioritering: het maken van een geordende lijst (Netflix doet aanbevelingen wat voor jou geschikte films zijn)
  • Classificatie: het uitkiezen van een bepaalde categorie. Algoritme brengt in beeld waarin je geïnteresseerd bent op basis van je karakteristieken
  • Associatie: vinden van verbindingen (bijvoorbeeld Amazon die je wijst op titels van voor jou mogelijk relevante boeken)
  • Filteren: isoleren wat belangrijk is (bijvoorbeeld Siri die je stem onderscheidt van omgevingsgeluiden)

Algoritmen voor werving en selectie

Vrijwel alle werkgevers gebruiken in meer of mindere mate algoritmes voor werving en selectie. Werven via platformen als LinkedIn is in Nederland de norm. Via deze platforms verspreiden werkgevers  vacatures (96% van alle werkgevers) of zoeken werkgevers zelf actief naar kandidaten (71%). Daarnaast zet ruim één op de tien werkgevers zelf algoritmes in om kandidaten bij sollicitaties te selecteren (12%) en te beoordelen (12%). Dat het gebruik van algoritmes kan leiden tot discriminatie en uitsluiting volt uit het feit dat de technologie niet neutraal is.

Algoritmes worden vaak gebruikt om op basis van input-data (automatische) selecties te maken, ranking scores te berekenen of andere vormen van ‘beslissingen’ te nemen of te ondersteunen. Algoritmes kunnen relatief eenvoudige beslisbomen zijn, maar kunnen ook complex zijn, bijvoorbeeld in het geval van artificiële intelligentie (AI).

Al een relatief eenvoudige algoritmische selectie kan een negatief effect hebben. Bijvoorbeeld kandidaten filteren op basis van fulltime of parttime inzetbaarheid, of het (niet) hebben van een gat in hun cv, lijkt op het eerste gezicht een neutrale indicator om een passende kandidaat te vinden, maar dit kan er ook toe leiden dat vrouwelijke kandidaten systematisch lagere scores krijgen, omdat zij gemiddeld vaker parttime werken of vaker na een geboorte tijdelijk stopten met werk.

Optimaliseren van een algoritme

Het optimaliseren van een algoritme kent een dilemma tussen sensitiviteit en specificiteit. Het verbeteren van het een, leidt vaak tot het verlies van de andere. Als je alles duidt als mogelijk risicovol (toeslagen affaire) heb je een 100% sensitiviteitsscore (dat moeten we uitzoeken). Het lastige is echter dat je specificiteit (ben ik wel de goede mensen aan het onderzoeken) steeds slechter wordt.

Het is daarbij goed om te beseffen dat de bepalende kenmerken van een complex systeem worden gevormd door de eenvoudigste gedragsbeschrijving. Het eenvoudigste complete model van een organisme is het organisme zelf. Proberen om het gedrag van het systeem te verminderen tot een formele beschrijving, zoals een algoritme, maakt dingen ingewikkelder, niet minder.

Literatuur

Fry, H. ( 2018). Hello world. How to be human in the age of the machine.Londen: Black Swan

Jeninga, A. en H. Woldendorp. (2022). Ontwerp voor digitale transformaties van (zorg)organisaties. Werken met de Systemische Ontwikkel Matrix (SOM). Amsterdam: SWP

SEO Economisch Onderzoek. (2022). Digitale werving en selectie algoritmegebruik in het werving-& selectieproces van werkgevers en het bewustzijn van risico’s op uitsluiting en discriminatie. Eindrapport