‘The limiting factor in AI adoption is not compute or inference but how quickly human systems can adapt. Our current generationof frontier models is alreadt far more powerful than business need. The gap between AI technology and AI value is a people gap’ (Gibbons, XXI)

Hoe benaderen we een AI collega?

ai collegaAls we wat preciezer naar AI kijken, gaat het niet zozeer om een nieuwe technologie als een nieuwe vorm van intelligentie—onvoorspelbaar, soms ondoorzichtig en vatbaar voor vooroordelen. Het vereist daarom van ons een benadering die vergelijkbaar is met het samenwerken met een complexe menselijke collega.

In onze gebruikelijke visie op technologie (denk: bijvoorbeeld aan software, machines) is het gedrag voorspelbaar, controleerbaar en transparant. Je weet wat er gebeurt als je op een knop drukt. Bij AI echter, vooral bij systemen als machine learning en large language models: is het gedrag vaak onvoorspelbaar (je weet niet exact welke beslissing of output het systeem zal genereren), is de logica soms ondoorzichtig (denk aan "black box"-algoritmes) en bevat het menselijke vooroordelen (omdat het traint op menselijke data).

AI verwerkt informatie en neemt beslissingen op manieren die lijken op menselijke denkpatronen. AI leert van data, net als mensen van ervaring. AI kan zelfstandig functioneren, zoals taken uitvoeren of antwoorden genereren zonder directe menselijke aansturing. Dit wil overigens niet zeggen dat we te maken met een entiteit met bewustzijn. In de praktijk betekent dit onder meer dat gecheckt moet worden of er goed werk is geleverd en dat er nieuwe ethische vragen komen (wie is verantwoordelijk als het misgaat?).

Hoe werkt een dergelijke intelligente collega?

In de zorg analyseert een AI-systeem duizenden medische dossiers en beeldscans en suggereert een mogelijke diagnose. Wat echter speelt is dat een arts niet altijd begrijpt hoe de AI tot die conclusie komt. Het is inmiddels aangetoond dat AI zelfs betere voorspellingen kan doen dan sommige artsen. Een groot risico is dat het systeem vooroordelen bevatten, bijvoorbeeld als het getraind is op data van hoofdzakelijk blanke mannelijke patiënten.

Hoe pak je het aan?

Een belangrijke vraag op basis van het voorafgaande is hoe je het aanpakt. Een model is adaptieve adoptie waarbij AI niet in één keer grootschalig wordt ‘uitgerold’ vanuit de top, maar dat AI stapsgewijs, experimenteel en ethisch verantwoord wordt ingevoerd, met feedback vanuit de werkvloer en voortdurende aanpassing. Het gaat erom medewerkers vanaf de start te laten medebepalen hoe AI wordt ingezet, en wat hun zorgen zijn (denk aan: verlies van autonomie, transparantie, controle). Vertrouw daarbij op hun lokale expertise over hoe AI het werk beïnvloedt.

Hoe zit het met ethische vragen?

Ook voor ethische vragen geldt dat die vanaf de start gesteld worden. Het gaat om vragen als: hoe eerlijk is dit algoritme, kunnen we de beslissing uitleggen, wat zijn de gevolgen voor kwetsbare groepen? De invoering van AI past bij een waarde gedreven omgeving. Het gaat er niet zozeer om wat AI kan (steeds meer), maar wat we onderling belangrijk vinden in het werk. Weer de zorg. Waarden zijn: menselijkheid, autonomie, zorgvuldigheid. Voor het medische en verpleegkundig domein betekent dit dat AI artsen en verpleegkundigen moet ondersteunen en niet overstemmen of vervangen.

In elke fase van de AI-levenscyclus wordt ethiek geïntegreerd. Bij ontwerp worden vragen gesteld over de datastructuur en het doel. Bij testen gaat het om (ethische) impactanalyses. Bij uitrol monitor je op onbedoelde gevolgen. Bij gebruik zorg je voor een meldpunt.

Literatuur

Gibbons, P. en J. Healy. (2025). Adopting AI. The people-first approach. Phronesis Media
Jeninga, A. en H. Woldendorp. 2022). Ontwerp voor digitale transformaties van (zorg)organisaties. SWP