Nieuwe baan: algoritme auditor

Een nieuwe baan: de algoritme auditor.

Deze baan zal naar verwachting redelijk snel verschijnen, als ze er al niet zijn onder andere namen.

Het doel van de baan: het beoordelen of algoritmes doen wat ze behoren te doen en binnen de wet blijven.

Dit is een functie die zowel technisch als op gebruikersniveau uitgevoerd moet worden. Het testen is immers niet alleen de code, maar ook de uitkomsten.

Het doel

Een belangrijk deel van het testen zal op doelen en gebruik moeten plaatsvinden. Dat wil dus zeggen dat niet zozeer de code ge-audit moet worden, maar de uitkomsten. Denk hierbij aan de volgende use cases:

1. Een algoritme dat bepaald of mensen wel of niet op sollicitatie-gesprek mag komen kan je testen of door de cv’s van het huidige personeel los te laten op het algoritme en te kijken of de top presenterende mensen ook bovenaan de lijst staan.
2. Een algoritme dat bepaald of gevangen vervroegd vrij gelaten moeten worden zou op daadwerkelijk risico van recidive moeten testen (iets wat de huidige niet bepaald doen bleek toen Propublica een audit deed).
3. Een algoritme zou nooit mogen discrimineren, ook als je niet per se discriminerende gegevens erin stopt, maar via omwegen dat wel kan.

De wet

We moeten, helaas is daar maatschappelijk nog te weinig aandacht voor, naar afwegingen. Bijvoorbeeld als het op zelfrijdende auto’s aankomt moeten we bepalen wat er gebeurt als een ongeval niet te voorkomen is.

Zelfrijdende auto’s zullen uiteindelijk een systeem van bescherming moeten hebben. Wat weegt zwaarder indien een ongeval niet te voorkomen is? De levens van de inzittenden of van mensen buiten? Is 1 dode altijd erger dan meerdere gewonden? Etc. Controle of deze algoritmes ook daadwerkelijk zo zijn geprogrammeerd moeten er altijd in.

Voor veel meer systemen moeten dergelijke regels gemaakt worden. Er moet gekeken worden of programmeurs deze regels ook hebben nageleefd.

Dit is een baan op HBO/WO niveau. Ik vermoed echter dat op dit gebied ook banen op MBO 3/4 niveau zullen ontstaan. Daarover binnenkort een relaas in mijn vaste column in de MBO krant.

Mijn boek 10 banen die verdwijnen & 10 banen die verschijnen is hier te downloaden op basis van waardebepaling achteraf.

Liever een papieren versie dan koop je hem toch via bol.com.