Terug

"Is dit nog wel eerlijk?"

Martin Heijnsbroek, managing partner bij data-analyse bureau MIcompany en columnist in het Financieele Dagblad.

martin-heijnsbroek-portrait“Menselijke intelligentie wordt steeds meer vervangen door data-analyse en algoritmes, en - een stap verder - door robotificatie. Het algoritme vindt daarbij zelf uit wat je moet doen. Deze nieuwe wereld brengt ook nieuwe risico’s met zich mee. En eigenlijk zijn we daar niet of nauwelijks op voorbereid.

Niet meer uitlegbaar

In het verleden had een bedrijf vaak 6 doelgroepen gedefinieerd. Niet omdat er maar 6 waren, maar omdat we er 6 konden onthouden. Met algoritmes hebben we 6000 of zelfs 60.000 groepen in de markt. Die differentiatie is zo groot dat het niet meer uitlegbaar is. Het wordt te complex. Er is te weinig ruimte voor een ouderwetse toets: klopt dit nog wel? Dat konden we wel in de ‘oude wereld’. Algoritmes hebben geen ethische moraal, als wij die er niet expliciet in programmeren.

Misbruik van data

Welke data een organisatie mag inzetten wordt door wetgeving bepaald maar een bank heeft zelf ook een zorgplicht. Een bekend Amerikaans voorbeeld is dat een bank via creditcardbetalingen inzicht kan krijgen in de kwaliteit van je relatie, bijvoorbeeld door nota’s van een therapeut. Een scheiding is van invloed op de aflossing van een hypotheek. Een bank kan dan overwegen geen hypotheek te verstrekken. De terechte vraag is vervolgens: mag een bank op die manier oordelen over je relatie en over je kredietwaardigheid? Het antwoord is trouwens nee. Zowel vanuit de wet als vanuit ethisch perspectief. Het doel van de dataopslag was nooit kredietwaardigheid checken, dan kan je later ook niet die data daarvoor gebruiken.

Wie is verantwoordelijk?

Wie verantwoordelijk is voor de gevolgen van de invoering van algoritmische besluitvorming vind ik nu nog niet duidelijk. Uiteindelijk keurt een directie de besluitvoering goed, en moet daar ook de verantwoordelijkheid komen te liggen voor fouten in besluitvorming. Het probleem is alleen dat bestuurders nu vaak de kennis missen om de vinger op de zere plek te leggen bij de invoering van meer datagedreven werken. Laten we de komende jaren dan ook beginnen met het opleiden van directieleden in het besturen van algoritmes.

Toetsen op algoritmekennis

Het bijzondere is dat binnen organisaties ‘peoplemanagement’ een regulier begrip is, maar ‘algoritmemanagement’ zeker nog niet. Je zou je kunnen voorstellen dat de toezichthouders van de toekomst bestuurders ook gaan toetsen op hun kennis over algoritmes en statistiek, naast hun kennis over de financiële wereld. Het omgaan met big data zou dus wat mij betreft een veel grotere rol moeten spelen in de beoordeling of iemand geschikt is."

Zie ook

Informatie delen

Delen via: deel