Terug

‘De economie achter digitalisering ís manipulatie’

NRC-journalist Wouter van Noort over de keerzijde van digitalisering

‘Technologie is een goede kracht. De wereld is er een stuk beter door geworden, maar er zijn elementen die bewust verslavingen opwekken.’

Wouter van Noort is economie- en technologieredacteur bij NRC Handelsblad. Hij maakte deze zomer een drieluik voor de NRC en EénVandaag waarin een donker beeld werd geschetst over de macht van de big tech en in het bijzonder Facebook. Ook schreef hij het boek ‘Is daar iemand?’ over de invloed van de smartphone op ons leven.

'We moeten ons realiseren dat de economie achter digitalisering volledig draait om manipulatie.’ Het zijn de woorden van iemand die weet hoeveel macht technologie over ons leven heeft. ‘Onlangs hebben we met de NRC nog een serie gemaakt over mensen die hun eigen smartphone een tijdje moesten inruilen tegen een oude Nokia. Ze beschreven allemaal dat ze die Nokia telkens weer uit hun zak haalden om te kijken of er nog wat binnen was gekomen. Het laat zien hoezeer we met verleidingstechnieken geconditioneerd zijn en vaak niet meer echt autonome keuzes kunnen maken.’

Smartphone is ongekende manipulatiemachine

De journalist ziet dat bedrijven die collectieve verslaving continu voeden om zo het langst onze aandacht vast te houden. ‘Je smartphone is een ongekende manipulatiemachine. Een nooit eerder vertoonde bak aan data, waarmee bedrijven precies weten hoe ze je emotioneel kunnen raken. Uit je telefoongedrag kunnen ze nauwkeurig aflezen wanneer jij je eenzaam voelt of zin hebt een risicootje te nemen.’

Digitale manipulatie kan ook positieve effecten hebben. Zo kan gamification als methode voor je gezondheid heel goed werken. Van Noort: ‘Ik heb zelf een app met stappenteller en die stimuleert mij om af en toe nog een extra blokje om te gaan. De data die nu beschikbaar wordt over de gezondheid en het onderliggende gedrag kan uiteraard worden ingezet voor heel mooie oplossingen. Vertaald naar de financiële consument, kan gamification consumenten activeren en veel betere inzichten geven in hun pensioen of hypotheek.’

Volgens Van Noort is aandacht het grootste slachtoffer van onze smartphoneverslaving. Doordat we steeds maar op dat schermpje kijken, neemt onze focus meetbaar af. ‘Aandacht werkt als een spier die je moet blijven trainen. We worden steeds meer een wereld ingezogen waarin we contant open staan voor nieuwe prikkels en niet meer goed kunnen opletten. Dat is natuurlijk ook funest bij het maken van juiste, weloverwogen financiële beslissingen.’

Beslisomgevingen die financieel welzijn ten goede komen

De AFM verlangt dan ook van financiële dienstverleners dat zij consumenten stimuleren om, bewust of onbewust, beslissingen te nemen die hun financieel welzijn ten goede komen. Bijvoorbeeld bij het online afsluiten van een verzekering of het aangaan van consumptief krediet. Beslisomgevingen, zoals websites en apps, moeten voorzienbare teleurstellingen voorkomen.

‘Dat is heel belangrijk, maar ook precies waar het online nu vaak aan schort. Digitale omgevingen zijn allesbehalve in het belang van individuele keuzevrijheid en autonomie’, stelt Van Noort. ‘Terwijl het juist bij financiële beslissingen nodig is om eisen te stellen aan nudging, waarbij op zoveel mogelijk emotionele knoppen wordt gedrukt totdat iemand domme dingen doet. De verleidingstechnieken zijn daarbij zo ondoorzichtig dat je je alleen al daarom kunt afvragen of mensen nog echt zelf kunnen beslissen.’

Vals geloof in algoritmes

Ook in bedrijven en organisaties worden beslissingen steeds meer voor mensen genomen. Van Noort constateert een vals geloof in superioriteit en neutraliteit van algoritmes. ‘En dat is gevaarlijk. In de gezondheidszorg zou ik bij alle beslissingen altijd een mens aangesloten houden. Een algoritme kan de beslissing van een arts wel beter maken, maar niet overnemen. De financiële sector laat beslissingen al vaak over aan computers, maar ik kan me voorstellen dat het een goed idee is dat een aanbieder bij impactvolle financiële beslissingen altijd een mens betrekt. Een hypotheek binnen een paar seconden, dat kan niet.’

Onlangs schreef Van Noort het artikel ‘De computer is racistisch’. Conclusie: doordat kunstmatige intelligentie aan het werk gaat met menselijke input, die vaak onbewust vooroordelen bevat, kunnen discriminerende algoritmes ontstaan. ‘Verzekeraars zullen nooit expres op je afkomst selecteren, maar hun lerende computers kunnen wel op basis van allerlei datapatronen, zoals welk werk iemand doet of waar hij woont, per ongeluk verkeerde conclusies trekken.’

De prijselasticiteit van Uber

Door die automatisering worden in veel sectoren, waaronder de financiële sector, ook de prijzen steeds verder geïndividualiseerd. Gedragspricing kan voor positieve effecten zorgen, bijvoorbeeld bij autoverzekeringen, maar Van Noort ziet ook dat bedrijven deze prijselasticiteit soms te ver oprekken of zelfs puur in het nadeel de consument gebruiken.

‘Uit een onderzoek naar Uber bleek dat de taxidienst de prijs van een rit omhoog gooide op het moment dat de batterij van je smartphone bijna leeg was. Het idee: als je telefoon bijna uitvalt, ben je bereid meer te betalen. Een ander bekend voorbeeld is een ticketsite die je een hogere prijs liet zien op een iPhone dan op een Android. Dit vanuit de gedachte dat de gemiddelde iPhone-bezitter rijker is.’

Volgens Van Noort zijn aanbiedingen soms zelfs zo op maat gemaakt dat ook toezichthouders niet kunnen meekijken. ‘Er zijn allerlei methodes om via data direct in te grijpen in het leven van burgers én toezicht te ontlopen. Zo had Uber ook software ontwikkeld dat onder andere in Nederland werd gebruikt om prepaid creditcards van inspecteurs te herkennen en op basis daarvan geen ritten aan te bieden, zodat chauffeurs hen konden ontwijken. Een goed voorbeeld van de nieuwe technologische omgeving waarin toezichthouders, en dus ook de AFM, zich bevinden.’

Lees verder

Informatie delen

Delen via: deel

Zie ook