Het woord alleen al maakt je pissig. Op naar de volgende site. Je vult van alles in en verwacht een premie-voorstel en een online af te sluiten verzekering als je met de gevraagde premie kunt leven. NOT. De verzekering wordt geweigerd. Computer says no. Waarom, dat is niet duidelijk en uitleg is via de site niet te krijgen. Ben ik te oud? Is mijn woonplaats berucht wegens diefstal van elektrische scooters? Heb ik een slecht track-record qua betalingsgedrag? Of weet het bedrijf iets over mij waardoor ze me liever niet als klant willen? De volgende dag bel ik op. Met de nodige moeite kom ik erachter dat de aanschafprijs van de ecooter te hoog is. Hè? Te hoog? Mijn voorstel om dan het dure slot van € 90,- te laten vervallen, wordt afgewezen: ‘Dan bent u onderverzekerd.’ Drie minuten later ben ik – via internet – bij een andere maatschappij wel verzekerd, waar dit criterium niet geldt. Computer says yes.
Om in het verkeer te blijven: je koopt een Tesla. Ook weer heel verantwoord, want elektrisch en je steunt zo’n fantastische ondernemer als Elon Musk. Zo’n Tesla kan zijn uitgerust met ‘Auto Pilot’. De auto rijdt bijna geheel uit zichzelf. Maar ja. Hoe is deze auto eigenlijk geprogrammeerd? Het bekende ‘wissel-dilemma’ uit de ethiek: je kunt een aanstormende, niet te stoppen trein via een wissel geleiden naar drie arbeiders die in het spoor aan het werk zijn, of naar een klein meisje dat ook toevallig binnen het andere spoor aan het spelen is. Wie wordt het: de drie arbeiders of het meisje? Wat beslist de Tesla-auto in zo’n geval? Wie gaat eraan: de bejaarde, de moeder met baby of misschien zelfs de bestuurder (inzittende in dit geval!). Ethiek in de auto-industrie. Computer says … Wie had dat gedacht.
Een laatste voorbeeld, ook weer uit de mobiliteit. Vier ex-Uber chauffeurs hebben een rechtszaak aangespannen tegen dit bedrijf. Ze zijn ontslagen door een algoritme dat Uber hanteert. Het algoritme acht het waarschijnlijk dat deze vier chauffeurs fraude hebben gepleegd in gereden en daarmee gedeclareerde kilometers. Computer says no. De chauffeurs eisen inzicht in het algoritme. Uber weigert dat. Er is nog geen uitspraak van het Nederlandse hof.
Het is te verwachten dat neurale netwerken, machine-learning, Big Data en expertsystemen meer en meer beslissingen van mensen over mensen zullen overnemen. Ook in ons vakgebied. Op zich is dat geen slechte ontwikkeling. Als computer-beslissingen beter zijn dan die van menselijke experts, is dat in het belang van velen. Het probleem is natuurlijk de verantwoording van de genomen beslissing. ‘Computer says no’ zonder uitleg is niet acceptabel.
Overigens, op dit moment heeft de volledig gecomputeriseerde, internet verbonden elektrische scooter zichzelf geblokkeerd. Waarom? Geen idee. Geen meldingen, nix. Computer says no.