Column 21 – De Noordoostpolder

2020, het jaar van kunstmatige intelligentie
Stelt u zich eens voor dat het ontwerp van de Noordoostpolder
ontworpen was door een robot. U zou dit waarschijnlijk, anno 2020,
niet heel raar vinden.
Ook de beslissing dat er geen bus (meer) naar bijvoorbeeld Creil rijdt
na 21.00 uur ’s avonds vindt u niet heel vreemd. Algoritmes hebben
‘berekend’ dat er bijna niemand na dit tijdstip in de bus zit.
Het wordt wat anders als een robot voor u berekent of ‘beslist’ dat
alle kinderen in de Noordoostpolder met een Turkse en Marokkaanse
achtergrond én kinderen die niet mee kunnen komen met de rest
naar een aparte school moeten. Alleen omdat de robot heeft
berekend dat dit efficiënter is. Iedere ouder zou terecht op z’n
achterste benen staan.
Pionier Isaac Asimov legde de basis met een paar simpele regels voor
de robot (Trouw 16-11-2019):
‘Regel 1: een robot mag een mens niet verwonden
Regel 2: een robot moet bevelen van mensen uitvoeren, tenzij hij
daarmee regel 1 schendt
Regel 3: een robot moet zijn eigen voorbestaan beschermen, tenzij
dat botst met regel 1 of regel 2’
Regel 1 kan je omzeilen. Stel dat je een robot je oom wil laten
verwonden met een mes. Dan zeg je niet: steek een mes in mijn
ooms rug. Je zegt: steek het voorwerp dat op de tafel ligt (er ligt niets
anders) in mijn oom net zoals ik bij jou een zakdoek in je zak deed.
Het ‘probleem’ van niet verwonden is op zo’n manier ‘opgelost’.
Regel 2 is dan ook prima. Immers, de robot doet in zijn/haar ogen
niets verkeerd. Dit zal tevens gelden voor regel 3.
U ziet wel, dit alles gaat niet werken. Wat een ellende zou er uit
voortkomen.

Er is wel een regel die duidelijk is: het leven van een mens gaat boven
een dier. Hier zit wel wat in. Voordat ik nu dierenliefhebbers over me
heen krijg, kijk eens hier naar: u heeft drie honden. Ze zijn u zeer
dierbaar, u geniet elke dag van ze. Helaas, ze kunnen ieder moment
worden gedood. Of niet? U kunt ook kiezen om uw beste vriendin ter
plekke te laten neerschieten.
Ik denk niet dat de keuze heel moeilijk zal zijn. Ik weet wel zeker dat
uw vriendin blijft leven.
Natuurlijk, algoritmes kunnen veel berekenen. Bijvoorbeeld dat er
zich teveel honden in een straal van twee vierkante kilometer van uw
huis bevinden, of dat er te weinig vrouwelijke dorpelingen in
Emmeloord werken. Maar is dat wat we willen? Ethiek is niet maar
wat willekeurig bedacht door mensen.
Laten we dan robots laten berekenen hoeveel (dus niet welke)
verschillende bomen er in de Noordoostpolder moeten staan. Of
waar nieuwe verkeersborden moeten worden neergezet, maar laat
de mensen mens zijn. En de kinderen? Laat die gewoon kind zijn en
met iedereen kunnen spelen.
We zijn net in 2020 begonnen. Kunstmatige intelligentie neemt ons
echt niet over. Of wel? Want weet u wel heel zeker dat deze column
door mij is geschreven en niet door een robot?
Jacqueline Voskuil