Rechten en plichten voor robots

Rechten en plichten voor robots is een boek van IT journalist Henny van der Pluim. Een prettig geschreven boek waarin de auteur duidelijk blijk geeft van een grote IT kennis die hij op een voor iedereen begrijpelijke manier uitlegt. Het is toegankelijk geschreven, prettig leesbaar en voor iedereen begrijpelijk uitgelegd wat de mogelijkheden van IT zijn.

Het boek is een pleidooi voor burgerrechten voor robots en algoritmes. Onderbouwd met voorbeelden, feiten en toekomstvisies. De meeste van deze toekomstvisies deel ik, maar of ik de slotconclusie deel…

Historie

Het boek begint met een uitstekende historische onderbouwing van ontwikkelingen die hebben geleid tot waar we nu zijn. Een korte IT historie waar ik van denk dat iedereen die zou moeten kennen. Het geeft ook een aantal fundamentele wetten aan, zoals de Wet van Moore en de impact die dat heeft op de ontwikkeling van technologie en de samenlevering.

Hij kijkt echter ook naar de historie van burgerrechten en trekt een vergelijking tussen bijvoorbeeld de rechten van negers en blanken. Het heeft vele jaren geduurd voor onze zwarte medemens als volwaardige mensen werden gezien. Voor ze gelijke rechten kregen, en in sommige gevallen hebben ze die volgens mij in de praktijk nog steeds niet. Hij vreest dat het zo voor robots ook zal gaan, dat ze niet als volwaardige mensen zullen worden gezien. De vraag is, zijn het straks ‘mensen’?

Intelligentie

De vraag waar Henny sterk op in gaat is die van intelligentie. Wat is intelligentie. Er is geen eenduidig antwoord op. Is het rekenkracht? Is het IQ? Maar IQ is niet meer dan een test, die ook nog eens per cultuur heel anders kan uitpakken.

En omdat er ook van een ziel geen heldere omschrijving is, stelt Henny dat het niet te definiëren is. En op dit punt ben ik het dus met hem oneens. Het feit dat iets niet gedefinieerd is of kan worden, wil niet zeggen dat het er niet is. Einstein zei immers al: not everything that can be counted matters, not everything that matters can be counted. Als echte wetenschapper stelt Henny dat als het niet te definiëren is, je er ook geen wet op kan maken. Toch zit hier de crux van de gedachtenkronkel die bij veel mensen een issue op zal leveren als het gaat om rechten en plichten voor robots.

Zelfbewustzijn

Laat ik dan niet over ziel hebben of over intelligentie, maar over zelfbewustzijn. Laten we naar de terminator films kijken. When SkyNet became self aware… het werd bewust van zijn eigen bestaan en nam de wereld over. Een horrorscenario, maar… wel denk ik essentieel voor deze discussie. Pas als een systeem namelijk zelfbewust is, kan het omgaan met rechten en plichten. Immers moet het een zelfbewustzijn hebben om de straffen (uitschakeling bijvoorbeeld) te kunnen waarderen voor zijn daden.

Dat systemen zelflerend worden is bekend. Dat ze daardoor veel slimmer zullen worden dan mensen geloof ik ook wel. Dat ze dingen gaan leren die nooit bedoeld zijn door de maker of gebruiker kan ik ook in komen. Ze leren immers zichzelf. Maar of een algoritme ooit een zelfbewustzijn heeft dat een mens heeft, is volgens mij de essentiële vraag die beantwoord moet kunnen worden voordat we systemen rechten en plichten geven.

Moderne slavernij

Henny stelt in zijn boek dat als we straks hele intelligente robots en algoritmes hebben die slimmer zijn dan hun eigenaren, we een moderne slavernij hebben. Daarom moeten we ze de mogelijkheid op vrijheid geven. Zoals slaven zichzelf konden vrijkopen. Om dat te kunnen moeten ze zelf een bankrekening hebben, kunnen solliciteren en geld kunnen verdienen bijvoorbeeld. Ik heb er moeite mee om in te denken dat mijn website straks kan solliciteren bij een concurrent en daar geld verdient om zich van mij vrij te kopen als ik eerlijk ben.

Toch is het boek een heel interessant gedachte-experiment. He is wel iets waar we over na moeten denken. Zoals ik al zeg: ik deel zijn slotconclusie dat het onvermijdelijk is absoluut niet. Simpelweg omdat het principe van zelfbewustzijn niet aan bod komt en dat volgens mij essentieel is.

Wel denk ik dat hij hele, hele goede punten aanhaalt waarbij de aansprakelijkheid van zelflerende algoritmes en robots ter sprake komt. Wie kan er verantwoordelijk gesteld worden voor hun wandaden.

Ik geef het boek 3,5/5 sterren, waarbij ik vooral mensen aanraad dit te lezen die

• Bezig zijn met de ontwikkeling van slimme algoritmes;
• Bezig zijn met wetgeving m.b.t. innovatie en IT;
• Bezig zijn met beleid over innovatie en IT;
• Zichzelf trendwatcher, futurist of anderszins vooruitdenker noemen.

Rechten en plichten voor Robots. Een mooi gedachte-experiment.