Zelfrijdende projectielen

In de toekomst moet je auto misschien gaan kiezen wie er aangereden wordt. Hoe gaan we dat implementeren?

In een wereld met enkel zelfrijdende auto’s dragen zelfs de braafste motorrijders geen helm. De mens blijft ver uit de buurt van repen asfalt tenzij zij in grote getale over het zebrapad dringt. De enkeling sterft uit. Het zijn de knorrende beesten van Bordewijk die dan de publieke ruimte regeren.

Dit is het beeld dat ik heb van het zelfrijdend projectiel. Toch ben ik er een voorstander van. Begrijp me niet verkeerd, ik wil geen dystopie. Zelfrijdende auto’s kunnen prachtige beesten zijn die de hoeveelheid ongelukken drastisch verminderen, mits we ze goed implementeren. Echter, dat is misschien minder makkelijk dan we denken.

Centralisatie is beangstigend

Stel je voor, jij moet het gedrag schrijven voor een zelfrijdende auto (ik kort ze vanaf nu af tot SDC, self-driving car) en je komt een raar randgeval tegen. Jij moet besluiten tussen twee motorrijders. Eén met helm en één zonder. Als je geen van hen aanrijdt dan gaat de bestuurder dood, iets wat geen keuze is. De behelmde motorrijder die zich braaf aan de regels houdt heeft een grotere kans op overleven dus dat lijkt de betere keus, toch? Tegelijkertijd realiseer jij je dat de andere helmloze rijder die zich niet aan de regels houdt daarvoor beloond wordt. Dus dan toch maar die motorrijder zonder helm? Is dat niet erg onverantwoord?

Op deze resolutie worden zulke gevallen vaak behandeld. Het gaat om een situatie waarin men moet bepalen wie sterft en wie niet. Ik wil het echter hebben over het geval dat alle SDC's dat gedrag vertonen. Wat voor wereld maak je wanneer elke auto op straat liever motorrijders met helmen aanrijdt? Wat voor effect zal dat op mensen hebben wanneer ze langzaam maar zeker leren dat alle auto’s zulk gedrag vertonen? Leren mensen dan niet dat het veiliger is geen helm meer te dragen? Zonder helm word je tenslotte niet aangereden. Het probleem van gedrag gaat dus niet alleen om het specifieke geval maar ook gewoon om schaal. Als we een auto consistent laten kiezen om de één aan te rijden in plaats van de ander, dan hebben we een projectiel gemaakt. Zo'n auto kiest namelijk actief om een persoon 'liever' aan te rijden dan een ander. Als alle auto’s op de weg vergelijkbare projectielen zijn dan zitten we opeens met een flink probleem.

Dit probleem heeft te maken met centralisatie. Binnen AI pakken we dingen vaak gecentraliseerd aan. Je wilt je data op één plek hebben want daardoor kun je beter weten wat er aan de hand is. Je hebt meer controle en grip op een situatie als je het centraliseert en dat kan ook efficiëntie opleveren. Hier lijkt het echter een probleem en dat kunnen we voorkomen.

Decentralisatie en dobbelstenen

Stel je nu voor dat niet alle SDC's hetzelfde gedrag vertonen. Dan is er variatie. BMW heeft zijn eigen gedrag en beschermt het liefst zijn inzittende. Tesla rijdt nooit hogeropgeleiden aan. Volkswagen beschermt omstanders. Op deze manier lossen we twee dingen op. We kunnen bij het kopen van een auto garanderen dat de gebruiker verantwoordelijk is voor het gedrag van de auto, mits de koper zich bewust is van het gedrag van de auto. Verder lossen we ook de problematiek van centralisatie op. Natuurlijk weet je wel dat je uit moet kijken bij BMW's omdat ze dus hun inzittende(n) willen redden, maar was jij je daar nu al niet van bewust? In deze situatie kunnen we echter niet meer inspelen op een uniform gedrag voor alle auto’s.

Als dat je niet goed in de oren klinkt kunnen we het oplossen met een dobbelsteentje. In zulke vreemde randgevallen laten we de auto een dobbelsteentje opgooien. Bij even rijdt de SDC de een aan en bij oneven de ander. De meeste mensen zijn tegen deze oplossing omdat het dehumaniserend voelt om aan de hand van een dobbelsteen te bepalen wie er dood gaat, maar in principe zou het goed werken om het fenomeen van een zelfrijdend projectiel tegen te gaan.

Wat je ook prefereert, er is een argument te maken voor variëteit van gedrag met verschillende uitkomsten. We zijn dan namelijk veilig in onze onzekerheid van het gedrag van anderen en we minimaliseren de indruk die zulk gedrag zal hebben op de maatschappij. Duitsland heeft afgelopen jaar een aantal basisregels opgesteld om het gedrag van auto’s aan banden te leggen. Als ze daarmee doorgaan dan kan dat nog wel eens flink wat ongelukken gaan veroorzaken.

Dit item is geschreven door Sietze van schrijverscollectief Kaf.