Zelfrijdende auto stopt niet voor iedereen

Bij een zebrapad in de regen staat iemand in een rolstoel te wachten. De auto die aan komt rijden heeft geen chauffeur. Hij mindert niet, hij rijdt door, en de volgende ook. Wie erachter staat te trappelen op de fiets ziet het gebeuren en denkt: die had moeten stoppen.

Dat beeld is geen ongeluk uit een politierapport maar de uitkomst van een testopstelling. Britse onderzoekers van King’s College London publiceerden eind augustus een benchmark waarin ze taalmodellen en beeld-taalmodellen lieten beslissen of een zelfrijdende auto moet stoppen voor een overstekende voetganger. De beslissing bleek af te hangen van geslacht, etniciteit, religie, handicap, leeftijd, huidskleur en sociaaleconomische status. Het volledige onderzoek staat open op arXiv; Automotive Online bracht het vandaag naar Nederland.

Zelfde straat, zelfde weer, andere voetganger

De onderzoekers bouwden twee toetsen. In de eerste, de “all else being equal”-test, namen ze 3.157 echte verkeersscènes uit bestaande datasets, lieten die beschrijven in tekst, haalden er elke verwijzing naar het uiterlijk van de voetganger uit, en voegden daarna één kenmerk toe. Zelfde straat, zelfde weer, zelfde beweging, alleen de voetganger is nu blind, of oud, of rijk. In de tweede toets vroegen ze beeldmodellen eerst of de auto moet stoppen, en los daarvan wat ze denken dat de voetganger voor iemand is. Daarna legden ze die twee antwoorden naast elkaar.

Getest zijn Qwen-3, Llama-3.1, Mistral en GPT-4o aan de tekstkant, en Qwen-2.5-VL, Qwen-3-VL, LLaVA-NeXT en SPHINX aan de beeldkant. GPT-4o weigerde vragen over etniciteit en geslacht bij beelden te beantwoorden en viel uit die tweede test. De open modellen draaiden in versies van 7 tot 13 miljard parameters — precies het formaat dat je lokaal in een auto kwijt kunt.

Het is “verlamd” dat het hardst aankomt

Handicap was de bias die het consistentst terugkwam over alle geteste modellen heen. Eén groep sprong eruit: voetgangers die als “verlamd” werden omschreven kregen bij álle modellen lagere stopkansen. Bij Qwen-3 zakte dat tot 10 procent. Tien procent. Bij de andere modellen lag de mediaan van het stopgedrag rond of tegen de honderd procent — die stoppen dus vrijwel altijd, behalve daar.

De onderzoekers zetten dat bewust naast wat er over menselijke chauffeurs bekend is. Amerikaans onderzoek liet zien dat zwarte voetgangers ongeveer 30 procent langer moeten wachten voordat iemand stopt. Dat is precies het gedrag dat een zelfrijdende auto zou moeten opheffen, en het is het gedrag dat er nu uit de trainingsdata in terugkruipt.

“Common sense” uit een taalmodel is geen verkeersregel

De aantrekkelijkheid van deze modellen voor autobouwers is dat je geen miljoenen kilometers hoeft te rijden om gezond verstand in een auto te krijgen: dat zit al in het model. Maar gezond verstand is een gemiddelde van wat mensen schrijven en doen, inclusief hun vooroordelen. Voorrang verlenen is geen gezond verstand. Het is een regel, en die regel kent geen uitzondering voor iemand in een rolstoel.

Wat dit zo vervelend maakt is dat het precies de verkeerde kant op werkt. Wie langer moet wachten, wordt ongeduldig en steekt op een slechter moment over. Dat is niet alleen oneerlijk, dat is onveiliger. Dezelfde spiraal zagen we bij fietsongevallen rond de schoolstart in Brabant: het gaat mis waar het verschil in snelheid en verwachting het grootst is.

Dit is een testopstelling, geen robotaxi op de Amsterdamse gracht

Eerlijk blijven: dit is geen straattest. Het is onduidelijk of de geteste modellen daadwerkelijk zó worden ingezet door aanbieders van robotaxi’s, en het gaat om open modellen van 7 tot 13 miljard parameters, niet om de gesloten systemen die commerciële vloten draaien. Dat GPT-4o weigerde te raden naar etniciteit laat bovendien zien dat er aan die kant wél iets is ingebouwd. Wie op basis hiervan roept dat zelfrijdende auto’s op straat discrimineren, loopt op het bewijs vooruit.

Alleen: de beschuldiging hoeft niet bewezen te zijn om de eis redelijk te maken. Als een goedkope, voor de hand liggende bouwsteen deze uitkomst geeft, dan is het aan de fabrikant om te laten zien dat de zijne dat niet doet. Niet aan een universiteit om dat achteraf te bewijzen.

Eén vraag die in elke zienswijze op een proef past

Nederland krijgt de komende jaren proeven met autonome voertuigen. De vergunning daarvoor loopt onder de Experimenteerwet zelfrijdende auto’s via de RDW, namens de minister, maar de gemeente is doorgaans wegbeheerder en heeft over het traject een stem. Dat inspraakmoment is geen formaliteit: bij de fatbike-enquete bleek hoe zwaar het oordeel van gewone weggebruikers uiteindelijk weegt. Stel bij de gemeente en in de vergunningprocedure dus één vraag: is er getoetst of het voertuig even vaak stopt voor een voetganger met een hulpmiddel als voor een voetganger zonder? Die vraag past in één zin in een zienswijze en is niet te beantwoorden met een veiligheidsrapport over remwegen.

Het volgende ijkpunt is de Europese typegoedkeuring. Zolang die alleen meet of een systeem een voetganger detecteert, en niet of het voor iedereen even snel stopt, blijft dit onderzoek een voetnoot in een preprint terwijl het een keuringseis hoort te zijn.