TNO adviseert uitgebreide zwarte doos in autonome auto

Na afloop van verkeersongevallen met zelfrijdende auto’s is veel informatie nodig over de omstandigheden en de gevolgde procedures en keuzes van het voertuig voor onder meer aansprakelijkheidskwesties. Dat kan worden vastgelegd in Event Data Recorders (EDR's), ook wel bekend als zwarte dozen.

Aanvullende specificaties

Veel voertuigen zijn al uitgerust met eenvoudige zwarte dozen, die alleen data over de situatie bevatten, zoals de snelheid en data van overige sensoren. TNO adviseert nu om ook aanvullende informatie op te slaan, zoals het versienummer van de software en de gebruikte datasets voor het trainen en testen van op artificial intelligence (AI) gebaseerde componenten.

Ook wil TNO de exacte specificaties en het gebruik van EDR's in weg- en regelgeving vastleggen, bij voorkeur nog voordat zelfrijdende auto’s in grote getalen op de weg zijn. Dit met als doel om de volledige keten van gebeurtenissen te kunnen beoordelen, inclusief observatie, verwerking, prestaties en context

Ethische afwegingen

Zelfrijdende auto's kunnen door middel van AI goed patronen herkennen en beslissingen nemen, maar moeten ook wettelijke en ethische afwegingen maken. Het is van belang dat de software van de auto 'uit kan leggen' hoe een beslissing tot stand is gekomen. Momenteel zegt de gebruikte informatie in EDR's daar niets over.

Kosten

Het advies van TNO houdt ook rekening met de kosten van EDR's. Te hoge eisen stellen aan de gebruikte hard- en software kan toekomstige ontwikkelingen belemmeren. Ook moet rekening gehouden worden met de privacy van de betrokkenen. Veel daarover is nog onduidelijk. Daarvoor is betere regelgeving vereist.

Advies

TNO analyseerde het juridische en zakelijke landschap met betrekking met VVA (Italië) en SSA (ook Italië). TNO heeft onder meer een verkennend onderzoek gedaan naar specificaties van EDR's in wegvoertuigen en andere op AI-gebaseerde systemen op gebieden zoals industriële robots en autonome scheepvaart.

Bekijk hier de publicatie van TNO.