Geplaatst op 19 oktober 2016
PERSBERICHT
Uitkomst DAVI-colloquia Ethics: Responsible Driving Automation
‘Meaningful human control’ moet basis zijn voor morele keuzes automatisch rijden
Delft, 17 oktober 2016
Mensen moeten te allen tijde controle houden over het gedrag van het systeem. Dat opmerkelijke advies is de uitkomst van een serie expertsessies over ethische keuzes rond zelfrijdend vervoer, die dit jaar plaatsvond bij Connekt in het kader van de Kennisagenda Zelfrijdende Voertuigen/ DAVI, het Dutch Automated Vehicle Initiative. Het rapport, dat in opdracht van Rijkswaterstaat door de TU Delft werd gepubliceerd, bevat aanbevelingen voor de introductie van zelfrijdende voertuigen in Nederland.
Meaningful human control, hoe doe je dat?
De aanbevolen methodologie is ‘Responsible Innovation and Value-Sensitive Design’. Dit is een benadering van de studie van ethiek en technologie die veronderstelt dat de uitkomst van ontwerpprocessen niet neutraal is, maar ethisch beladen, en dat moreel relevante overwegingen voorafgaan aan het technologisch ontwerpproces. Een Value-Sensitive Design-aanpak adresseert morele kwesties vroeg in het ontwerpproces, de ontwikkeling van technologieën, systemen en onderzoek. Zij introduceert rationele procedures voor ontwerpen op basis van morele waarden.
Het rapport suggereert dat menselijke controle van het systeem mogelijk wordt gemaakt door het ontwerp van een deels geautomatiseerd systeem, of een systeem onder toezicht. Zelfs in een volledig geautomatiseerd systeem kan menselijke controle worden gehandhaafd, maar binnen de huidige stand der techniek en wetgeving is dat nog niet mogelijk. Ook is het van groot belang om de basisrechten van het individu op fysieke integriteit, toegang tot mobiliteit (met name achtergestelde groepen) en privacy te borgen.
Achtergrond DAVI-colloquia Ethics: Responsible Driving Automation
Steeds meer autofabrikanten en kennisinstituten werken aan zelfrijdende voertuigen. Deze voertuigen zijn in staat om zichzelf op de juiste rijstrook te houden, automatisch te remmen en te sturen bij gevaar en te communiceren met verkeerslichten en andere auto’s. Voor de introductie van zelfrijdende voertuigen in ons verkeersbeeld zijn er behalve veel technische vragen ook ethische vragen aan de orde. Mag een zelfrijdende auto dingen doen die wij soms ook doen, zoals even over de witte streep of iets te hard rijden? Mensen wegen de risico’s af en maken onbewust een ethische keuze; kunnen we dat ook van een machine verwachten? Hoe ‘stout’ mag software zijn? Experts uit de automotive industrie, infrastructuurbeleid en -beheer, juristen en verzekeraars bogen zich tijdens de DAVI-colloquia over deze vragen. Hun bevindingen zijn opgenomen in ETHICS AND SELF-DRIVING CARS, A WHITE PAPER ON RESPONSIBLE INNOVATION IN AUTOMATED DRIVING SYSTEMS door Filippo Santoni de Sio van de TU Delft. Download de volledige tekst op http://knowledgeagenda.connekt.nl/engels/human-factors/.