Estas cosas se tendrían que dejar prefijadas en la IA bajo un criterio común y así nos evitábamos debates. Se supone que tú estás protegido en el vehículo con cinturón, airbag y una carcasa más o menos rígida, por lo que tendría que estrellarte a ti antes de atropellar a un peatón que tiene las de perder. Si ya toca elegir, a izquierda o derecha entre un anciano o un niño, pues son cosas que se le tendrían que programar y así una duda menos que tiene la IA.
Siempre vamos a tener discusiones de este tipo, y siempre habrán errores, aunque el criterio sea consensuado. Son situaciones en las que el humano falla la mayoría de las veces por tiempo de respuesta, bloqueo, miedo, etc. La IA no tendrá miedo, no sufrirá un bloqueo y tendrá un tiempo de respuesta más corto, donde valorará todas las alternativas, eligiendo la más conveniente según su simulación, pero aun así puede ser errónea.
Son preguntas muy complejas con muchas variables, y ademas, metiendo la ética por medio..., ¿qué puede salir mal?