No necesito que mañana le dieran a un mono un revólver y lo pusieran en la Gran Vía, para saber de antemano que una mala idea.
Incluso si le colgasen un cartel al mono al cuello que diga "mono en pruebas".
Sin meterme mucho en lo que has puesto todo producto/software necesita pruebas, actualmente la legislación de EEUU permite realizar esas pruebas con unos mínimos de seguridad y habrá casos que por mucho que se haya entrenado a una IA, no tome las decisiones correctas. Como ha comentado un compañero, creo que está claro que están en pruebas y lejos de ser perfecto (que no lo será ni este ni ningún software o sistema) las pruebas es algo necesario si o si y no veo mal el como lo están llevando a cabo