El piloto automático de Tesla no detecta objetos del tamaño de un niño en las pruebas

La última versión beta del piloto automático Full Self Driving (FSD) de Tesla tiene un pequeño problema: no parece notar objetos del tamaño de un niño en su camino, según un grupo de campaña.

En las pruebas realizadas por The Dawn Project utilizando un Tesla Model 3 equipado con FSD versión 10.12.2 (la última, lanzada el 1 de junio), el vehículo recibió 120 yardas (110 metros) de vía recta entre dos filas de conos con un niño- maniquí de tamaño al final.

El grupo dice que "las manos del piloto de pruebas nunca estuvieron en el volante". De manera crucial, Tesla dice que el piloto automático no es un sistema completamente autónomo y solo brinda asistencia y funcionalidad de control de crucero al conductor. Se supone que debes mantener las manos en el volante y poder tomar el control en cualquier momento.

Viajando a aproximadamente 25 mph (alrededor de 40 kph), el Tesla golpea el muñeco cada vez. 

De los resultados, el Proyecto Dawn dijo que 100 yardas de distancia son más que suficientes para que un conductor humano se dé cuenta de un niño, afirmando: "El software de conducción autónoma completa de Tesla falla esta prueba simple y crítica para la seguridad repetidamente, con resultados potencialmente mortales".

“Elon Musk dice que el software Full Self-Driving de Tesla es 'increíble'. No es… Este es el peor software comercial que he visto”, dijo el fundador del proyecto, Dan O'Dowd, en un video que tuiteó junto con los resultados.

Nuestra nueva prueba de seguridad de @Elon MuskLos Tesla totalmente autónomos descubrieron que matarán indiscriminadamente a los niños. Este Dia @ProyectoRealDawn lanza una campaña publicitaria de televisión a nivel nacional exigiendo @NHTSAgov prohibir la conducción autónoma total hasta @Elon Musk demuestra que no matará a los niños. pic.twitter.com/i5Jtb38GjH

— Dan O'Dowd (@RealDanODowd) 9 de agosto de 2022

O'Dowd, quien también fundó Green Hills Software en 1982 y aboga por la seguridad del software, ha sido opositor de Tesla durante algún tiempo, e incluso lanzó una candidatura para el Senado de EE. UU. en California que centrado en la vigilancia de Tesla como una forma de hablar sobre cuestiones más amplias de ciberseguridad. La candidatura al Senado de O'Dowd terminó en junio cuando perdió las primarias del Partido Demócrata. 

El objetivo declarado del Proyecto Dawn es "hacer que las computadoras sean seguras para la humanidad". Tesla FSD es la primera campaña del Proyecto. 

Tamaño de muestra pequeño

Vale la pena señalar que las pruebas de The Dawn Project de FSD 10.12.2, que se llevaron a cabo el 21 de junio en Rosamond, CA, solo consistieron en tres ejecuciones. Ese es un tamaño de muestra pequeño, pero considerando otras pruebas y estadísticas de Autopilot, no es inesperado. 

Las fallas en el piloto automático de Tesla tienen sido citado como supuestamente un factor in Varios, fatal accidentes que involucran a ambos conductores y peatones A través de los años. Tesla del año pasado retrotraído El software FSD se lanza después de que se descubrieran errores de software que causaron problemas con los giros a la izquierda, algo que Tesla está haciendo todavía trabajando en. 

A principios de junio, la Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. actualizó una sonda de Tesla Autopilot después de encontrar razones para investigar si "Autopilot y los sistemas Tesla asociados pueden exacerbar los factores humanos o los riesgos de seguridad del comportamiento". La investigación está en curso.

Una semana después de anunciar su investigación, la NHTSA dijo que Tesla Autopilot (que operaba en el nivel 2, no en FSD) estaba envuelto en 270 de los 394 accidentes de asistencia al conductor, alrededor del 70 por ciento, se catalogaron como parte de una investigación sobre la seguridad de la tecnología de asistencia al conductor.

Más recientemente, el Departamento de Vehículos Motorizados de California presentó quejas contra Tesla alegando que afirmaciones tergiversadas los vehículos pueden conducir de forma autónoma. Si Tesla no responde a los reclamos del DMV para fines de esta semana, el caso se resolverá por defecto y podría llevar a que el fabricante de automóviles pierda su licencia para vender automóviles en California.

El Proyecto Dawn dijo que la NHTSA ha actuado rápidamente para emitir retiros del mercado de las características de Tesla, señalando los retiros del código FSD estimulados por la NHTSA de Tesla que permitieron a Teslas pasar las señales de alto y del desactivación de Tesla Boombox. 

El Proyecto Dawn dice que su investigación “es mucho más seria y urgente”. ®