Más de 100 robotaxis Apollo Go de Baidu se congelaron simultáneamente en el tráfico de Wuhan el martes, atrapando a pasajeros dentro de vehículos que se negaron a moverse y causando al menos un accidente en el caos resultante. La policía confirmó múltiples reportes de vehículos autónomos deteniéndose en seco en calles y autopistas de toda la ciudad, atribuyendo la falla masiva a una "falla del sistema" no especificada. No se reportaron heridos, pero el incidente afectó una porción significativa de la flota de 500 vehículos de Baidu en Wuhan.
Esto no es solo otro fallo de vehículo autónomo — es un recordatorio crudo de los puntos únicos de falla inherentes en sistemas AI centralizados que operan infraestructura física. Cuando tu algoritmo de recomendaciones se cae, obtienes malas sugerencias. Cuando tu flota de robotaxis se cae, obtienes accidentes de tráfico reales y gente atrapada en cajas de metal. Baidu opera en 26 ciudades globalmente y se asocia con Uber en Londres y Dubai, lo que significa que este tipo de falla simultánea podría pasar en cualquier lugar donde lleguen sus sistemas.
Lo que es particularmente preocupante es qué poca información ha compartido Baidu sobre la causa raíz. "Falla del sistema" no nos dice nada sobre si esto fue un problema de conectividad en la nube, un bug de software enviado a toda la flota simultáneamente, o algo más fundamental en su stack de manejo autónomo. La opacidad alrededor de tal incidente de seguridad pública levanta preguntas sobre cuánta visibilidad tienen realmente los reguladores en estos sistemas antes de aprobar despliegues a nivel ciudad.
Para cualquiera construyendo sistemas AI que controlan infraestructura física: esta es tu llamada de atención sobre degradación elegante y sistemas de seguridad. Si tu sistema no puede manejar perder conectividad a tus servidores sin atrapar humanos, no estás listo para producción. El futuro de robotaxis podría ser inevitable, pero incidentes como este muestran que aún estamos tratando software beta como si estuviera listo para despliegue masivo.