週二，超過100輛百度Apollo Go自駕計程車在武漢交通中同時凍結，將乘客困在拒絕移動的車輛內，並在隨後的混亂中造成至少一起事故。警方證實了多起關於自駕車輛在全市街道和高速公路上突然停止的報告，將大規模故障歸因於未明確說明的「系統故障」。雖未報告人員傷亡，但該事件影響了百度在武漢500輛車隊的重要部分。
這不僅僅是又一個自駕車輛故障——它嚴峻地提醒我們，運營實體基礎設施的集中式AI系統存在固有的單點故障。當你的推薦演算法當機時，你得到糟糕的建議。當你的自駕計程車隊當機時，你得到真正的交通事故和被困在金屬盒子裡的人們。百度在全球26個城市運營，並在倫敦和杜拜與Uber合作，這意味著這種同時故障可能在他們系統覆蓋的任何地方發生。
特別令人擔憂的是，百度分享的根本原因資訊如此之少。「系統故障」沒有告訴我們這是否是雲端連線問題、同時推送到整個車隊的軟體bug，或者是自駕技術堆疊中更根本的問題。圍繞這樣一個公共安全事件的不透明性引發了關於監管機構在批准全市部署之前對這些系統實際擁有多少可見性的問題。
對於任何構建控制實體基礎設施的AI系統的人：這是關於優雅降級和故障保護的警鐘。如果你的系統無法在不困住人類的情況下處理與伺服器連線的中斷，你就還沒有準備好投入生產。自駕計程車的未來可能不可避免，但像這樣的事件表明我們仍在將beta軟體當作已準備好大規模部署來對待。