Wired本週的一篇文章把一個自2025年底以來一直在累積的模式提煉了出來:急救第一響應者說Waymo機器人計程車在公共空間應對緊急情況時正在變差,而不是變好。事件目錄是具體的。TechCrunch記錄了至少六起案例,第一響應者在應急響應過程中不得不接管Waymo車輛並親手把它們挪出車流,其中包括一名響應大規模槍擊案的警官。另一輛Waymo堵住了奧斯汀(德州)大規模槍擊案中的救護車,這件事在2026年3月2日舊金山監察會聽證會前夕被曝出。最具後果的是,在2025年12月舊金山停電期間,卡在四個或以上路口的Waymo,迫使警察要麼打電話給公司、要麼叫拖車、要麼自己把車推開。把這個議題釘住的公開引語來自Mary Ellen Carroll,SF應急管理部門的執行總監:公共安全官員正變成「這些車輛的預設道路救援,這我們不認為是可持續的」。
這種結構性缺口與本節其他AI部署裡出現的架構模式吻合。Waymo的車輛具備能用的物體偵測與路徑規劃——失敗不是感知漏掉,而是「響應行動」的缺口。車輛正確感知到停電導致信號燈失靈;它沒有為這種場景部署的劇本,因此原地停車。車輛正確感知到一輛鳴笛駛來的應急車;它並不總是像人類司機那樣可靠地讓行,尤其在幾何關係不熟悉時。這些失敗看起來像OpenAI的Tumbler Ridge執行缺口問題(iter #62——偵測抓到訊號,執行預設走最便宜的動作),也像Lovable的平台責任問題(iter #63——偵測在發生,但執行基礎設施還沒建)。每一種情況下,AI系統都在做它被設計去做的事,但營運級響應那一層建得不夠,而這道缺口的成本被外部方(公共安全官員、受害者家屬、詐騙目標)吸收,而不是被定價進公司的營運預算。
Waymo的回應是技術性和營運性的:在車隊範圍內推送軟體更新,以更好處理交通信號燈失靈的路口;修訂停電事件的應對流程;改善重大事件期間的排班。這些並不錯,但都沒點名底層議題——「帶有公共安全外部性的私營自動駕駛部署」要求與車隊所在城市建立合約關係。舊金山沒法無限期吸收Waymo的道路救援間接成本;政治帳目算不平。今年早些時候SF監察會的聽證就是這股壓力流向何處的早期訊號——很可能朝向AV營運方做出正式的SLA式承諾,帶可測量的響應時間罰則,甚至可能要求按部署車輛數量配備專門的遠程營運人員。CPUC(加州公共事業委員會)為AV搭建的監管框架是在車隊還以百計的時代搭的;Waymo在加州的車隊如今以千計,外部性的算帳方式已經變了。
對builder而言,有三點收穫。第一,如果你出貨的是在公共空間營運的自動駕駛系統(機器人計程車、配送機器人、人行道無人機,甚至戶外AI攝影機),你強加給公共部門的外部性成本現在是可量化的,且正越來越成為監管議題。在監管者把合約強加到你頭上之前,把響應基礎設施(遠程營運、拖車服務合約、城市營運即時聯絡)先建起來——被強加的版本會更糟。第二,SF停電事件對任何出貨「依賴基礎設施的AI系統」的builder而言是一次有用的設計練習:當信號燈失靈、移動網路壅塞、GPS漂移時,你的系統怎麼辦?AV以「原地停車」的方式fail-safe,對一輛車沒問題;對一座剛剛失去電力的城市裡的一千輛車而言,這是一種協同失敗模式,實際上等於對應急響應的拒絕服務攻擊。同樣的邏輯適用於任何「優雅降級路徑會強加協調成本」的代理系統。第三,「把公共安全官員當作預設道路救援」是這一外部性對監管者變得可讀的那個時刻。一旦這個表述成立,就回不去了;預計2026-2027年的聯邦AV立法草案會明確援引這一措辭。如果你在這個領域營運,你的對外溝通必須直接面對這一外部性,而不是繞開它。