Wired本周的一篇文章把一个自2025年底以来一直在累积的模式提炼了出来:急救第一响应者说Waymo机器人出租车在公共空间应对紧急情况时正在变差,而不是变好。事件目录是具体的。TechCrunch记录了至少六起案例,第一响应者在应急响应过程中不得不接管Waymo车辆并亲手把它们挪出车流,其中包括一名响应大规模枪击案的警官。另一辆Waymo堵住了奥斯汀(德州)大规模枪击案中的救护车,这件事在2026年3月2日旧金山监事会听证会前夕被曝出。最具后果的是,在2025年12月旧金山停电期间,卡在四个或以上路口的Waymo,迫使警察要么打电话给公司、要么叫拖车、要么自己把车推开。把这个议题钉住的公开引语来自Mary Ellen Carroll,SF应急管理部门的执行总监:公共安全官员正变成「这些车辆的默认道路救援,这我们不认为是可持续的」。

这种结构性缺口与本节其他AI部署里出现的架构模式吻合。Waymo的车辆具备能用的物体检测与路径规划——失败不是感知漏掉,而是「响应行动」的缺口。车辆正确感知到停电导致信号灯失灵;它没有为这种场景部署的剧本,因此原地停车。车辆正确感知到一辆鸣笛驶来的应急车;它并不总是像人类司机那样可靠地让行,尤其在几何关系不熟悉时。这些失败看起来像OpenAI的Tumbler Ridge执行缺口问题(iter #62——检测抓到信号,执行默认走最便宜的动作),也像Lovable的平台责任问题(iter #63——检测在发生,但执行基础设施还没建)。每一种情况下,AI系统都在做它被设计去做的事,但运营级响应那一层建得不够,而这道缺口的成本被外部方(公共安全官员、受害者家属、诈骗目标)吸收,而不是被定价进公司的运营预算。

Waymo的回应是技术性和运营性的:在车队范围内推送软件更新,以更好处理交通信号灯失灵的路口;修订停电事件的应对流程;改善重大事件期间的排班。这些并不错,但都没点名底层议题——「带有公共安全外部性的私营自动驾驶部署」要求与车队所在城市建立合同关系。旧金山没法无限期吸收Waymo的道路救援间接成本;政治账目算不平。今年早些时候SF监事会的听证就是这股压力流向何处的早期信号——很可能朝向AV运营方做出正式的SLA式承诺,带可测量的响应时间罚则,甚至可能要求按部署车辆数量配备专门的远程运营人员。CPUC(加州公共事业委员会)为AV搭建的监管框架是在车队还以百计的时代搭的;Waymo在加州的车队如今以千计,外部性的算账方式已经变了。

对builder而言,有三点收获。第一,如果你出货的是在公共空间运营的自动驾驶系统(机器人出租车、配送机器人、人行道无人机,甚至户外AI摄像机),你强加给公共部门的外部性成本现在是可量化的,且正越来越成为监管议题。在监管者把合同强加到你头上之前,把响应基础设施(远程运营、拖车服务合同、城市运营实时联络)先建起来——被强加的版本会更糟。第二,SF停电事件对任何出货「依赖基础设施的AI系统」的builder而言是一次有用的设计练习:当信号灯失灵、移动网络拥堵、GPS漂移时,你的系统怎么办?AV以「原地停车」的方式fail-safe,对一辆车没问题;对一座刚刚失去电力的城市里的一千辆车而言,这是一种协同失败模式,实际上等于对应急响应的拒绝服务攻击。同样的逻辑适用于任何「优雅降级路径会强加协调成本」的代理系统。第三,「把公共安全官员当作默认道路救援」是这一外部性对监管者变得可读的那个时刻。一旦这个表述成立,就回不去了;预计2026-2027年的联邦AV立法草案会明确援引这一措辞。如果你在这个领域运营,你的对外沟通必须直接面对这一外部性,而不是绕开它。