同一周带来了两个生产级 ASR 发布,具有 deliberately 相反的 shapes。Microsoft MAI-Transcribe-1.5 于 6 月 8 日通过 Azure AI Foundry 作为封闭 API 全面可用,在 Artificial Analysis 排行榜上 claim 2.4% 词错误率(整体第三,落后于两个未命名的竞争对手),在支持的 43 种语言中 best-in-class FLEURS 准确率(从 MAI-Transcribe-1.0 的 25 种上升,添加了十种南亚语言包括孟加拉语、泰米尔语和泰卢固语,加上八种欧洲语言包括乌克兰语和加泰罗尼亚语),以及一个 long-form throughput claim:一小时音频在 15 秒内转录,比 1.0 版本快 5.7 倍。该模型支持高达 200 个 domain-specific keywords 的实体偏置,在偏置激活时报告 FLEURS 上 30% WER 降低。它不提供:streaming API、speaker diarization 或开放权重。两天前,在 6 月 6 日,NVIDIA Nemotron 3.5 ASR 作为 600M 参数 open-weights checkpoint 在 Hugging Face 上以 OpenMDW-1.1 许可证落地,采用 Cache-Aware FastConformer-RNNT 架构,从单个 checkpoint 实时流式传输 40 个 language-locales,在单个 H100 上报告 17x buffered concurrency,延迟在推理时可通过 att_context_size 参数从 80ms 调整到 1.12s 无需重新训练,以及内置 punctuation 和 capitalization。带 gRPC streaming 的生产 NIM 已宣布但尚未 ship。
这两个发布并不真正在同一轴上竞争,这是本周重要的部分。Microsoft 优化 accuracy-first batch 路线:bulk 转录 throughput、Microsoft 可以发布的最高 FLEURS 数字、一个封闭的 serving substrate 让他们在不发布模型的情况下 ship best-in-class accuracy。Deployment 故事是托管的 Azure API,成本故事是每分钟定价,集成故事是"你的 audio 管道现在调用我们的 endpoint"。NVIDIA 优化 streaming-first agent-voice 路线:低延迟实时转录,具有可调的 latency-quality tradeoffs,开放权重所以你可以 fine-tune 为你的领域或口音,允许在你自己的基础设施上进行商业 deployment 的许可证,一个清晰的路径通向 agent-voice 槽,在那里下游的 LLM 需要 transcript 当它到达时。NVIDIA 与发布一起发布的 fine-tuning notebook 是操作的 tell:假设是生产用户将使模型适应他们特定的语音表面,而不仅仅是调用 endpoint。
生态系统解读是 ASR 层现在可见地分裂为两种具有不同 substrate demands 的操作 shapes。Whisper-v3 及其开源衍生品在 2024-2025 年间通过在两个轴上对大多数工作负载都"足够好"而占主导地位。2026 年的前沿正在 split,因为 agent-voice 用例(always-on、低延迟、fine-tuned、on-prem-friendly)和 batch-transcription 用例(最高 accuracy、托管、多语言、无操作开销)正在拉向架构和许可 trade-offs 的相反两端。Microsoft 和 NVIDIA 各自选择了一端。未来六个月可能会看到其他 labs 宣布他们的路线,closed-batch 领导者推动 Artificial Analysis 上的 accuracy,open-streaming 领导者推动延迟和语言计数。
周一早上,如果你在大规模做 batch 转录,accuracy 比 substrate control 更重要:MAI-Transcribe-1.5 现在是最干净的 hosted 选项,特别是如果你能使用 entity biasing 功能,但要验证 30% WER 降低是否适用于你的领域词汇,因为发布的数字是在 FLEURS 上。如果你正在为 agent 产品构建 voice-in 或因 compliance 原因需要 on-prem deployment:Nemotron 3.5 ASR 现在是最干净的开放选项,80ms 延迟下限是你想要的对话延迟预算,fine-tuning notebook 是口音或领域适应的正确起点。如果你已经在生产中运行 Whisper-v3:问题是你的操作 shape 是更接近"我想要更好的 accuracy,我乐意每分钟付费"(lean MAI)还是"我想要更低的延迟,我想保持权重控制"(lean Nemotron)。如果你跟踪 agent-runtime 整合线索,Nemotron 发布完美契合:agent-voice 槽现在是一个专门化的模型、open-weighted、具有可调的延迟 knob、设计为针对它所在的 harness 进行 fine-tune。Harness-1 为 retrieval 显示的相同专门化模式现在对 speech 可见。