同一週帶來了兩個生產級 ASR 發布,具有 deliberately 相反的 shapes。Microsoft MAI-Transcribe-1.5 於 6 月 8 日通過 Azure AI Foundry 作為封閉 API 全面可用,在 Artificial Analysis 排行榜上 claim 2.4% 詞錯誤率(整體第三,落後於兩個未命名的競爭對手),在支援的 43 種語言中 best-in-class FLEURS 準確率(從 MAI-Transcribe-1.0 的 25 種上升,添加了十種南亞語言包括孟加拉語、泰米爾語和泰盧固語,加上八種歐洲語言包括烏克蘭語和加泰羅尼亞語),以及一個 long-form throughput claim:一小時音訊在 15 秒內轉錄,比 1.0 版本快 5.7 倍。該模型支援高達 200 個 domain-specific keywords 的實體偏置,在偏置激活時報告 FLEURS 上 30% WER 降低。它不提供:streaming API、speaker diarization 或開放權重。兩天前,在 6 月 6 日,NVIDIA Nemotron 3.5 ASR 作為 600M 參數 open-weights checkpoint 在 Hugging Face 上以 OpenMDW-1.1 授權落地,採用 Cache-Aware FastConformer-RNNT 架構,從單個 checkpoint 實時串流傳輸 40 個 language-locales,在單個 H100 上報告 17x buffered concurrency,延遲在推理時可通過 att_context_size 參數從 80ms 調整到 1.12s 無需重新訓練,以及內建 punctuation 和 capitalization。帶 gRPC streaming 的生產 NIM 已宣布但尚未 ship。
這兩個發布並不真正在同一軸上競爭,這是本週重要的部分。Microsoft 優化 accuracy-first batch 路線:bulk 轉錄 throughput、Microsoft 可以發布的最高 FLEURS 數字、一個封閉的 serving substrate 讓他們在不發布模型的情況下 ship best-in-class accuracy。Deployment 故事是託管的 Azure API,成本故事是每分鐘定價,整合故事是「你的 audio 管道現在調用我們的 endpoint」。NVIDIA 優化 streaming-first agent-voice 路線:低延遲實時轉錄,具有可調的 latency-quality tradeoffs,開放權重所以你可以 fine-tune 為你的領域或口音,允許在你自己的基礎設施上進行商業 deployment 的授權,一個清晰的路徑通向 agent-voice 槽,在那裡下游的 LLM 需要 transcript 當它到達時。NVIDIA 與發布一起發布的 fine-tuning notebook 是操作的 tell:假設是生產使用者將使模型適應他們特定的語音表面,而不僅僅是調用 endpoint。
生態系統解讀是 ASR 層現在可見地分裂為兩種具有不同 substrate demands 的操作 shapes。Whisper-v3 及其開源衍生品在 2024-2025 年間通過在兩個軸上對大多數工作負載都「足夠好」而佔主導地位。2026 年的前沿正在 split,因為 agent-voice 用例(always-on、低延遲、fine-tuned、on-prem-friendly)和 batch-transcription 用例(最高 accuracy、託管、多語言、無操作開銷)正在拉向架構和授權 trade-offs 的相反兩端。Microsoft 和 NVIDIA 各自選擇了一端。未來六個月可能會看到其他 labs 宣布他們的路線,closed-batch 領導者推動 Artificial Analysis 上的 accuracy,open-streaming 領導者推動延遲和語言計數。
週一早上,如果你在大規模做 batch 轉錄,accuracy 比 substrate control 更重要:MAI-Transcribe-1.5 現在是最乾淨的 hosted 選項,特別是如果你能使用 entity biasing 功能,但要驗證 30% WER 降低是否適用於你的領域詞彙,因為發布的數字是在 FLEURS 上。如果你正在為 agent 產品建構 voice-in 或因 compliance 原因需要 on-prem deployment:Nemotron 3.5 ASR 現在是最乾淨的開放選項,80ms 延遲下限是你想要的對話延遲預算,fine-tuning notebook 是口音或領域適應的正確起點。如果你已經在生產中執行 Whisper-v3:問題是你的操作 shape 是更接近「我想要更好的 accuracy,我樂意每分鐘付費」(lean MAI)還是「我想要更低的延遲,我想保持權重控制」(lean Nemotron)。如果你追蹤 agent-runtime 整合線索,Nemotron 發布完美契合:agent-voice 槽現在是一個專門化的模型、open-weighted、具有可調的延遲 knob、設計為針對它所在的 harness 進行 fine-tune。Harness-1 為 retrieval 顯示的相同專門化模式現在對 speech 可見。