Microsoft本月推出了Copilot Health，允許使用者連接醫療記錄並直接透過其聊天機器人詢問健康問題。幾天前，Amazon將Health AI從其One Medical訂閱用戶擴展到普遍可用。這些舉措加入了OpenAI的ChatGPT Health和Anthropic的Claude，形成了部署消費者健康AI的突然衝刺，由巨大需求驅動——僅Microsoft就透過Copilot每天處理5000萬個健康問題。

時機絕非巧合。這些公司聲稱LLM已經跨越了能力門檻，可以安全地提供醫療建議。Microsoft的Dominic King是前外科醫生，領導他們的健康AI工作，他指出「生成式AI在回答健康問題方面的能力取得了巨大進展」。但構建這些產品的公司進行自我評估，在醫療應用監管方面引發了紅旗警告。

研究人員正在抵制缺乏獨立評估的做法。雖然一些研究表明當前的LLM可以提供有用的健康建議，但專家們認為這些工具在廣泛發布之前需要嚴格的第三方測試——而不僅僅是公司內部研究。Oxford的Andrew Bean說：「證據基礎確實需要存在」，強調了公司在評估自己的高風險產品時可能存在盲點的風險。

對於開發者和AI使用者來說，這波浪潮既代表機遇也需要謹慎。需求顯然是巨大的，技術能力可能終於存在了。但在沒有獨立安全驗證的情況下構建或部署健康AI可能會讓使用者面臨公司主導的評估可能遺漏的嚴重風險。