民謠音樂人Murphy Campbell在1月份發現,她的YouTube演出的AI生成翻唱版本出現在Spotify上,使用她的名字,修改後的人聲騙過了串流媒體平台但沒能騙過AI檢測工具。在努力移除虛假曲目後——用她的話說成了「討厭鬼」——她發現多個虛假的「Murphy Campbell」檔案仍然存在於各平台上。Spotify承諾為藝術家提供人工審批系統,但Campbell對大平台向音樂人做出的承諾仍持懷疑態度。
這擊中了大規模AI生成內容的核心問題:為人類創作者構建的驗證系統無法處理合成媒體洪流。Campbell的案例暴露了有人多麼容易可以擷取公開演出,通過語音合成運行它們,並在串流媒體平台上以最少的監督將其貨幣化。時機很重要——這發生在像Suno這樣的AI音樂工具每天生成700萬首歌曲的時候,相當於每兩週重建整個Spotify目錄。
讓Campbell的故事更糟糕的是隨後的版權釣魚。在她的故事獲得媒體關注後,有人使用虛假影片對她在YouTube上演出的公有領域民謠原創表演提出所有權聲明。平台接受了這些欺詐性聲明,迫使Campbell爭議自己作品的所有權。業界消息人士報告串流媒體欺詐每年造成20億美元損失,AI生成的曲目加速了這些方案的規模和複雜性。
對於構建AI音樂工具的開發者,Campbell的噩夢顯示了為什麼驗證和歸屬系統需要成為核心功能,而不是事後補救。當前「快速構建,事後修復欺詐」的方法將清理成本推給缺乏資源對抗平台規模濫用的個人創作者。
