跳到主要內容
Zubnet AI › 學習 › Wiki › 潛空間
基礎

潛空間

別名:Latent Space、隱空間、潛在表示
模型內部的壓縮空間,資料在其中表示為一個個點,相似的東西彼此靠近。

為什麼重要

現代 AI 的大部分實際工作都發生在潛空間裡。Stable Diffusion、FLUX 這類影像生成器先生成一個很小的潛變數,最後才解碼成像素,所以快到能在筆記型電腦上執行。RAG 系統把文字變成嵌入,再按點與點之間的距離來搜尋。可解釋性研究則試圖從語言模型內部的潛在狀態裡讀出含義。

理解潛空間也能解釋很多現象。影像模型把兩個概念搞混,常常是因為它們在空間裡離得很近。語意搜尋回傳了關係很奇怪的結果,是因為嵌入模型出於人看不出來的原因把它放在了附近。

深度解析

「潛」就是隱藏的意思。潛空間是模型用來描述輸入的一組內部數字,而不是原始輸入本身。一張貓的圖片可能有 300 萬個像素值,但在模型內部,它變成幾千個數字,記錄的是「像不像貓」、姿態、光線和風格。每個輸入都成為這個空間裡的一個點,模型學著安排這個空間,讓相似的東西落在一起。

你永遠不會直接看到潛空間,你看到的是它帶來的能力:能找到「相似」文件的搜尋、能混合風格的影像生成器,以及懂得「國王」和「女王」有關聯的模型。

幾何承載含義

在訓練良好的潛空間裡,距離和方向都有意義。相近的點彼此相似。方向可以編碼屬性:詞嵌入裡那個著名的例子是,從「男人」到「女人」的向量,與從「國王」到「女王」的向量大致相同。在影像模型裡,沿某個方向移動可能會加上笑容,或者改變一天中的時間。插值之所以有效也是這個原因:在兩個潛變數之間走一條直線,就能得到兩張圖片之間的平滑過渡。

你會遇到的潛空間

  • 嵌入空間:來自文字或影像嵌入模型,用於搜尋、聚類和推薦。這裡通常用餘弦相似度來比較各個點。
  • VAE 潛變數:用在影像和影片生成器裡,是一張壓縮後的網格,在空間上仍然像一張很小的圖片,每條邊通常縮小 8 倍。
  • 隱藏狀態:LLM 內部每一層、每個 token 對應的向量。它們維度極高(幾千維),不是給人看的,卻裝著模型對文字的即時理解。

並非所有空間都平滑

潛空間好不好用,取決於它組織得好不好。普通自編碼器可能留下空洞,隨機取點會解碼出毫無意義的東西。變分自編碼器和擴散訓練會讓空間變得連續,在任何地方取樣都能得到合理的結果。不同模型的嵌入空間也互不相容:一個模型的向量對另一個模型毫無意義,所以更換嵌入模型時必須把整個語料庫重新嵌入一遍。

高維空間很反直覺

潛空間往往有幾百到幾千維,二維、三維的直覺在這裡不再適用。幾乎所有隨機向量都彼此近乎垂直,模型正是利用這一點,裝下了比維度數量多得多的概念(參見「疊加」)。t-SNE、UMAP 這類視覺化方法把這些空間壓到二維畫成圖,但總會帶來失真,所以只能把這些圖當作草圖,不能當作地圖。

← 所有術語
ESC