跳到主要內容
Zubnet AI › 學習 › Wiki

AI 維基 — 第 6 頁,共 10 頁

AI概念,由建造者解釋,而非教科書。沒有術語牆。沒有學術門檻。清晰、實用的定義。

454 術語 8 分類 2026-11-22 更新
💡
每日術語
提示快取
一種在多次 API 呼叫之間儲存和重複使用已處理的提示前綴的技術,避免冗餘計算。如果你每次請求都發送相同的系統提示和文件上下文(這很常見),提示快取只處理一次並在後續請求中重複使用快取的計算結果。這減少了延遲和成本。
→
本頁沒有符合篩選條件的術語。

第 251–300 個術語,共 454 個 · 第 6 頁,共 10 頁

篩選本頁

機器遺忘別名:Machine Unlearning、Unlearning、遺忘學習、LLM Unlearning
訓練
讓已經訓練好的模型忘掉特定資料或知識,而不必從頭重新訓練的一類技術。
Mamba別名:選擇性狀態空間模型
模型
由 Gu 和 Dao 提出的選擇性狀態空間模型。序列長度線性縮放,而非 Transformer 的二次方。壓縮的隱藏狀態會選擇性地更新 — 重要資訊被保留,無關的則衰減。
遮罩語言建模別名:MLM、遮罩 LM、填空任務
訓練
一種自監督訓練目標,將輸入中的隨機 token 替換為 [MASK] token,模型必須從上下文中預測原始 token。BERT 推廣了 MLM:遮罩 15% 的…
矩陣乘法別名:Matmul、GEMM
基礎
所有神經網路底層的基本數學運算。將權重矩陣乘以輸入向量(或矩陣)產生輸出向量。每一個線性層、每一個注意力計算、每一個嵌入查詢,歸根究柢都是矩陣乘法。AI 硬體(GPU、TPU)的效能以它們執行矩陣乘法的速度來衡量。
MCP別名:模型上下文協定
工具
一個開放協議(由 Anthropic 所開發),用以標準化 AI 模型如何連接外部工具與資料來源。可以把它想成 AI 的 USB-C — 一個標準介面,而非為每個工具開發客製化整合。MCP 伺服器公開功能;MCP 客戶端(如…
在神經元/電路/特徵層面逆向工程神經網路內部發生的事情。不只是模型輸出什麼,而是它如何計算。
記憶別名:AI 記憶、持久化上下文
使用AI
讓AI模型能夠保留並回憶超越單次對話資訊的機制。這包括上下文記憶(使用上下文視窗)、外部記憶(RAG、向量資料庫)、持續對話記憶(記住使用者在不同會話中的偏好),以及工作記憶(在多步驟代理任務中維持狀態)。記憶正是讓AI感覺像協作者而非無…
Meta AI別名:Llama、FAIR
公司
Meta 的 AI 研究部門,FAIR(基礎 AI 研究)的所在地。負責開發開放權重的 Llama 模型系列及 PyTorch —— AI 產業中絕大多數團隊使用的深度學習框架。
Microsoft別名:微軟、Microsoft AI、Azure AI
公司
Copilot、Azure 和 Phi 模型背後的軟體巨頭,也是 OpenAI 早期最大的投資方。
公司
以美學精煉著稱的 AI 圖像生成。透過 Discord 和網頁運營。小團隊、盈利、注重品質。
MiniMax別名:MiniMax 模型、海螺 AI、影片生成
公司
中國 AI 公司,在文本、語音和影片領域建構大規模模型。以其消費者平台「海螺 AI」和競爭力日益增強的多模態模型聞名。
Mistral AI別名:Mistral、Mixtral、Codestral、Le Chat
公司
由前 DeepMind 和 Meta 研究員創立的歐洲 AI 強者。以高效模型「以小搏大」聞名,並在推動開放權重分發的同時兼顧商業產品。
混合精度訓練別名:FP16、BF16、半精度
訓練
使用較低精度的數字格式(16 位元而非 32 位元)進行大部分計算來訓練神經網路,同時保持關鍵運算使用全精度。這使 GPU 的有效記憶體容量和計算速度翻倍,對模型品質的影響極小。BF16(bfloat16)是 LLM…
MLA別名:Multi-head Latent Attention、多頭潛在注意力
模型
DeepSeek 提出的注意力設計,為每個 token 只存一個壓縮後的小向量,而不是完整的鍵和值,從而大幅縮小 KV 快取。
MLX別名:MLX-LM、Apple MLX
工具
Apple 為 Apple Silicon 推出的開源機器學習框架,被廣泛用於在 Mac 上本地執行和微調模型。
MMLU別名:Massive Multitask Language Understanding、MMLU-Pro、GPQA
訓練
一套涵蓋 57 個學科、約 16,000 道題的選擇題考試,在被模型刷到接近滿分之前一直是衡量 LLM 通識知識的標準。
模型別名:AI 模型、ML 模型
基礎
一個經過訓練的數學系統,根據從資料中學習到的模式來接收輸入並產生輸出。在AI中,「model(模型)」是萬用術語,指你實際使用的東西——無論是GPT-4生成文字、Stable…
模型卡別名:模型文件、資料表
安全
一份標準化文件,描述機器學習模型的預期用途、效能特性、訓練資料、限制和倫理考量。由 Mitchell 等人(2019 年)提出,模型卡旨在提高透明度,幫助使用者做出關於模型是否適合其使用案例的明智決定。
模型崩塌資料回饋迴路
訓練
當 AI 模型在先前 AI 模型生成的資料上訓練時發生的退化,形成一個誤差和偏差跨代累積的回饋迴路。每一代都會失去一些多樣性並放大前一代的某些偽影,最終產生生成重複、通用或扭曲輸出的模型。
模型合併別名:TIES、DARE、SLERP、Frankenmerge
訓練
將多個微調模型的權重組合成單一模型,無需任何額外訓練。如果模型 A 擅長程式設計而模型 B 擅長創意寫作,合併它們可以產生一個兩者都擅長的模型。流行的合併方法包括 SLERP(球面線性插值)、TIES(解決符號衝突)和…
Model Registry別名:模型儲存庫、模型目錄
基礎設施
一個集中式系統,用於在整個生命週期中對訓練好的機器學習模型進行版本控制、追蹤和管理。就像套件註冊表(npm、PyPI)但用於 ML…
Model Serving別名:vLLM、TGI、TensorRT-LLM、推理伺服器
基礎設施
在生產環境中運行已訓練 AI 模型的基礎設施和軟體,處理傳入請求、管理 GPU 記憶體、批量處理以提升效率並返回回應。模型服務框架如 vLLM、TGI(Text Generation Inference)和 TensorRT-LLM…
專家混合模型別名:MoE
模型
一種架構,模型包含多個「專家」子網路,但每次輸入只啟動其中少數幾個。一個路由網路負責決定哪些專家與給定的 token 相關。這意味著模型可以擁有超過 1000 億的總參數,但每次前向傳遞只使用 200 億。
月之暗面別名:Kimi、超長上下文模型
公司
中國 AI 公司,因推出擁有 200 萬 token 上下文視窗的聊天機器人 Kimi 而引起轟動。由楊植麟創立,他是長上下文建模領域關鍵創新的研究員。
多代理系統多代理、代理群
使用AI
多個 AI 代理協作、辯論或分工的架構,用以解決單一代理無法獨立處理的問題。每個代理可能有不同的角色(研究員、編碼者、審查者)、不同的工具或不同的模型。它們透過結構化訊息、共享記憶或直接交接進行通訊。
多頭注意力別名:MHA
基礎
平行執行多個注意力操作,每個都有自己學習到的查詢、鍵和值的投影。多頭注意力不是用一個注意力函數查看完整的模型維度,而是將維度分割成多個「頭」(例如,4096 維模型的 32 個頭,每個 128 維)。每個頭可以同時專注於不同類型的關係。
多查詢注意力別名:Multi-Query Attention、MQA
模型
一種注意力設計:所有查詢頭共享同一組鍵和值,從而縮小 KV 快取、加快推論。
基礎
能夠理解和/或生成多種類型資料的模型:文本、影像、音訊、影片、程式碼。Claude 能閱讀影像和文本;某些模型還能生成影像或語音。「多模態」與只能處理單一類型的「單模態」模型形成對比。
Music Generation別名:AI 音樂、文字轉音樂
使用AI
使用 AI 模型從文字描述、旋律或其他音訊輸入建立音樂。「一首節奏輕快的電子曲,帶有朗朗上口的合成器旋律,120 BPM」可產出完整的音樂作品。Suno、Udio、MusicLM(Google)和 Stable Audio…
大海撈針別名:Needle in a Haystack、NIAH、撈針測試
訓練
一種長上下文測試,把一條小小的事實藏進一篇很長的文件裡,檢查模型能否把它找出來。
Negative Prompt別名:負面條件化
使用AI
描述你不想在生成影像中出現的文字,與主提示一起使用。提示:「一片美麗的風景。」負面提示:「模糊、低品質、文字、浮水印、人物。」模型在生成過程中主動遠離負面提示中的概念。負面提示主要用於 Stable Diffusion…
Named Entity Recognition別名:NER、實體擷取
使用AI
辨識和分類文字中的命名實體——人名、組織、地點、日期、金額和其他專有名詞。在「Apple 宣布在慕尼黑投資 30 億美元,時間是週二」中,NER 辨識出 Apple(組織)、30…
基礎
一種大致受生物大腦啟發的計算系統,由多層互相連結的「神經元」(數學函數)組成,從資料中學習模式。資訊流經各層,逐步被轉換,直到網路產出輸出結果。每個現代 AI 模型都是某種類型的神經網路。
神經元別名:人工神經元、感知器、節點
基礎
神經網路的基本運算單元。人工神經元接收輸入,將每個輸入乘以一個權重,求和後加上偏差值,再通過啟動函數產生輸出。數千到數十億個這樣的神經元,按層組織並由學習到的權重連接,構成了驅動所有現代 AI 的神經網路。
自然語言處理別名:NLP
基礎
人工智慧的一個分支,專注於讓機器能夠理解、詮釋和生成人類語言。NLP 涵蓋從基本文字處理(tokenization、stemming、part-of-speech tagging)到複雜任務,例如情緒分析、機器翻譯、總結與問答系統等。在…
Normalization別名:LayerNorm、RMSNorm、BatchNorm
訓練
透過將流經網路的數值正規化為一致的尺度來穩定神經網路訓練的技術。層正規化(LayerNorm)在每個樣本的特徵維度上進行正規化。RMSNorm 是其簡化變體。批次正規化(BatchNorm)在批次維度上進行正規化。每個…
NPU別名:Neural Processing Unit、神經網路處理器、神經處理單元、AI 加速器
基礎設施
專門為高效執行神經網路而設計的晶片或晶片中的一部分,用於手機、筆記型電腦等裝置上的裝置端 AI。
NVIDIA別名:GPU、H100/H200、NeMo
公司
其 GPU 驅動著幾乎所有 AI 訓練和大部分推理的公司。這家從顯示卡起家的公司成為 AI 產業中最關鍵的硬體供應商,一度讓 NVIDIA 成為全球市值最高的企業。
Object Detection別名:邊界框偵測
使用AI
在影像或影片中辨識和定位物件,透過在物件周圍繪製邊界框並分類每個框中包含的內容。「在位置 (x1,y1,x2,y2) 有一輛車,在 (x3,y3,x4,y4)…
OCR別名:光學字元辨識、文字辨識
使用AI
從影像中擷取文字——文件照片、螢幕截圖、標誌、手寫筆記,或任何包含文字的影像。現代 OCR 結合了文字偵測(找到影像中文字出現的位置)和文字辨識(讀取文字內容)。深度學習 OCR…
工具
一個使用者友善的工具,可以用單一命令在本機執行語言模型。Ollama 將 llama.cpp 包裝成類似 Docker 的體驗:ollama run llama3 下載並執行 Llama…
ONNX別名:開放神經網路交換格式
基礎設施
一種用於表示機器學習模型的開放格式,可實現不同框架之間的互通性。在 PyTorch 中訓練的模型可以匯出為 ONNX,然後使用 ONNX Runtime、TensorRT 或其他針對特定硬體最佳化的推論引擎運行。ONNX…
開放 vs. 封閉別名:開源 vs. 專有、開放權重辯論
基礎
關於 AI 模型應該開放發布(權重公開可用,如 Llama 和 Mistral)還是保持專有(僅通過 API 可用,如 Claude 和…
開放權重別名:開源 (AI 語境)
安全
當一家公司釋出模型的已訓練參數供任何人下載和運行。「開放權重」比「開源」更精確,因為大多數釋出的模型並不包含訓練資料或訓練程式碼 —— 你得到的是成品模型而非配方。Llama、Mistral 和通義千問都是開放權重模型。
OpenAI別名:GPT、ChatGPT、DALL-E、Sora
公司
ChatGPT 和 GPT 系列模型背後的公司。最初是一個非營利研究實驗室,當 ChatGPT 於 2022 年 11 月推出後,OpenAI 成為 AI 革命的公眾代言人。
OpenAI 相容 API別名:OpenAI-Compatible API、OpenAI 相容介面、OpenAI 相容端點、Chat Completions API
基礎設施
一種照搬 OpenAI Chat Completions 端點請求和回應格式的 API,讓現有的 OpenAI 用戶端程式碼只需更換 base URL 就能用於其他模型。
公司
OpenRouter 是一個統一 API 閘道,讓開發者透過單一 API 金鑰與一個 OpenAI 相容介面,存取來自不同供應商的數百個大型語言模型。它由 Alex Atallah 於 2023 年推出,負責在…
最佳化別名:模型最佳化、推論最佳化
訓練
用來讓AI模型更快、更小、更便宜或更準確的一系列廣泛技術。這包括訓練優化(混合精度、梯度檢查點、資料並行)、推論優化(量化、剪枝、蒸餾、預測解碼)和服務優化(批次處理、緩存、負載平衡)。優化技術讓你能在筆電上運行14B參數的模型。
訓練
模型過度記憶訓練資料而失去對新輸入泛化能力的現象。就像一個學生背熟了模擬考的答案卻無法解決新問題。模型在訓練資料上表現極佳,但在未見過的資料上表現糟糕。
PagedAttention別名:分頁注意力
基礎設施
一種借鑑作業系統虛擬記憶體的 KV 快取記憶體管理技術。PagedAttention 不是為每個請求的 KV 快取分配一塊連續的 GPU…
ESC