跳到主要内容
Zubnet AI › 学习 › Wiki

AI 维基

AI概念，由建造者解释，而非教科书。没有术语墙。没有学术门槛。清晰、实用的定义。

375 术语 8 分类 2026-10-14 更新
💡
每日术语
Luma AI
专注于视频和3D生成的人工智能公司。他们的Dream Machine是首批可访问的高质量AI视频生成器之一，而Ray2则显著提升了视频质量和连贯性。
→
🧭 学习路径 ▼
入门
我刚接触AI
AI→Chatbot→Prompt→LLM→Token→Context Window→Hallucination
开发者
我在构建AI应用
API→Structured Output→Streaming→Function Calling→RAG→Semantic Search→Model Serving
深入理解
AI到底是怎么工作的？
Neuron→Layer→Activation Function→Gradient Descent→Transformer→Attention→Autoregressive
本地AI
在我的电脑上运行AI
Open Weights→Quantization→GGUF→llama.cpp→Ollama→VRAM→Edge AI
安全
AI安全与对齐
Alignment→Guardrails→Red Teaming→Prompt Injection→Constitutional AI→AI Ethics→AI Regulation
ML工程师
我想训练模型
Dataset→Loss Function→Transfer Learning→Fine-Tuning→LoRA→RLHF→DPO
未找到匹配的术语。
01.AI01.AI、Yi、零一万物
公司
李开复于 2023 年创立的中国 AI 公司，最知名的产品是 Yi 大型语言模型系列。01.AI 一边发布 Yi-34B 等开放权重模型——后者曾短暂登顶开放模型排行榜——一边通过 API…
A/B Testing for AI在线评估、分流测试
基础设施
通过将真实用户随机分配到两个AI系统变体（不同的模型、提示或配置）来比较它们，并衡量哪个在关键指标上表现更好。与离线评估（基准测试、测试集）不同，A/B测试揭示变更如何影响实际用户行为——参与度、满意度、任务完成率和收入。
A2AAgent2Agent、Agent2Agent Protocol
工具
A2A（Agent2Agent）是 Google 于 2025 年推出的开放协议，让不同供应商、不同框架构建的 AI…
Activation FunctionReLU、GELU、SiLU、Swish
基础
应用于神经元输出的数学函数，为网络引入非线性。没有激活函数，无论多少层深的神经网络都只能学习线性关系。ReLU、GELU和SiLU/Swish是现代架构中最常见的激活函数。
Adam优化器Adam、AdamW
训练
训练神经网络最广泛使用的优化算法。Adam（自适应矩估计）将动量（使用过去梯度的移动平均）与自适应学习率（按过去梯度幅度的倒数缩放更新）结合。AdamW添加了解耦的权重衰减以获得更好的正则化。几乎所有现代LLM都使用AdamW训练。
AGI通用人工智能
基础
一种假想的人工智能系统，能够理解、学习并执行人类可以完成的任何智力任务——具备在无需针对每个领域进行专门训练的情况下跨领域迁移知识的能力。与当前擅长狭窄任务（生成文本、分类图像）的人工智能不同，通用人工智能（AGI）将能够处理新颖情境、进行…
AI Energy ConsumptionAI Power Consumption、AI Energy Use、AI 能耗
基础设施
AI…
AI Ethics负责任的AI、道德AI
安全
对AI开发和部署引发的道德问题的研究：AI系统延续了哪些偏见？AI出错时谁会受到伤害？AI的决策应如何解释？当自主系统造成损害时谁应负责？AI伦理涵盖公平性、透明度、问责制、隐私和AI系统的社会影响。
AI Regulation欧盟AI法案、AI政策
安全
管理AI系统开发和部署的法律和政策。欧盟AI法案（2024年）是最全面的，按风险等级对AI系统进行分类并相应施加要求。美国采取了更针对具体行业的方法，通过行政命令和机构指南来推进。中国有针对生成式AI、深度伪造和推荐算法的法规。
AI SafetyAI 安全
安全
一个研究和工程领域，目标是让 AI 系统的行为可靠、可预测，并符合人类意图。它横跨对齐、可解释性、鲁棒性、评估和治理，既处理幻觉、偏见等近期伤害，也关注高能力系统带来的长期问题。它不同于 AI…
AI 垃圾内容AI Slop、生成式垃圾内容
安全
低质量、通用、不受欢迎的人工智能生成内容，充斥着互联网。该术语于2024年出现，用作对劣质人工智能文本、图像和视频泛滥成灾的贬义词，这些内容污染了搜索结果、社交媒体信息流和在线市场。Slop是人工智能内容的垃圾邮件等价物——从技术上讲是“内…
AI 基础设施AI 基建、ML 基础设施
基础设施
用于大规模训练和部署AI模型所需的全栈硬件、软件和服务。这包括GPU和定制芯片、数据中心、网络、存储、编排平台（Kubernetes、Slurm）、模型服务框架（vLLM、TensorRT）以及将所有这些打包的云服务提供商。AI基础设施&m…
AI 安全LLM 安全、AI 安全工程
安全
保护AI系统免受对抗性攻击、数据投毒、提示注入、模型盗窃和滥用的实践—同时防范深度伪造和自动化网络攻击等AI驱动的威胁。AI安全位于传统网络安全与机器学习系统所引入的独特脆弱性的交汇点。
AI 定价Token 定价、API 定价
基础设施
AI服务提供商如何对模型访问进行收费。主流模式是按令牌计费—您需为发送的输入令牌数和接收的输出令牌数付费，输出令牌通常比输入令牌贵3到5倍。其他模式包括按请求计费、月度订阅、承诺使用折扣和免费层级。价格战激烈，成本在两年内下降了…
AI 寒冬
基础
在经历一轮炒作和未能兑现的期望之后，AI 研究的资金、兴趣和进展下降的时期。历史上有两次重大 AI 寒冬：第一次从 1970 年代中期到 1980 年代初（专家系统未能扩展后），第二次从 1980 年代末到 1990…
AI 治理AI 监管、AI 政策
安全
指导人工智能开发、部署和使用方式的框架、政策、法律和组织实践。这包括政府监管（如欧盟AI法案、行政命令）、行业自律（如负责任的扩展政策、模型卡片）、企业治理（如AI伦理委员会、使用政策）以及国际间在人工智能安全标准方面的协调。
AI 编程助手代码 Copilot、AI IDE
工具
帮助开发者编写、审查、调试和部署代码的人工智能工具。从自动补全（GitHub Copilot、Codeium）到完全自主开发（Claude…
AI 网络安全AI 安全、AI 威胁检测
安全
AI在网络安全中的双重应用：使用AI来防御系统（威胁检测、异常检测、自动化事件响应）—以及AI创造的新攻击手段（AI生成的钓鱼攻击、自动化漏洞发现、针对机器学习系统的对抗性攻击）。该领域正处于一场军备竞赛中，攻击者和防御者越来越…
AI 隐私AI 数据隐私、ML 隐私
安全
在不损害个人数据的前提下构建和使用人工智能系统所面临的挑战。这贯穿整个生命周期：可能包含私人信息的训练数据、能够记忆并复现个人细节的模型、跟踪用户行为的推理日志，以及人工智能能力（随着数据量增加而提升）与隐私权之间的根本性矛盾。
AI21 LabsJamba
公司
一家以色列AI公司，以Jamba闻名，这是首个生产级混合架构，将Transformer注意力层与Mamba SSM层相结合。AI21由AI研究人员（包括Yoav…
AI可观测性LLM监控、AI追踪、LLMOps
基础设施
监控和理解生产环境中AI系统的行为——实时追踪输入、输出、延迟、成本、错误和质量指标。AI可观测性就像应用监控（Datadog、New Relic），但专门针对AI：追踪提示-响应对、检测质量退化、监控幻觉，以及对异常行为发出警报。
AI基准测试MMLU、HumanEval、ARC、HellaSwag
基础
用于测量和比较AI模型能力的标准化测试。MMLU测试57个学科领域的知识。HumanEval测试代码生成。ARC测试科学推理。HellaSwag测试常识推理。GSM8K测试数学。基准分数提供了比较模型的通用语言，尽管它们有显著的局限性。
Aleph AlphaAleph Alpha
公司
一家 2019 年创立于海德堡的德国 AI 公司，以 Luminous 大型语言模型家族，以及面向欧洲企业和政府的数据主权路线而闻名。公司起初曾在模型开发前沿正面竞争，2024 年却转向…
AlexNet
模型
赢得2012年ImageNet竞赛并以巨大优势获胜的卷积神经网络，触发了深度学习革命。由Alex Krizhevsky、Ilya Sutskever和Geoffrey…
AlphaFoldAlphaFold 2、AlphaFold 3
模型
Google DeepMind 推出的蛋白质结构预测系统，可以直接从氨基酸序列计算蛋白质的三维形状。AlphaFold 2 在 2020 年 CASP14 评测中达到了实验方法的准确度，AlphaFold 3 又把这套方法扩展到蛋白质与…
AlphaGoAlphaZero、AlphaGo Zero
模型
Google DeepMind 打造的围棋 AI 系统，2016 年 3 月在首尔举行的五番棋中以 4–1 击败九段冠军李世石，成为第一个战胜顶尖人类职业棋手的计算机程序。AlphaGo…
AnthropicClaude、宪法式 AI、MCP
公司
人工智能安全公司正在构建Claude。由前OpenAI研究员Dario和Daniela Amodei创立，Anthropic专注于开发可靠、可解释且可操控的人工智能系统。
API应用程序编程接口
基础设施
软件之间通信的结构化方式。在AI领域，这通常意味着将请求（您的提示）发送到提供商的服务器，并接收响应（模型的输出）。REST API通过HTTPS是标准。
Apple Intelligence
公司
Apple的设备端与云端AI系统，集成于iPhone、iPad和Mac中。Apple Intelligence在Apple…
Artificial IntelligenceAI、机器智能
基础
构建能够执行通常需要人类智能的任务的机器这一广泛领域——理解语言、识别图像、做出决策、解决问题。AI的范围从擅长某一特定任务的窄域系统（垃圾邮件过滤器、国际象棋引擎）到能够处理人类可完成的任何智力任务的通用智能这一宏大目标。
ASI人工超级智能
基础
一种理论上在几乎所有领域（科学推理、社会智能、创造力、战略规划等）超越人类认知能力的人工智能系统——人工超级智能（ASI）。ASI超越了人工通用智能（AGI，与人类智能相当），进入一个质的飞跃：一种能够自我递归改进并解决人类甚至无法表述的问…
AssemblyAIUniversal-2 语音识别、音频智能
公司
语音AI公司，打造面向开发者的友好型API，用于语音转文字、说话人识别及音频理解。其Universal-2模型在准确率上可与OpenAI Whisper媲美，同时开箱即用新增说话人分段、情感分析和主题识别等功能。
Attention Visualization注意力图、注意力热力图
基础
通过将注意力权重显示为热力图来可视化Transformer模型“关注”什么。对于每个查询token，注意力图显示它分配给每个其他token的权重。高权重（亮点）表示强注意力——模型认为这些token与当前计算高度相关。
AWS BedrockAmazon Bedrock
公司
Amazon Web Services的托管平台，通过统一API访问和部署来自多个提供商（Anthropic、Meta、Mistral、Cohere、Stability…
BaiduErnie、Wenxin Yiyan、Ernie Bot、文心一言
公司
中国科技巨头，以搜索引擎和文心一言（Ernie）最为知名—后者是它于 2023 年推出的聊天机器人与基础模型家族，也是中国最早对标 ChatGPT 的主要对手之一。百度还运营着萝卜快跑（Apollo…
Batch Size & Epoch小批量、训练轮次
训练
批量大小是模型在更新参数之前处理的训练样本数。一个轮次（epoch）是对整个训练数据集的一次完整遍历。一个在100万个样本上以批量大小1000训练3个轮次的模型，每次更新处理1000个样本，每轮次1000次更新，总共3000次更新。
BERT双向编码器表示（来自Transformers）
模型
Google于2018年推出的基于Transformer的模型，通过引入双向预训练彻底改变了NLP——每个token都能关注其他所有token，使模型获得深层的上下文理解。BERT是纯编码器模型：擅长理解文本（分类、搜索、命名实体识别），但…
Black Forest LabsFLUX.1 系列模型
公司
由Stable Diffusion的最初创作者在离开Stability AI后创立。他们的FLUX模型迅速成为开源图像生成领域的新标准，超越了他们留下的模型的质量。
BLEU & ROUGEBLEU分数、ROUGE分数
基础
通过将模型输出与参考文本进行比较来评估文本生成质量的经典指标。BLEU（双语评估替补）衡量生成文本中有多少n-gram出现在参考文本中——最初为机器翻译设计。ROUGE（面向召回的摘要评估替补）衡量参考文本中有多少n-gram出现在生成文本…
BPE字节对编码、子词分词
基础
构建分词器词汇表最常用的算法。BPE从单个字节或字符开始，迭代地将最频繁的相邻对合并为一个新的token。经过数千次合并后，常见词汇变成单个token（如"the"、"function"），而稀有词汇则被拆分为子词片段（如"un" +…
Bria授权训练数据、企业级图像生成
公司
以色列AI公司，其图像生成模型完全基于授权且可追溯的训练数据构建。该公司定位为需要生成式AI视觉内容但无版权风险企业的安全选择—
CartesiaSonic、基于 SSM 的语音模型
公司
基于状态空间模型（SSM）架构而非transformers的语音AI初创公司。他们的Sonic模型实现了超低延迟语音生成，使实时对话式AI首次真正自然。
Catastrophic Forgetting灾难性干扰
训练
当神经网络在新任务上训练时失去执行先前已学任务的能力。在客户支持数据上微调模型可能使其擅长支持但在编程方面变得很差。新的学习覆盖了编码旧能力的权重，将其“遗忘”。
CerebrasCerebras Systems、WSE
公司
一家芯片公司，构建晶圆级AI处理器——芯片大小为整个硅晶圆，比标准GPU大100倍以上。Cerebras WSE-3（晶圆级引擎）包含4万亿个晶体管和90万个核心。其CS-3系统设计用于训练和推理，提供了一种替代数千个独立GPU集群的方案。
Character.AIc.ai
公司
一个创建和与AI角色聊天的平台——虚构人物、历史人物和自定义角色，在跨对话中保持一致的个性、知识和说话模式。由前Google…
Chatbot ArenaLMSYS Arena、ELO排名
基础
一个众包平台（由LMSYS创建），用户与两个匿名AI模型并排聊天，并投票选出哪个响应更好。结果用于计算ELO评分——与国际象棋使用的同一排名系统——创建一个基于真实人类偏好而非自动化基准的持续更新的模型质量排行榜。
Classification分类器、归类
基础
将输入分配到一组预定义类别之一的任务。“这封邮件是垃圾邮件还是正常邮件？”（二分类）。“这张图片是猫、狗还是鸟？”（多分类）。“这篇文章适用哪些标签？”（多标签）。分类是最常见的监督学习任务，也是无数实际AI应用的基础。
ClaudeClaude Sonnet、Claude Opus、Claude Haiku
模型
Claude 是 Anthropic 构建的大型语言模型家族，分为 Haiku、Sonnet 和 Opus 三个层级，在速度、成本与能力之间各有取舍。它以聊天助手、API 和一系列智能体工具的形式提供，并采用 Anthropic…
CLIP对比语言-图像预训练
模型
OpenAI（2021年）的一个模型，通过在4亿个图像-文字对上训练来学习连接图像和文本。CLIP将图像和文本编码到同一个嵌入空间中，使匹配的图像-文本对彼此接近，不匹配的对彼此远离。它是大多数现代多模态AI系统中连接语言和视觉的桥梁。
CNN卷积神经网络、ConvNet
模型
一种专为处理网格状数据（图像、音频频谱图）而设计的神经网络架构，通过在输入上滑动小型滤波器（卷积核）来检测局部模式，如边缘、纹理和形状。从2012年（AlexNet）到约2020年视觉Transformer出现之前，CNN主导了计算机视觉领…
CohereCommand、Embed、Rerank 模型
公司
专注于企业级人工智能的公司，由Aidan Gomez（《Attention Is All You Need》Transformer论文的联合作者之一）共同创立。专注于为企业应用场景优化的模型、RAG和多语言支持。
Computer Use计算机操作智能体、GUI 智能体、Computer-Using Agent (CUA)
使用AI
一种让 AI 模型像人一样操作真实桌面或浏览器的能力：模型观看屏幕截图，然后发出鼠标和键盘动作。它不调用 API，而是感知屏幕、决定点击或输入什么，再由一个执行器执行动作，如此循环，直到任务完成或智能体放弃。Anthropic 的…
Constitutional AICAI
安全
Anthropic开发的一种对齐技术，训练模型遵循一组原则（“宪法”），而不是完全依赖人类反馈来做每个决定。模型根据这些原则批评和修改自己的输出，然后在修改后的输出上进行训练。这减少了对人工标注者的需求，并使对齐标准显式化且可审计。
Contamination数据污染、基准泄露
基础
当基准测试数据出现在模型的训练数据中，使其分数虚高而无法反映真实能力。如果一个模型在训练期间看到了测试题目从而“提前学了答案”，那它的基准表现毫无意义。随着训练数据集越来越大，从发布了基准数据的互联网上抓取更多内容，污染问题日益严重。
Context Engineering上下文工程
使用AI
设计、组装和维护模型在上下文窗口中看到的一切——系统提示词、检索文档、工具输出、记忆和对话历史——使它能够可靠完成工作的实践。这个词于 2025…
ControlNet
模型
一种为图像生成模型添加空间控制的架构。ControlNet不仅让你用文本描述想要什么（"一个站着的人"），还让你指定如何实现——提供边缘图、深度图、姿态骨架或分割图来引导构图。生成的图像遵循控制输入的空间结构，同时根…
CoreWeave
公司
一家完全围绕GPU计算构建的专业云提供商，专注于AI工作负载。CoreWeave运营大型NVIDIA…
Cross-ValidationK折交叉验证、留一法
训练
一种在没有足够数据划分单独测试集时评估模型性能的技术。K折交叉验证将数据分成K个相等的部分，在K−1个部分上训练并在剩余部分上评估，轮转K次，使每个数据点都被用于训练和评估。所有K折的平均分数比单次训练/测试划分给出更可靠的性能估计。
Cursor
公司
AI原生代码编辑器（VS Code分支）。深度集成LLM：内联代码生成、多文件编辑、代码库感知的上下文。
DALL-EDALL-E 2、DALL-E 3
模型
OpenAI的图像生成模型系列。DALL-E 1（2021）使用离散VAE + Transformer方法。DALL-E 2（2022）使用CLIP + 扩散。DALL-E…
Data Augmentation
训练
通过创建现有样本的修改版本来人工扩展训练数据集的技术。对于图像：翻转、旋转、裁剪、颜色偏移。对于文本：释义、回译、同义词替换。对于音频：速度变化、噪声注入。目标是教模型不变性——猫就是猫，无论图像是翻转的、变暗的还是裁剪的。
DatabricksMosaic ML、DBRX、Unity Catalog
公司
一个提供统一分析、数据工程和机器学习能力的数据和AI平台。Databricks于2023年收购了Mosaic ML以增加LLM训练能力，并发布了自己的开放权重LLM——DBRX。该平台建立在Apache…
Dataset训练集、数据
基础
用于训练、评估或测试机器学习模型的结构化数据集合。数据集可以是标注的（每个样本都有已知的正确答案）或未标注的（没有注释的原始数据）。数据集的质量、规模、多样性和代表性从根本上决定了模型能学到什么。
Decart AI实时世界模拟、游戏生成
公司
以色列AI公司突破实时AI生成技术的界限。其技术能够实时生成交互式游戏般的环境，模糊了传统渲染与AI生成之间的界限。
Deep ResearchDeep Research Agents、Agentic Research、深度研究
使用AI
多款 AI 助手提供的一种模式，模型会自主规划并执行多步网络研究任务，再返回带引用的结构化报告。它不会只做一次快速搜索就回答，而是花几分钟阅读数十个来源、追踪线索，再综合发现。OpenAI 于 2025 年 2…
DeepgramNova 语音转文字、Aura 文字转语音
公司
语音AI公司正在构建快速且准确的语音识别和文本转语音API。他们的Nova模型在准确率上与OpenAI的Whisper竞争，甚至经常超越它，同时在实时应用中运行速度显著更快。
DeepL神经机器翻译、DeepL Pro
公司
德国AI公司被广泛认为是全球最好的机器翻译服务。由一群计算语言学家打造，其表现持续超越Google Translate及其他大型科技公司的产品，尤其是在处理欧洲语言时。
DeepSeekDeepSeek-V3、DeepSeek-R1
公司
中国人工智能实验室于2025年初凭借DeepSeek-R1推理模型震撼行业，该模型以仅需顶尖实验室几分之一的训练成本，与前沿实验室展开竞争。该实验室由量化对冲基金High-Flyer支持。
DevinCognition Devin、Cognition AI
工具
Cognition AI 打造的自主式 AI 软件工程师，可以接收高层任务并端到端完成：制定计划、编写代码、运行测试、调试，再在自己的沙盒环境中创建 pull request。Devin 于 2024 年登场，是第一款以“AI…
Diffusion LLMText Diffusion Model、dLLM、文本扩散模型
模型
一种通过迭代去噪来生成文本的大型语言模型，不再从左到右一次预测一个 token。它从完全被掩码或破坏的序列起步，用少量步骤并行精炼每一个位置，把图像扩散模型的核心思路改造成适合离散文本的版本。
Diffusion TransformerDiT
模型
一种用Transformer替代扩散模型中传统使用的U-Net骨干网络的架构。DiT将注意力机制应用于图像生成，实现了与LLM一样强大的缩放行为。Sora、Flux、Stable Diffusion…
DPO直接偏好优化、Direct Preference Optimization
训练
RLHF的一种替代方案，用于模型对齐。DPO使用偏好/拒绝回复配对直接优化模型，无需单独的奖励模型或强化学习。更简单、更稳定、计算量更少。
Drift Detection数据漂移、模型漂移、概念漂移
基础设施
监控数据分布或模型行为随时间的变化，这些变化可能降低性能。数据漂移：输入数据发生变化（客户人群特征变化、出现新产品类别）。概念漂移：输入与正确输出之间的关系发生变化（什么构成垃圾邮件在演变）。模型漂移：即使模型本身没有改变，其预测也逐渐变得…
Dropout正则化、权重衰减
训练
一种正则化技术，在每个训练步骤中随机“关闭”一部分神经元，将其输出设为零。这防止网络过度依赖任何单个神经元，迫使其学习分布式的、鲁棒的表示。在推理时，所有神经元都被激活，但会相应地进行缩放。
ElevenLabs语音合成、语音克隆、配音
公司
语音AI公司，让每个人都能使用超逼真语音合成技术。他们的技术驱动语音克隆、实时配音和文本转语音功能，支持32种语言，模糊了人类与AI语音之间的界限。
Embodied AIEmbodied Intelligence、Robotics Foundation Models、具身智能
基础
一种人工智能路线，让模型控制物理机器——能够在现实世界感知、移动并操纵物体的机器人，而不只是在屏幕上处理文字和图像。核心主张是，真正的智能需要身体：感知、推理和运动控制必须通过与环境互动一起学习。这个词覆盖从仓库机械…
EU AI ActAI Act、European AI Act、欧盟人工智能法案
安全
欧盟全面监管人工智能的法律，自 2024 年 8 月起生效。它采用基于风险的方法：AI 系统可能造成的伤害越大，义务就越严格，从彻底禁止少数做法，到只要求低风险工具履行轻量透明度义务。
FalconTII Falcon、Falcon LLM
模型
Falcon 是由阿布扎比先进技术研究委员会的应用研究机构——技术创新研究院（TII）构建的开放权重大型语言模型系列。2023 年，Falcon 的 40B 和 180B 模型登顶 Hugging Face 开放 LLM…
Fireworks AIFireworks、fireworks.ai
公司
一个 AI 推理平台，通过高速、按量付费的 API 提供开放权重模型。它由 Meta PyTorch 团队的工程师于 2022 年创立，既有按 token 计费的无服务器端点，也为高流量工作负载提供专用 GPU…
Flash AttentionFlashAttention、FlashAttention-2
基础设施
一种 GPU 优化的注意力机制实现，比标准注意力快 2–4 倍，且内存消耗显著更低。Flash Attention 的实现方式不是改变注意力的计算内容，而是重新组织计算在 GPU 硬件上的执行方式——最大限度减少 GPU…
FLOPs浮点运算、FLOP/s、算力
基础
浮点运算——AI中计算工作量的标准度量。训练模型需要一定数量的FLOPs（总运算量）。硬件以FLOP/s（每秒运算量）评级。H100 GPU在FP16下可执行约2,000…
Function Calling工具调用、工具使用API
使用AI
一种让AI模型在对话过程中请求执行外部函数的结构化方式。你定义具有名称、描述和参数模式的函数。当模型判断某个函数有助于回答查询时，它输出结构化的函数调用（带参数）而非文本。你的代码执行该函数并返回结果供模型整合。
GAN生成对抗网络
模型
一种模型架构，其中两个神经网络相互竞争：生成器生成假数据，而判别器试图区分真实与虚假。通过这种对抗性游戏，生成器在生成逼真输出方面变得越来越好。从2014年到~2022年，主导了图像生成领域。
GeminiGoogle Gemini、Bard、谷歌双子座
模型
Google 旗舰级大型语言模型家族，由 Google DeepMind 打造，是 PaLM 和 Bard 聊天机器人的后继者。这些模型从一开始就接受文本、图像、音频和视频的联合训练，天生具备多模态能力，产品档位则从端侧 Nano…
GemmaGoogle Gemma、Gemma 3
模型
Google 推出的开放权重语言模型家族，由 Google DeepMind 使用 Gemini 背后的同一套研究与技术打造。Gemma 从设计之初就走小模型路线——参数规模从 10 亿到 270…
GGUFGGML 统一格式
基础设施
通过 llama.cpp、Ollama 和其他本地推理工具运行量化语言模型的标准文件格式。GGUF 文件包含量化格式的模型权重（将精度从 16 位降低到 4 位或 8…
GitHub CopilotCopilot
工具
GitHub 与 OpenAI 合作构建的 AI 编程助手，2021 年推出，被公认为第一个主流的 AI…
GNN图神经网络
模型
设计用于处理图结构数据的神经网络——即实体通过关系连接的数据（社交网络、分子、知识图谱、交通网络）。GNN 通过在连接的节点之间传递消息来学习，允许每个节点根据其邻居更新其表示。它们处理不适合网格（图像）或序列（文本）的数据。
Google DeepMindGemini、AlphaGo、AlphaFold
公司
Google的统一AI研究部门，由DeepMind和Google Brain于2023年合并而成。负责Gemini、AlphaGo、AlphaFold以及许多推动现代AI发展的基础研究。
GPTChatGPT、GPT-4、GPT-5
模型
GPT（Generative Pre-trained Transformer）是 OpenAI 的大型语言模型家族：仅解码器架构的 Transformer，先通过预测下一个 token 进行训练，再针对聊天和推理进行对齐。这一家族从…
GPU图形处理器
基础设施
最初设计用于图形渲染的GPU，结果证明非常适合人工智能，因为它们可以同时进行数千个数学运算。训练和运行人工智能模型本质上是大规模矩阵乘法—正是GPU所擅长的领域。英伟达主导了这个市场。
GQA分组查询注意力
基础
一种注意力变体，多个查询头共享单个键值头，在不显著降低质量的情况下减少KV缓存大小。GQA不是每个查询头都有自己的K和V投影（标准MHA），而是多组查询头共享K和V投影。Llama 2…
GrokxAI Grok
模型
Grok 是由埃隆·马斯克（Elon Musk）的人工智能公司 xAI 构建的大型语言模型系列，同时也是这些模型所驱动的聊天机器人助手的名字。它的突出特点是与 X…
GroqGroq LPU
公司
定制AI推理芯片（LPU）。专为顺序token生成而设计。500到800 tok/s，通常比GPU快10倍。
GRPOGroup Relative Policy Optimization、群体相对策略优化
训练
一种用于微调语言模型的强化学习算法，由 DeepSeek 于 2024 年提出，再因 DeepSeek-R1…
HeyGenAI 数字人视频、唇形同步配音
公司
AI视频平台，专精于生成逼真的面部动画和自动口型同步配音。被企业用于营销、培训和本地化——将一个视频转换为数十种语言，同时保持口型同步。
HiDreamHiDream 图像生成模型
公司
新兴的图像生成公司正在构建高质量的扩散模型。他们的开放权重版本在创意AI社区中因强大的提示遵循能力和出色的视觉质量而受到关注。
Hugging FaceHF
公司
开源AI的中心枢纽。托管50万+模型、10万+数据集，提供Transformers库和Spaces平台。AI领域的GitHub。
Hume共情语音接口、情绪识别
公司
AI公司正在构建能够理解和表达人类情感的模型。他们的Empathic Voice Interface能够实时检测语调、情感和情感语境，使AI对话不仅能够回应你所说的话，还能回应你说话的方式。
Ideogram图像中的文字渲染、Ideogram 2.0
公司
AI图像生成公司，由前Google Brain研究人员创立。因解决图像生成领域中最难的问题之一而声名鹊起：在图像中生成可读且准确的文本。
Image-to-Imageimg2img、图像条件生成
使用AI
基于现有图像加文本提示生成新图像。与从纯噪声开始的文生图不同，扩散过程从输入图像的噪声版本开始，保留其结构的同时根据提示进行修改。“这张照片的赛博朋克版本”保持构图但转换风格和细节。
ImageNetImageNet Challenge、ILSVRC、ImageNet 挑战赛
训练
一个大规模图像数据集，约含 1400 万张人工标注图片，分属 2 万多个类别，最早由李飞飞带领的团队于 2009 年发布。与之配套的年度竞赛 ImageNet Large Scale Visual Recognition…
In-Context LearningICL、上下文学习
基础
大型语言模型从提示词里的示例或指令临时学会一项任务的能力，全程不更新模型权重。给它看几组输入输出，它就能在新输入上延续模式，等于在请求发生时用自然语言现场编程。OpenAI 2020 年的 GPT-3…
Inflection AIInflection、Pi
公司
Inflection AI 是一家 2022 年由 Mustafa Suleyman、Reid Hoffman 和 Karén Simonyan 创立的 AI 公司，最著名的是…
Information ExtractionIE、结构化提取
使用AI
从非结构化文本中自动提取结构化信息。给定一篇新闻文章，提取：谁做了什么，何时，在哪里，为什么。给定一份合同，提取：当事方、日期、义务和金额。IE结合了NER（找到实体）、关系提取（找到实体之间的联系）和事件提取（找到发生了什么）形成统一的管…
Jina AIEmbedding 嵌入、Reader API、Rerank 重排序
公司
总部位于柏林的人工智能公司，专注于搜索和嵌入技术。其jina-embeddings模型和Reader API（可将任何URL转换为适用于LLM的文本）已成为全球RAG流水线中的关键基础设施。
KV缓存键值缓存、Key-Value Cache
基础设施
存储先前计算的键/值注意力张量，使其不需要在每个新token时重新计算。用内存换取速度。
Lambda LabsLambda、Lambda Cloud
公司
一家专注于AI和机器学习工作负载的GPU云提供商。Lambda提供按需和预留的NVIDIA…
LangChain
工具
一个用于构建语言模型应用的流行开源框架。LangChain 为常见模式提供抽象：将 LLM 连接到数据源（RAG）、构建多步 LLM…
Language Detection语言识别、LangID
使用AI
自动识别文本是用哪种语言编写的。“Bonjour le monde”→法语。“こんにちは世界”→日语。现代模型可以仅凭几个词区分100多种语言，处理多语言混合文本（语码转换），并识别密切相关的语言（挪威语与丹麦语、马来语与印尼语）。
Leonardo.ai创意图像生成、游戏素材创建
公司
在Midjourney和Stable Diffusion之间找到独特定位的澳大利亚AI图像平台，因其经过微调的模型、实时画布以及专注于可直接用于生产的创意素材，深受游戏开发者和数字艺术家欢迎。
Liquid AILiquid 基础模型、液态神经网络
公司
MIT 分拆公司正在探索受生物神经回路启发的、从根本上不同的神经网络架构。他们的 Liquid Foundation Models 使用连续时间动力学而非固定权重的 Transformer，有望实现更高的效率和适应性。
LlamaLLaMA、Meta Llama
模型
Meta 推出的大型语言模型系列，其权重可在自定义社区许可下自由下载。历经四个主要世代，参数规模从 1B 到 405B 不等，Llama 模型已成为微调、本地推理和开放研究的默认起点。该名称最初是 Large Language Model…
llama.cpp
工具
一个由 Georgi Gerganov 创建的开源 C/C++ 库，用于在消费级硬件上运行 LLM 推理。llama.cpp 执行量化推理，无需 CUDA、PyTorch 或 Python——它可以在 CPU、Apple Silicon…
LlamaIndexGPT Index
工具
一个开源数据框架，用来在私有数据之上构建 LLM 应用。LlamaIndex 负责接通文档与模型之间的管道：从数百种来源加载数据、切块并建立索引、查询时取回相关片段，再编排最终送给 LLM 的提示词。
LLM-as-JudgeLLM Judge、LLM-as-a-Judge、LLM 评审
训练
一种评估技术，让大型语言模型给另一个模型或自己的输出打分，不再依赖人类评分员。评审模型会收到原始提示词、一到两个候选回答和评分细则，再返回分数、偏好结论或批评。对于 BLEU、ROUGE…
Logits原始分数、Softmax 前输出
基础
模型在通过 softmax 函数转换为概率之前输出的原始、未归一化的分数。对于语言模型，logits 是一个向量，词汇表中每个 token 对应一个值——值越高表示模型认为该 token 越可能。Logits…
LoRA低秩适配
训练
一种通过仅训练少量额外参数而非修改整个模型，显著降低微调成本的技术。LoRA “适配器”是轻量级附加组件（通常仅需数兆字节），可在不重新训练其数十亿个参数的情况下修改模型的行为。
LSTM长短期记忆网络
模型
一种专门设计用于学习序列数据中长程依赖关系的循环神经网络（RNN）。LSTM引入了“单元状态”——一条记忆高速公路，可以将信息不变地传递跨越许多时间步——由三个门控制：输入门（添加什么）、遗忘门（移除什么）和输出门（暴露什么）。发明于199…
Luma AIDream Machine、Ray2
公司
专注于视频和3D生成的人工智能公司。他们的Dream Machine是首批可访问的高质量AI视频生成器之一，而Ray2则显著提升了视频质量和连贯性。
Mamba选择性SSM
模型
由Gu和Dao提出的选择性状态空间模型。序列长度线性扩展，而非Transformer的二次方。压缩的隐藏状态被选择性更新——重要信息被保留，无关信息衰减。
Matrix MultiplicationMatmul、GEMM
基础
所有神经网络底层的基本数学运算。将权重矩阵与输入向量（或矩阵）相乘产生输出向量。每个线性层、每次注意力计算和每次嵌入查找最终都是矩阵乘法。AI硬件（GPU、TPU）的性能以其执行矩阵乘法的速度来衡量。
MCP模型上下文协议
工具
一个开放协议（由Anthropic创建），用于标准化AI模型如何连接外部工具和数据源。可以将其视为AI领域的USB-C——一种统一的标准接口，而不是为每个工具都进行定制集成。MCP服务器提供功能；MCP客户端（如Claude）使用这些功能。
Meta AILlama、FAIR、PyTorch
公司
Meta的人工智能研究部门，FAIR（基础人工智能研究）所在地。负责开放权重的Llama模型系列以及PyTorch，这是被大多数人工智能行业使用的深度学习框架。
Midjourney
公司
以美学精炼著称的AI图像生成工具。通过Discord和网页端运营。团队精简、盈利、注重质量。
MiniMaxMiniMax 模型、海螺 AI、视频生成
公司
中国AI公司构建跨文本、语音和视频的大规模模型。以其Hailuo消费平台和日益具有竞争力的多模态模型而著称。
Mistral AIMistral、Mixtral、Codestral、Le Chat
公司
欧洲人工智能巨头，由前DeepMind和Meta研究人员创立。凭借高效模型实现超预期表现，并倡导开放权重分发与商业产品并行推进。
Model ServingvLLM、TGI、TensorRT-LLM、推理服务器
基础设施
在生产中运行训练好的AI模型的基础设施和软件，处理传入请求、管理GPU内存、批量处理以提高效率并返回响应。vLLM、TGI（文本生成推理）和TensorRT-LLM等模型服务框架解决了使LLM推理在大规模上快速且经济高效的复杂工程问题。
NormalizationLayerNorm、RMSNorm、BatchNorm
训练
通过将网络中流动的值归一化到一致的尺度来稳定神经网络训练的技术。层归一化（LayerNorm）在每个样本内跨特征进行归一化。RMSNorm是一个简化的变体。批归一化（BatchNorm）跨批次进行归一化。每个Transformer都在层之间…
NVIDIAGPU、CUDA、H100/H200、NeMo
公司
这家公司的GPU驱动了全球几乎所有AI训练和大部分推理。最初是一家显卡公司，它成为了AI行业最关键的硬件供应商，短暂地使NVIDIA成为地球上最有价值的公司。
OCR光学字符识别、文字识别
使用AI
从图像中提取文字——文档照片、截图、标志、手写笔记，或任何包含文字的图像。现代OCR结合了文字检测（找到文字在图像中出现的位置）和文字识别（读取文字内容）。深度学习OCR在处理弯曲文字、多语言、多种字体和低质量图像方面远优于旧的基于规则的方…
Ollama
工具
一个用户友好的工具，只需一条命令即可在本地运行语言模型。Ollama 将 llama.cpp 包装成类似 Docker 的体验：ollama run llama3 会下载并运行 Llama…
ONNX开放神经网络交换格式
基础设施
一种用于表示机器学习模型的开放格式，实现框架之间的互操作性。在PyTorch中训练的模型可以导出为ONNX，然后使用ONNX…
OpenAIGPT、ChatGPT、DALL-E、Sora
公司
ChatGPT和GPT系列模型背后的公司。最初是一家非营利研究实验室，当ChatGPT于2022年11月推出时，OpenAI成为了人工智能革命的公众面孔。
OpenRouter
公司
OpenRouter 是一个统一的 API 网关，让开发者通过单个 API 密钥和一个 OpenAI 兼容接口，访问来自不同提供商的数百个大型语言模型。它由 Alex Atallah 于 2023 年推出，负责跨…
PagedAttention
基础设施
一种借鉴操作系统虚拟内存的KV缓存内存管理技术。PagedAttention不为每个请求的KV缓存分配连续的GPU内存块（这会因碎片化而浪费内存），而是将缓存存储在按需分配的非连续块（"页"）中，并可在具有公共前缀的请求之间共享。
PerplexityAI 驱动的搜索引擎、Sonar API
公司
结合实时网络搜索与语言模型推理的AI搜索引擎，提供直接且有来源的答案，而非链接列表。这是过去一代人中对谷歌搜索主导地位最显著的挑战。
PhiMicrosoft Phi
模型
Microsoft 的小型语言模型家族，参数规模约在 10 亿到 140 亿之间，旨在以可在笔记本或手机上运行的体量提供强大的推理和编程能力。Phi 模型主要在精心过滤的网页文本和 LLM…
PikaPika Labs
公司
一家 AI 视频生成公司，其网页应用可将文本提示、静态图像和上传的素材转换为短视频片段。Pika 由斯坦福大学博士生 Demi Guo 和 Chenlin Meng 于 2023 年创立，以快速的消费级版本迭代（Pika 1.0 到…
PixVersePixVerse 视频生成
公司
中国视频生成公司正在构建易于使用的AI视频工具。以其快速的生成速度和免费层级而闻名，这帮助他们在国际市场上迅速建立了庞大的用户群。
Pose Estimation人体姿态、骨架检测、关键点检测
使用AI
通过定位关键解剖点（关节、面部标志、指尖）来检测图像或视频中人体（或动物、手、脸）的位置和朝向。输出是一个骨架：一组表示身体姿态的连接关键点。OpenPose、MediaPipe和YOLO-Pose是常见的实现。
Positional Encoding位置嵌入、RoPE、ALiBi
基础
一种告诉Transformer模型序列中token顺序的机制。与顺序处理token的RNN不同（因此位置是隐含的），Transformer并行处理所有token，没有内在的顺序感。位置编码注入位置信息，使模型知道“狗咬人”和“人咬狗”是不同…
Post-TrainingPost-training
训练
模型在预训练之后经历的一系列训练阶段，把原始的下一个 token 预测器变成可用的助手。它通常结合示范数据上的监督微调、来自人类或 AI…
PPOProximal Policy Optimization、近端策略优化
训练
PPO（Proximal Policy Optimization）是一种强化学习算法，通过裁剪每次更新偏离旧策略行为的幅度，让策略以小而受控的步子前进。它由 OpenAI 于 2017 年提出，后来成为 RLHF…
Qwen通义千问
模型
Qwen 是阿里云开发的开放权重大型语言模型家族。该系列横跨多个代际——Qwen 1.5、2、2.5 和 3——参数规模从 5 亿到数千亿不等，既有稠密设计，也有专家混合设计。大多数版本都以宽松的 Apache 2.0…
RAG检索增强生成
工具
一种通过在生成响应前检索相关文档，从而使AI模型获取外部知识的技术。与仅依赖模型在训练期间学到的内容不同，RAG会搜索知识库，找到相关片段，并将其作为上下文包含在提示中。
RecraftRecraft V3、矢量图形生成
公司
专注于专业级图像和矢量图形生成的AI设计工具。首批能够生成真正可用设计素材的工具之一——SVG、品牌一致的样式以及设计师真正想要使用的可直接用于生产的输出。
RekaReka Core、Reka Flash
公司
由前DeepMind、Google Brain和FAIR研究人员创立的AI研究公司。正在构建原生多模态模型，能够从零开始处理文本、图像、视频和音频。
Replicate
公司
一个通过简单 API 运行机器学习模型的云平台，无需管理任何基础设施。它托管数千个公开的开放权重模型——覆盖图像、视频、音频和语言——开发者也可以用平台的开源容器工具 Cog…
RerankingRe-ranking、Cross-Encoder Reranking、重排
工具
检索流水线中的第二轮打分，用更准确——也更昂贵——的相关性模型，重新排列第一轮得到的候选文档。向量搜索或关键词搜索等高速第一阶段先返回排名靠前的几十个候选，重排器再把每一个与查询逐一评分，给出…
Resemble AI语音克隆、语音合成、水印技术
公司
加拿大语音AI公司，专注于高保真语音克隆和实时语音合成。该公司是首批推出神经音频水印技术用于深伪检测的企业之一，自创业之初便高度重视语音克隆技术可能引发的伦理问题。
RLAIFAI反馈强化学习
训练
RLHF的一种变体，其中偏好标签来自AI模型而非人类标注者。一个强大的AI模型比较响应对并指出哪个更好，为强化学习提供反馈信号。这使得对齐能够超越人类标注的瓶颈进行扩展，同时保持合理的质量。
RLHF基于人类反馈的强化学习
训练
一种训练技术，由人类评估者根据输出质量对模型输出进行排序，此反馈用于训练一个奖励模型，引导AI生成更优质的响应。这正是将原始预训练模型（仅预测下一个词）转变为有帮助且无害助手的关键。
RLVRReinforcement Learning with Verifiable Rewards、RL with Verifiable Rewards、可验证奖励强化学习
训练
一种强化学习方法，奖励信号来自自动化的程序检查器——例如数学答案是否完全正确，或生成的代码能否通过单元测试——而不是人类偏好标签或学习式奖励模型。正确性既然可以机械验证，训练循环就能扩展到数百…
RNN循环神经网络、LSTM、GRU
模型
一种通过维护隐藏状态来处理序列的神经网络，该隐藏状态在每一步都会更新——它“记住”到目前为止看到的内容。LSTM和GRU是改进的变体，解决了原始RNN容易遗忘长距离依赖的问题。在2018至2020年Transformer取代它们之前，RNN…
RunwayGen-1、Gen-2、Gen-3 Alpha
公司
领先的AI视频生成公司。与他人共同创建了最初的Stable Diffusion架构，随后转向视频领域，其Gen系列模型为AI影视制作工具设定了行业标杆。
Safe SuperintelligenceSSI
公司
Safe Superintelligence（SSI）是一家 AI 研究公司，由 Ilya Sutskever、Daniel Gross 和 Daniel Levy 于 2024…
SambaNovaSN40L 芯片、超快速推理
公司
一家设计定制芯片（RDUs）的人工智能硬件公司，这些芯片专为人工智能工作负载打造。其SambaNova Cloud提供了目前最快的推理速度之一，与Groq在人工智能服务的“以速度优先”方法上展开竞争。
Sarvam AISarvam 模型、印度语言 AI
公司
印度人工智能公司正在构建专门针对印度语言多样性进行优化的模型。他们的模型能够以全球模型始终难以达到的流畅度处理印地语、泰米尔语、泰卢固语、孟加拉语等印度语言。
Scale AI
公司
最大的AI数据标注公司，提供大多数主要AI模型所依赖的人工标注训练数据。Scale…
SGLangSGLang Runtime、SRT
工具
SGLang 是一个面向大型语言模型的开源服务引擎，目标是让推理在生产规模下跑得又快又省。它于 2024 年由出身 UC Berkeley 和 LMSYS 团队的研究者发布，其标志性思想是…
Sigmoid逻辑函数、S形函数
基础
一个将任意实数压缩到(0, 1)范围的数学函数：σ(x) = 1 / (1 +…
SLMSmall Language Model、Small Language Models、小语言模型
基础
为效率而设计的语言模型，参数量通常约在 1 亿到 150 亿之间。SLM 小到可以在笔记本、手机或单张 GPU 等消费级硬件上运行，不需要数据中心集群；它用一部分知识广度和推理能力，换来低成本、低延迟，以及离线和端侧运行的能力。
SoftmaxSoftmax函数、归一化指数
基础
一种将原始数值向量（logits）转换为概率分布的函数——所有值变为正数且总和为1。Softmax放大值之间的差异：最大的输入获得最高概率，较小的输入获得指数级更小的概率。它出现在注意力机制、分类输出和token预测中。
SoraOpenAI Sora
模型
Sora 是 OpenAI 的视频生成模型家族，可以根据文本提示词或静态图像创作短视频。它于 2024 年 2 月首次亮相，并在同年 12 月以 Sora Turbo 之名向订阅用户开放；模型把扩散过程与 Transformer…
Sovereign AISovereign AI、主权 AI
基础设施
一种建设本国人工智能能力的国家战略——拥有自己的计算基础设施、模型和数据——使关键 AI 工作负载不依赖外国供应商。实践中，它意味着政府支持的 GPU…
Speaker Diarization说话人日志、谁在何时说话
使用AI
确定多说话人音频录音中谁在何时说话。给定一段会议录音，分离结果为“说话人A：0:00–0:15，说话人B：0:15–0:32，说话人A：0:32–0:45。”与语音识别结合，这产生带说话人标注的转录稿——这对会议纪要、访谈转录和呼叫中心分析…
Stability AIStable Diffusion、SDXL、Stable Audio
公司
通过在2022年将Stable Diffusion作为开源项目发布而推动图像生成技术大众化的公司。尽管经历了领导层动荡，他们的模型仍然是开源图像生成生态系统中的支柱。
Stable DiffusionSD、SDXL、SD3
模型
最广泛使用的开源图像生成模型，由Stability AI与学术研究人员合作创建。Stable Diffusion使用潜在扩散从文本提示生成图像——在压缩的潜在空间而非像素空间中执行去噪过程，使其快到可以在消费级GPU上运行。SD…
Style Transfer神经风格迁移
使用AI
将一张图像的视觉风格（绘画、照片、设计）应用到另一张图像的内容上。“让这张照片看起来像梵高的画”就是风格迁移。神经风格迁移使用深度网络将内容（图像中有什么）与风格（它看起来怎样）分离，然后重新组合。
SunoAI 音乐生成
公司
一家AI音乐生成公司，允许任何人通过文本提示创建完整的歌曲—人声、乐器、制作—。在数月内从默默无闻发展到拥有数百万用户，迫使音乐行业正视AI创造力的冲击。
Super Resolution图像放大、图像增强、SR
使用AI
通过生成原图中不存在的合理细节来提高图像分辨率。一张256×256的照片变成清晰的1024×1024图像。AI超分辨率不只是插值像素（那会产生模糊）——它基于从高分辨率训练图像中学到的知识，生成逼真的纹理、边缘和精细细节。
SwiGLU门控线性单元、GLU变体
基础
现代Transformer前馈层中使用的门控激活函数。SwiGLU将SiLU/Swish激活与门控机制结合：SwiGLU(x) = (x · W1 · SiLU) ⊗ (x ·…
Thinking MachinesThinking Machines Lab、TML
公司
一家由 OpenAI 前 CTO Mira Murati 和一支知名研究团队于 2025 年创立的 AI 研究与产品公司。其首款产品 Tinker 是一个微调 API，让开发者无需自建 GPU 基础设施就能定制开放权重语言模型。
Throughput每秒token数、TPS
基础设施
系统在所有并发请求中每秒能够生成的token总数。与延迟（单个请求的服务速度）不同。高吞吐量的系统同时服务许多用户。低延迟的系统快速服务每个用户。两者之间通常存在权衡。
Together AI
公司
一个运行和训练开源AI模型的云平台。Together…
Token词元
基础
AI模型处理文本的基本单位。一个token通常是一个词或词的一部分—"understanding"可能是一个token，而"un" + "der" +…
TPUTensor Processing Unit、张量处理单元
基础设施
Google 专门为机器学习工作负载设计的一族定制 AI 加速器芯片，也就是 ASIC。TPU 放弃 GPU 的通用灵活性，换来围绕大型矩阵乘法单元构建的脉动阵列架构；在主宰深度学习的张量数学上，它能提供高吞吐量与高能效。Google 自…
Transfer Learning
训练
利用从一个任务或数据集中学到的知识来提高在不同但相关任务上的性能。无需每次都从头训练，而是从一个已经理解一般模式（语言结构、视觉特征）的模型开始，然后将其适配到你的特定需求。预训练然后微调是现代AI的主导范式。
Transformer
模型
几乎所有现代大型语言模型（LLMs）以及许多图像和音频模型背后都使用了这种神经网络架构。由Google在2017年的论文“Attention Is All You…
Tripo文本转 3D、图像转 3D
公司
专注于从文本或图像生成3D模型的人工智能公司。在大多数3D生成技术仅能产出不可用的模糊块的领域中，Tripo凭借能够生成干净、可直接用于生产的网格模型而脱颖而出，这些模型真正可供游戏开发者和设计师使用。
Turing Test模仿游戏
基础
图灵测试是 Alan Turing 在 1950 年论文《Computing Machinery and…
Twelve Labs视频检索、Pegasus、Marengo
公司
视频理解公司，让您可以通过自然语言搜索、分析和生成视频内容。可以将其视为“视频的RAG”—他们的模型理解视频内容的方式，就像大型语言模型（LLM）理解文本一样。
Udio
公司
一家 AI 音乐生成公司，其网页应用可以把文本提示词变成完整歌曲，包括人声、歌词和配器。公司由前 Google DeepMind 研究人员创立，于 2024 年公开上线，随后与 Suno…
UpstageSolar 模型、Document AI
公司
一家以Solar模型系列和Document AI产品闻名的韩国人工智能公司。他们证明了经过良好训练的小型模型可以超越规模更大的模型——其Solar 10.7B在国际基准测试中的表现远超其规模。
VeoGoogle Veo、Veo 2、Veo 3
模型
Google DeepMind 的视频生成模型系列，可将文本提示或静态图像转换为简短的高分辨率视频片段。该系列从最初的 Veo（2024）经 Veo 2 发展到 Veo…
Vibe CodingVibe Coding、氛围编程
使用AI
一种构建软件的方式：用自然语言描述想要什么，让 AI 模型编写代码，再在不仔细审查的情况下接受结果。Andrej Karpathy 于 2025 年 2…
ViduVidu 视频生成、长片段连贯性
公司
生数科技推出的视频生成平台，能够生成一些物理上连贯的AI生成视频。凭借出色的运动质量和多镜头一致性，与西方竞争对手相媲美。
Vision TransformerViT、视觉Transformer
模型
一种将Transformer架构应用于图像的方法，通过将图像分割成固定大小的块（如16×16像素），将每个块视为一个"token"，然后用标准的Transformer注意力处理这一块序列。ViT（Dosovitskiy et…
vLLM
工具
一个开源LLM服务引擎，通过PagedAttention和连续批处理实现高吞吐量。vLLM处理GPU内存管理、请求调度和KV缓存优化的复杂工程，提供兼容OpenAI的API，使在生产中自托管开源模型（Llama、Mistral、Qwen）变…
Voyage AIvoyage-3、领域专用 embedding
公司
嵌入模型公司构建针对代码、法律、金融和多语言搜索的专用向量。其模型在MTEB排行榜上始终名列前茅，并通过API提供业内领先的检索质量。
VRAM显存、GPU 内存
基础设施
GPU上的内存，与系统RAM分开。AI模型必须适合VRAM才能在GPU上运行。一个70亿参数、16位精度的模型需要约14GB的VRAM。消费级GPU有8-24GB；数据中心GPU（A100、H100）有40-80GB。VRAM几乎总是本地A…
Weights & BiasesW&B、WandB
公司
追踪机器学习实验的主流MLOps平台。W&B让你记录训练过程中的指标、超参数、模型输出和系统性能，然后直观地比较各次运行。它已成为ML研究人员和工程师追踪尝试了什么、什么有效以及为什么有效的标准工具——本质上是实验的版本控制。
WhisperOpenAI Whisper
模型
OpenAI 于 2022 年发布的开源语音识别模型。Whisper 使用在 68 万小时弱监督音频上训练的编码器-解码器 Transformer…
WindsurfCodeium、Windsurf编辑器
公司
一款AI原生代码编辑器（前身为Codeium），在AI编程助手领域与Cursor竞争。与Cursor一样，Windsurf是基于VS…
xAIGrok
公司
Elon Musk的AI公司（2023年成立）。产品包括Grok系列模型、X平台数据访问权、Colossus计算集群（10万+块H100）。
YAMLYAML Ain't Markup Language
基础设施
一种可读性极强的数据序列化格式，广泛用于人工智能和DevOps领域的配置文件、流水线定义以及模型元数据。YAML使用缩进表示结构（无需括号或大括号），这使其易于阅读，但对空白字符极为敏感。在AI工作流程中随处可见 &mdash…
Zero-shot / Few-shot上下文学习
使用AI
零样本（zero-shot）意味着让模型在没有任何示例的情况下完成任务—只需指令。少样本（few-shot）意味着在实际请求之前，在提示中提供少量的输入-输出示例。"以下是3个如何格式化此数据的示例... 现在处理这个。"…
万相Wan 视频模型、开源权重视频生成
公司
阿里巴巴专门的视频生成计划，发布高质量的开源视频模型。这是阿里巴巴更全面的策略的一部分，旨在在各个模态的开源AI领域处于领先地位。
上下文窗口上下文长度
使用AI
模型在单次对话中可处理的文本最大量（以令牌为单位）。这包括您的输入和模型的输出。如果模型具有200K的上下文窗口，大约相当于15万字—相当于两本小说。
上下文长度扩展YaRN、NTK 缩放、RoPE 缩放
基础设施
使语言模型能够处理比训练时更长序列的技术。在 4K token 上训练的模型可以通过修改其位置编码（通常是 RoPE）并结合在更长序列上的短期微调来扩展到 32K 或 128K。这避免了从头开始在长序列上训练的巨大成本。
专家混合模型MoE
模型
一种架构，其中模型包含多个“专家”子网络，但每个输入仅激活其中少数几个。一个路由网络决定哪些专家与给定的token相关。这意味着模型可以拥有1000亿+的总参数，但每次前向传递仅使用200亿个参数。
世界模型内部世界模型、学习模拟器
模型
一种构建关于世界如何运作的内部表示的模型——不仅仅是统计相关性，还包括因果关系、物理定律和空间推理。关于LLM是否拥有世界模型的辩论是AI中最具争议的之一：它们是否真正理解物体被松开时会掉落，还是只是知道在文本中“掉落”经常跟在“松开”后面…
事实接地Grounding
使用AI
将模型的响应与事实性、可验证的来源相连接，而不是仅仅依赖其训练数据。锚定技术包括 RAG、网络搜索集成和引用要求。一个基于事实的响应会说“根据 [来源]”，而不是仅仅陈述事实。
交叉注意力编码器-解码器注意力
基础
一种注意力机制，其中查询来自一个序列，而键/值来自另一个序列。在编码器-解码器模型中，解码器的查询关注编码器的键和值，允许解码器在生成输出时“查看”输入。交叉注意力也是文本条件化图像生成在扩散模型中的工作方式——图像生成过程关注文本提示。
人工评估人类评估、手动评估
基础
通过让人类直接判断来评估AI输出质量。人类评估流畅性、准确性、有用性、安全性，以及输出是否真正满足了请求。尽管成本高昂且速度较慢，人工评估仍然是金标准，因为自动化指标常常忽略对用户真正重要的东西。
人脸识别面部识别、Face ID
安全
从图像或视频中识别或验证一个人的面部。验证问的是“这个人是不是他们声称的那个人？”（1:1匹配，用于手机解锁）。识别问的是“这个人是谁？”（1:N匹配，在数据库中比对，用于监控）。现代系统使用深度学习提取面部嵌入并进行比较，在受控条件下达到…
优化模型优化、推理优化
训练
一系列用于使AI模型更快、更小、更便宜或更准确的技术。这包括训练优化（混合精度、梯度检查点、数据并行）— 推理优化（量化、剪枝、知识蒸馏、推测解码）&mdash…
余弦相似度余弦距离、向量相似度
基础
一种基于两个向量之间夹角来衡量相似性的指标，忽略其大小。余弦相似度为1表示向量指向同一方向（含义相同）。0表示垂直（不相关）。-1表示方向相反。它是语义搜索、RAG和推荐系统中比较文本嵌入的标准相似性度量。
偏见
安全
AI输出中反映或放大训练数据中社会偏见的系统性模式。偏见可能出现在文本生成、图像创作、招聘工具等任何模型做出影响人们差异性决策的场景中。
内容审核AI 审核、信任与安全
安全
使用AI来大规模检测和过滤有害、非法或违反政策的内容。这包括文本分类（仇恨言论、垃圾信息、威胁内容）、图像分析（NSFW检测、CSAM）和视频审核。现代系统结合AI分类器与人工审核，但AI自身生成的内容体量正在引发审核危机—现在…
分布式训练数据并行、模型并行、FSDP
基础设施
在多个GPU或机器上同时训练模型。数据并行给每个GPU一份模型副本并分割训练数据。模型并行在模型太大无法装入单个GPU时将模型本身分割到多个GPU。FSDP（完全分片数据并行）和DeepSpeed等现代方法结合了两者，实现了数百亿参数模型的…
分词器Tokenizer、Tokenization
基础
将原始文本转换为模型可以处理的token的算法。分词器维护一个固定的token类型词汇表，并将任何输入文本拆分为该词汇表中的token序列。不同的模型使用不同的分词器——同一句话在Claude、GPT和Llama中的分词结果不同，这会影响上…
前馈网络FFN、MLP 块
基础
Transformer 每层中的组件，通过两个线性变换和中间的激活函数独立处理每个 token。注意力在 token 之间混合信息（哪些 token 与哪些相关），而前馈网络单独处理每个 token…
剪枝模型剪枝、权重剪枝
训练
从已训练的模型中移除不必要的参数（权重、神经元或整层）以使其更小更快，同时不显著损失质量。就像修剪一棵树：砍掉贡献最小的树枝，树依然健康。结构化剪枝移除整个神经元或注意力头。非结构化剪枝将单个权重归零。
卷积Conv、卷积层、核、滤波器
基础
一种在输入上滑动小滤波器（核）以检测局部模式的数学运算。在图像中，一个3×3的核滑过每个位置，计算与底层像素的点积以产出特征图。不同的核检测不同的模式：水平边缘、垂直边缘、纹理，以及在更深层中最终检测到的复杂特征如眼睛或轮子。
参数权重、模型参数
基础
神经网络在训练过程中学到的内部值—本质上是模型以数字形式编码的“知识”。当有人说一个模型有“70亿个参数”时，意思是训练过程中调整了70亿个独立的数值，以捕捉数据中的模式。更多的参数通常意味着更强的学习复杂模式的能力，但也需要更…
双重用途双用途技术
安全
可同时用于有益和有害目的的技术。AI本质上是双重用途的：帮助医生诊断疾病的同一模型可能帮助不法分子合成危险化合物。加速软件开发的同一代码生成模型可能帮助创建恶意软件。管理双重用途风险是AI治理的核心挑战。
反向传播反向传播算法、反向传递
基础
计算神经网络中每个参数对误差的贡献程度的算法，使梯度下降能够高效地更新参数。反向传播通过网络反向应用微积分的链式法则：从输出的损失开始，将梯度向后传播通过每一层，以确定每个权重的"责任份额"。
反向提示负面条件引导
使用AI
描述你不想在生成图像中出现的内容的文本，与主提示一起使用。提示：“美丽的风景。”反向提示：“模糊、低质量、文字、水印、人物。”模型在生成过程中主动避开反向提示中的概念。反向提示主要用于Stable Diffusion和其他开放图像生成模型。
叠加态特征叠加、多义性
基础
神经网络编码的特征（概念、模式）数量远多于其神经元数量的现象，通过将特征表示为激活空间中的方向而非将单个神经元分配给单个特征来实现。一个神经元同时参与编码数十种特征，每个特征分布在许多神经元上。
可灵 AI可灵视频生成、长视频生成
公司
来自快手（中国第二大短视频平台）的AI视频平台。因生产出一些最物理连贯且时间一致的AI生成视频而迅速获得国际关注。
合成数据AI生成的训练数据
训练
由AI模型生成的训练数据。正在成为训练流程中的标准做法。
向量数据库Qdrant、Pinecone、Weaviate、ChromaDB
工具
一种优化用于存储和搜索嵌入（向量）的数据库。与传统数据库通过匹配精确关键词不同，向量数据库能够找到语义上最相似的条目。当你询问“如何修复内存泄漏”时，它会返回关于“调试RAM消耗”的文档，因为它们的嵌入向量相近。
命名实体识别NER、实体抽取
使用AI
识别和分类文本中的命名实体——人名、组织、地点、日期、金额和其他专有名词。在“苹果公司宣布在慕尼黑投资30亿美元”中，NER识别出苹果（组织）、30亿美元（金额）、慕尼黑（地点）和周二（日期）。这是信息抽取、搜索和知识图谱构建中的基础NLP…
回归线性回归、预测
基础
一种预测连续数值而非类别的机器学习任务。“明天的温度是多少？”（回归：预测数字）vs.“明天会下雨吗？”（分类：预测类别）。线性回归拟合一条直线；神经网络回归可以学习输入和输出之间任意的非线性关系。
困惑度PPL、Perplexity
基础
衡量模型预测文本能力的指标。等于exp(平均交叉熵损失)。代表“模型在多少个token之间做选择”。越低越好。
图像修复图像修补、图像外扩
使用AI
用与周围上下文匹配的AI生成内容填充图像中选定的区域。你遮盖一个区域（涂抹覆盖），描述应该替换的内容，模型生成与现有图像无缝融合的新内容。图像外扩将图像扩展到其原始边界之外。两者使用相同的底层扩散过程，以未遮盖区域为条件。
图像分割语义分割、SAM、实例分割
使用AI
将图像中的每个像素分类到一个类别。语义分割按类别标记像素（道路、人行道、建筑、天空）。实例分割区分单个目标（人1、人2）。全景分割同时做两者。Meta的SAM（Segment Anything…
图像生成文本到图像、AI 艺术
基础
使用 AI 模型根据文本描述创建图像。你输入“水彩风格的山上日落”，模型就生成一张匹配的图像。当前的方法包括扩散模型（Stable Diffusion、DALL-E）、流匹配（Flux）和自回归模型。该领域已从 2020…
基准测试Benchmark
训练
用于评估和比较AI模型的标准测试。基准测试衡量特定能力—推理（ARC）、数学（GSM8K）、编程（HumanEval）、常识（MMLU）—并生成可在不同模型间比较的分数。
基础模型
基础
在一个广泛数据集上训练的大型模型，可作为许多不同任务的基础。Claude、GPT、Gemini 和 Llama…
多头注意力MHA
基础
并行运行多个注意力操作，每个操作都有自己学习到的查询、键和值的投影。多头注意力不是用一个注意力函数处理完整的模型维度，而是将维度分成多个"头"（例如，4096维模型使用32个头，每个128维）。每个头可以同时关注不同类型的关系。
多智能体系统多智能体、智能体群
使用AI
多个 AI 智能体协作、辩论或专精化以解决单个智能体无法独自处理的问题的架构。每个智能体可能有不同的角色（研究员、程序员、审查员）、不同的工具或不同的模型。它们通过结构化消息、共享内存或直接交接进行通信。
多模态
基础
能够理解和/或生成多种类型数据（文本、图像、音频、视频、代码）的模型。克劳德可以读取图像和文本；一些模型还可以生成图像或语音。“多模态”与仅处理一种类型数据的“单模态”模型形成对比。
大型语言模型LLM
基础
一种通过大量文本训练的神经网络，用于理解和生成人类语言。“大型”指的是参数数量（数十亿）和训练数据规模（万亿个token）。Claude、GPT、Gemini、Llama 和 Mistral 都是大型语言模型（LLMs）。
奖励模型RM、偏好模型
训练
一种经过训练来预测人类对 AI 回复偏好的模型。给定一个提示和两个候选回复，奖励模型会评分人类更倾向于哪个回复。在 RLHF 流程中，奖励模型提供训练语言模型生成更好回复的信号——它是人类判断的学习代理。
字节跳动豆包、TikTok、AI 驱动的推荐系统
公司
TikTok的母公司，也是全球最有价值的科技公司之一。他们的AI实验室开发了Doubao模型系列，并为每天超过十亿用户使用的推荐算法提供支持。
存在性风险X-Risk、AI 末日论
安全
这一假说认为，足够先进的 AI 系统可能对人类生存构成威胁或永久限制人类的潜力。存在性风险的担忧从具体的近期场景（AI 赋能的生物武器、自主武器）到推测性的长期场景（追求与人类价值观不一致目标的超级智能 AI）不等。这个话题在顶尖 AI…
学习率调度LR调度、预热、余弦退火
训练
在训练过程中改变学习率的策略，而非保持不变。大多数现代训练使用预热（从接近零逐渐增加到峰值）然后衰减（逐渐减少到接近零）。余弦退火是最常见的衰减调度。学习率控制每次梯度更新步长的大小——可以说是训练中最重要的超参数。
对比学习SimCLR、InfoNCE
训练
一种自监督学习方法，通过对比正样本对（应在嵌入空间中接近的相似项）和负样本对（应远离的不相似项）来训练模型。CLIP对比匹配的图像-文本对和不匹配的。SimCLR对比同一图像的增强视图和不同图像的视图。模型学习到嵌入空间中的相似性反映现实世…
对齐
安全
使AI系统的行为符合人类价值观和意图的挑战。对齐模型不仅执行您所说的，还会理解您的真实意图—即使没有明确被告知不要这样做，也能避免有害行为。
小米MiLM、消费电子 AI
公司
全球最大的消费电子公司之一，现在正在构建自己的AI模型。MiLM驱动小米手机、智能家居设备和电动汽车生态系统的各项功能——为下一十亿用户提供AI服务。
少样本学习上下文学习、In-Context Learning
使用AI
在提示词中提供示例输入-输出配对。零样本（zero-shot）= 无示例，少样本（few-shot）= 2到10个。模型无需训练就能学会这种模式。
层隐藏层、神经网络层
基础
神经网络中在特定抽象级别处理数据的一组神经元。输入层接收原始数据。隐藏层（中间层）学习越来越抽象的表示。输出层产生最终结果。“深度”学习意味着许多隐藏层——现代LLM有32到128+层。
嵌入向量嵌入
训练
一种将文本（或图像、或音频）表示为数字列表（即向量）的方法，该向量能够捕捉其含义。在这一数字空间中，相似的概念会彼此靠近—“cat”和“kitten”距离较近，而“cat”和“economics”则相距甚远。
嵌入层Token嵌入、嵌入表、查找表
基础
一个将词汇表中每个token映射到密集向量（token嵌入）的查找表。当模型接收token ID 42时，嵌入层返回学习矩阵的第42行。这个向量是模型对该token的初始表示——后续所有通过注意力和前馈层处理的起点。
工具使用函数调用
工具
AI模型在对话过程中调用外部函数或工具的能力。与其仅仅生成文本，模型可以决定进行网络搜索、运行代码、查询数据库或调用API—然后将结果整合到其响应中。模型输出一个结构化的“工具调用”，由主机应用程序执行。
差分隐私DP
安全
一种在聚合数据分析和模型训练中保证个人隐私的数学框架。通过差分隐私，添加或移除任何单个个人的数据最多只会以微小的、有界的量改变输出。这意味着你可以从数据集中学习有用的模式，而不泄露其中任何特定人的信息。
幻觉
使用AI
当AI模型生成的信息听起来自信且合理，但实际上是错误的或完全虚构时。模型并不是在“撒谎”—它只是通过模式匹配生成流畅的文本，而没有对真理的概念。虚假的引用、编造的统计数据和不存在的API方法是常见的例子。
延迟首 Token 时间 (TTFT)
基础设施
发送请求到收到首个响应之间的时间延迟。在 AI 领域，这通常被衡量为首个 Token 响应时间（TTFT）— 模型开始流式传输答案之前的时间。受模型规模、服务器负载、网络距离和提示长度的影响。
开发者工具AI SDK、AI 框架
工具
由库、框架和平台组成的生态系统，使构建人工智能驱动的应用程序更加容易—这包括编排框架（LangChain、LlamaIndex）、推理服务器（vLLM、llama.cpp）、微调工具（Axolotl、Unsloth）、评估框架（…
开放与封闭开源与专有、开放权重之争
基础
关于AI模型应该公开发布（权重公开可用，如Llama和Mistral）还是保持专有（仅通过API可用，如Claude和GPT）的持续辩论。开放倡导者主张透明、竞争和民主化。封闭倡导者主张安全、负责任的部署和防止滥用。现实是一个光谱：真正“开…
开放权重开源 (AI 语境)
安全
当一家公司发布模型的训练参数，供任何人下载和运行时，"开放权重"比"开源"更准确，因为大多数发布的模型不包含训练数据或训练代码—你得到的是成品模型，而不是制作它的配方。Llama、Mistral和Qwen都是开放权重模型。
引导比例CFG比例、无分类器引导
使用AI
控制图像生成模型遵循文本提示强度的参数。低引导（1–3）：模型自由生成，产出多样但可能偏题的图像。高引导（7–15）：模型严格遵循提示，但可能产出过饱和、有瑕疵的图像。通常的最佳区间是7–9。它是图像生成…
张量多维数组
基础
多维数字数组——深度学习中的基本数据结构。标量是0D张量（单个数字）。向量是1D张量。矩阵是2D张量。图像是3D张量（高度 × 宽度 ×…
强化学习RL
训练
一种训练范式，其中AI代理通过与环境互动、采取行动并接收奖励或惩罚来学习。与监督学习（从带标签的示例中学习）不同，强化学习（Reinforcement Learning…
归纳头
基础
在Transformer中发现的一种特定的双注意力头电路，通过模式匹配实现上下文学习。如果模型之前在上下文中看到过模式"A…
微调Fine-tuning
训练
使用预训练模型，并在较小的特定数据集上进一步训练，以使其行为更加专业化。就像让一位通科医生接受外科住院医师培训——同样的基础知识，新的专业技能。
思维链CoT
使用AI
一种提示技术，要求模型在给出最终答案前逐步展示其推理过程。模型不会直接得出结论，而是“大声思考”，这显著提高了在复杂任务中的准确性。
情感分析意见挖掘
使用AI
自动判断文本的情感色彩——正面、负面或中性。“这个产品太棒了！”是正面的。“客服太差了”是负面的。除了简单的极性判断，高级情感分析还能检测具体情绪（愤怒、喜悦、沮丧）、方面级情感（“食物很好但服务很慢”），以及讽刺。
扩散模型
模型
一种生成模型，通过从纯噪声开始，逐步去除噪声，直到生成连贯的输出（如图像、视频或音频）。该模型学习逆转向真实数据添加噪声的过程。Stable Diffusion、DALL-E 3 和 Midjourney 都采用该方法的变体。
护栏Guardrails
安全
防止AI模型生成有害、不恰当或偏离主题内容的安全机制。防护措施可以在训练期间内置到模型中（RLHF），通过系统提示应用，或通过外部过滤器强制执行，这些过滤器在输出到达用户之前检查内容。
持续学习终身学习、增量学习
训练
模型在不忘记先前所学知识的情况下持续从新数据中学习的能力。当前的LLM训练一次后即冻结——更新它们需要昂贵的重新训练。持续学习将允许模型从每次交互中学习、与新信息保持同步并随时间适应个别用户，就像人类自然学习那样。
指令微调指令微调、IFT、SFT
训练
在（指令，回复）对的数据集上微调预训练语言模型，以教会模型遵循指令。一个只能预测文本的基础模型变成了能够回答问题、执行指令并表现得像助手的模型。正是这一步将 GPT 变成了 ChatGPT，或将基础 Llama 变成了…
指令遵循指令服从
使用AI
模型准确执行用户要求的能力——遵守格式约束、长度要求、风格规范和行为指令。“用法语写恰好 3 个关于 X 的要点”测试的是指令遵循：回复必须是要点（而非段落）、恰好 3 个（而非 2 或 5）、用法语（而非英语），且关于 X（而非 Y）。
损失函数目标函数
训练
衡量预测有多偏离正确答案的指标。对于LLM：交叉熵损失 = 模型对实际下一个token的“惊讶”程度。训练的目标就是最小化这个值。
推测解码辅助生成
基础设施
小型草稿模型生成候选token，大型模型一次性验证全部。猜对的token = 每步多个token。在输出质量完全相同的情况下实现2到3倍的加速。
推理
基础设施
运行训练好的模型以生成输出的过程。训练是学习；推理是应用所学知识。每次你向Claude发送提示或使用Stable Diffusion生成图像时，这都属于推理。这正是消耗服务提供商GPU小时数并按每个token计费的部分。
推理AI 推理、思维链推理
使用AI
AI模型逐步思考、分解复杂问题并得出逻辑严谨结论的能力。现代推理模型（如OpenAI的o1/o3和DeepSeek-R1）在回答前会生成明确的推理过程，显著提升了数学、编程和逻辑任务的表现。这与简单的模式匹配不同——推理模型能够解决前所未见…
掩码语言建模MLM、掩码LM、完形填空
训练
一种自监督训练目标，将输入中的随机token替换为[MASK]…
提示模板模板、提示模式
使用
一种可重复使用的提示结构，带有变量占位符，在运行时填入具体数据。与其每次从头编写新提示，不如定义一次模板——“用{language}总结以下{document_type}，重点关注{topic}”——然后填入变量。提示模板是生产AI应用的构…
提示注入间接提示注入
安全
一种攻击方式，将恶意指令嵌入 AI 模型处理的内容中，导致模型执行攻击者的指令而非用户或开发者的指令。直接注入：用户直接输入恶意指令。间接注入：恶意指令隐藏在模型作为任务一部分读取的网站、文档或电子邮件中。
提示缓存上下文缓存、前缀缓存
使用AI
一种在多次 API 调用间保存并复用已处理的提示前缀的技术，避免重复计算。如果你在每次请求中发送相同的系统提示和文档上下文（这很常见），提示缓存只处理一次并在后续请求中复用已缓存的计算结果。这同时降低了延迟和成本。
提示词Prompt
基础
你提供给AI模型以获取回应的文本。提示词可以是一个问题、一条指令、一份创意简报，或一段你希望被解释的代码。模型所做的一切都始于你输入的内容。提示词的质量、具体性和结构直接决定了返回结果的质量。
提示词工程
使用AI
通过精心设计输入以获得更好的AI模型输出的实践。这包括从简单技巧（明确具体、提供示例）到高级方法（思维链、少量示例提示、角色分配）的范围。尽管名称听起来很花哨，但本质上是与统计系统进行清晰沟通的问题。
数据中心AI 数据中心、GPU 集群
基础设施
用于存放服务器、GPU、网络设备和冷却系统的物理设施。现代AI数据中心专为大规模并行计算而设计，消耗兆瓦级电力，需要专用冷却系统。单次前沿模型训练可能需要整个设施中数千块GPU运行数月之久。
数据标注数据标签、数据注释
训练
为原始数据添加标签、标记或元数据以便用于监督学习的过程。标注图像意味着在物体周围绘制边界框。标注文本意味着标记实体、情感或意图。为RLHF标注意味着按质量对模型回复进行排序。标注是将原始数据转化为训练数据的人力劳动。
文字转语音TTS、语音合成、语音AI
使用
将书面文本转换为自然流畅的语音音频。现代TTS系统使用神经网络生成几乎无法与人类声音区分的语音，并能控制情感、节奏、重音，甚至进行特定的语音克隆。ElevenLabs、OpenAI…
文本摘要摘要、TL;DR
使用AI
自动生成保留关键信息的文本缩短版本。抽取式摘要选择并组合最重要的现有句子。生成式摘要生成捕捉含义的新句子——就像人类做摘要那样。现代LLM擅长生成式摘要，能对文档、文章和对话生成流畅准确的摘要。
无监督学习
训练
一种在没有被告知要寻找什么的情况下，从数据中发现模式的训练方法。没有标签，没有正确答案——只有原始数据和一个发现其结构的模型。聚类、降维和异常检测是经典任务。
早停法耐心参数、基于验证的停止
训练
当保留验证集上的性能停止提升时停止训练，而不是训练固定的步数。随着训练继续，训练损失持续下降但验证损失最终开始上升——模型正在对训练数据过拟合。早停法在质量退化之前捕获这个拐点并保存最佳模型。
智能体AI Agent、智能代理
工具
一个能够自主规划并执行多步骤任务的AI系统，使用工具（网络搜索、代码执行、API调用）来实现目标。与只能一次回答一个问题的简单聊天机器人不同，代理会根据迄今为止所学到的内容决定下一步该做什么。
智能体工作流Agent架构、AI工作流
使用
一种AI智能体编排多步骤过程的设计模式——规划、执行工具、评估结果并迭代——以完成复杂任务。与单次提示-回复交换不同，智能体工作流涉及循环：智能体采取行动、观察结果、决定下一步做什么，并持续进行直到任务完成或需要人类输入。
智谱 AIGLM、ChatGLM、CogView、CogVideo
公司
由清华大学孵化的中国人工智能公司。GLM模型家族的开发者之一，也是中国领先的AI平台之一，在语言和视觉生成领域具有优势。
月之暗面Kimi、超长上下文模型
公司
中国人工智能公司因推出Kimi而引起轰动，这是一款拥有200万token上下文窗口的聊天机器人。由杨志林创立，他此前是长上下文建模关键创新的幕后研究人员。
机制可解释性Mech Interp
安全
在神经元/电路/特征层面逆向工程神经网络内部的运作机制。不仅关注模型输出了什么，更关注它是如何计算的。
机器学习ML
基础
计算机科学的一个广泛领域，系统通过数据学习模式，而不是遵循明确的规则。与其通过列举特征（四条腿、尖耳朵、胡须）来编程计算机识别猫，不如向它展示成千上万张猫的照片，让它自己找出模式。机器学习涵盖从简单的线性回归到驱动当今AI的深度神经网络…
机器翻译MT、神经机器翻译、NMT
使用AI
自动将文本从一种语言翻译成另一种语言。现代神经机器翻译（NMT）使用在平行语料库（文本及其翻译）上训练的编码器-解码器Transformer。Google翻译、DeepL和基于LLM的翻译都使用这种方法的变体。翻译质量已经大幅提升——对于常…
权重模型权重、神经网络权重
训练
神经网络内部在训练过程中通过调整以最小化误差的数值。每个神经元之间的连接都有一个权重，决定了前一个神经元对下一个神经元的影响程度。当你下载一个模型文件——例如 .safetensors、.gguf 或 .pt…
权重初始化Xavier初始化、Kaiming初始化、He初始化
训练
在训练开始前如何设置神经网络权重。糟糕的初始化可以让训练还没开始就失败（激活值消失或爆炸）。好的初始化确保激活值和梯度在各层之间保持合理的幅度。Xavier初始化（用于tanh/sigmoid）和Kaiming/He初始化（用于ReLU）是…
梯度下降SGD、反向传播
训练
通过计算梯度并沿下坡方向步进来迭代调整参数以减少损失。反向传播（Backpropagation）高效地计算各层的梯度。
梯度检查点激活检查点、重计算
训练
一种在训练过程中用计算换内存的节省内存技术。梯度检查点不存储前向传播的所有中间激活（反向传播需要），而是只在某些"检查点"层存储激活，并在反向传播过程中重新计算其他激活。这以约30%的额外计算为代价，将内存使用减少高达5–10倍…
检查点模型检查点、快照
训练
训练过程中模型状态的保存快照——包括权重、优化器状态、学习率调度和训练步数。检查点让你能在中断后恢复训练（硬件故障、抢占）、评估模型的中间版本，以及在训练退化时回滚到较早版本。每隔几千步保存检查点是标准做法。
检索信息检索、IR
基础
从大型集合中根据查询找到相关文档、段落或数据的过程。在 AI 中，检索是 RAG 中的“R”——在将相关上下文提供给语言模型之前获取它的步骤。检索可以使用关键词匹配（BM25）、语义相似性（嵌入向量）或结合两者的混合方法。
模型AI 模型、ML 模型
基础
一个经过训练的数学系统，它接收输入并根据从数据中学习到的模式生成输出。在人工智能领域，“model（模型）”是用于描述你实际使用的事物的统称——无论是GPT-4生成文本、Stable…
模型卡模型文档、数据表
安全
一份描述机器学习模型预期用途、性能特征、训练数据、局限性和伦理考量的标准化文档。由Mitchell等人（2019）引入，模型卡旨在提高透明度，帮助用户做出关于模型是否适合其用例的明智决策。
模型合并TIES、DARE、SLERP、Frankenmerge
训练
将多个微调模型的权重合并为单个模型，无需任何额外训练。如果模型A擅长编码，模型B擅长创意写作，合并它们可以产生一个两者都擅长的模型。流行的合并方法包括SLERP（球面线性插值）、TIES（解决符号冲突）和DARE（合并前随机丢弃参数）。
模型坍缩数据反馈循环
训练
当 AI 模型在前代 AI 模型生成的数据上训练时发生的退化，形成一个错误和偏差跨代累积的反馈循环。每一代都会丢失一些多样性并放大前一代的某些伪影，最终产生生成重复、通用或失真输出的模型。
模型注册表模型存储、模型目录
基础设施
一个集中化的系统，用于在整个生命周期中对训练好的机器学习模型进行版本管理、追踪和管理。类似于包注册表（npm、PyPI），但面向ML模型：每个模型版本与其元数据（训练数据、超参数、性能指标、血统）一起存储，使得复现结果、比较版本和部署特定模…
残差连接跳跃连接、快捷连接
基础
一种绕过一个或多个层的连接，将输入直接加到输出上：output = layer(x) +…
水印AI水印
安全
嵌入AI内容中用于检测的不可见信号。文本：在统计上偏置token选择。图像：不可见的像素模式。
池化最大池化、平均池化
基础
一种通过将一个区域汇总为单个值来减少数据空间维度的操作。最大池化取每个区域的最大值。平均池化取均值。在CNN中，池化层在卷积层之间对特征图进行下采样。在Transformer中，池化将token表示合并为单个向量（例如用于分类）。
注意力注意力机制、自注意力
模型
Transformers 中的核心机制，使模型能够确定输入中哪些部分彼此最相关。与早期模型从左到右逐字阅读不同，注意力机制使每个词能够同时“审视”其他所有词，以理解上下文。
流匹配整流流、Rectified Flow
模型
一种生成技术：学习从噪声到数据的平滑、直接路径。在相当质量下比扩散模型所需步骤更少。
流式传输Server-Sent Events、SSE
使用AI
在生成过程中逐token发送输出，通过HTTP上的SSE（服务器发送事件）实现。这就是为什么文字在聊天界面中逐词出现。
测试时计算推理时计算、思维链、思考token
基础
在推理期间（当模型生成回复时）使用额外计算来提高回答质量。模型不是立即生成答案，而是“思考”更长时间——生成推理token、探索多种方法或验证自己的输出。在测试时使用更多计算会产生更好的答案，特别是对于复杂推理任务。
涌现涌现能力、涌现行为
基础
在达到一定规模或训练阈值后突然出现的能力——这些能力并未在训练中被明确教授。一个纯粹用于预测下一个词的模型，竟然能够执行算术运算、在未被教授的语言之间进行翻译，或编写可运行的代码。涌现是人工智能领域最受争议的现象之一：它是真实的相变现象，还…
深度伪造合成媒体、AI 生成的伪造内容
安全
AI生成的图像、视频或音频，旨在逼真地描绘真实人物说或做他们从未做过的事情。最初基于GAN技术，现代深度伪造技术如今使用扩散模型和语音克隆来生成内容，这些内容与现实的差异越来越难以分辨。检测工具虽然存在，但始终落后于生成能力。
深度学习DL
基础
机器学习的一个子领域，它使用具有多层的神经网络（因此被称为“深度”）来学习数据的层次化表示。每一层都会将其输入转换为稍微更抽象的内容——从像素到边缘、形状、物体再到概念。深度学习正是使现代人工智能革命成为可能的关键：它背后的技术支撑着大型语…
混合精度训练FP16、BF16、半精度
训练
使用较低精度的数值格式（16位而非32位）进行大部分计算来训练神经网络，同时保持关键操作在全精度下运行。这将GPU的有效内存容量和计算速度提高一倍，对模型质量的影响很小。BF16（bfloat16）是LLM训练的标准；FP16用于推理。
温度
使用AI
一个控制模型输出随机性或确定性的参数。温度值为0时，模型始终选择概率最高的下一个token（确定性，专注）。温度值为1+时，模型更倾向于选择概率较低的token（创造性，不可预测）。大多数API默认值约为0.7。
特征学习表示、激活
基础
神经网络学会在其输入中检测的模式或概念。在视觉中，早期层特征是边缘和纹理；后期层特征是物体部分和完整物体。在语言模型中，特征从简单的（字母“a”、特定的语法模式）到抽象的（讽刺的概念、特定的推理策略）。特征表示为跨神经元的激活模式。
状态空间模型SSM、Mamba
模型
一种替代Transformers的模型，通过维护一个压缩的“状态”来处理序列，而不是对所有token使用注意力机制。Mamba是最著名的SSM架构。SSM的计算复杂度随序列长度线性扩展（而注意力机制是二次方扩展），这使得它们在处理非常长的上…
生成式 AIGenAI
基础
生成式AI系统能够创建新的内容—文本、图像、音频、视频、代码、3D模型—而不仅仅是分析或分类现有数据。生成式AI是统称，涵盖从ChatGPT撰写文章到Stable…
监督学习
训练
一种使用标注样本进行训练的方法——输入-输出配对，其中正确答案已经提供。模型调整其参数以最小化预测值与已知正确答案之间的差异。
目标检测YOLO、边界框检测
使用AI
在图像或视频中识别和定位目标，通过在其周围绘制边界框并分类每个框包含的内容。“在位置(x1,y1,x2,y2)有一辆车，在(x3,y3,x4,y4)有一个人。”与图像分类（说出图像中有什么）不同，目标检测说出图像中有什么以及在哪里——使计数…
知识图谱KG、本体
基础
一种将知识表示为实体（节点）通过关系（边）连接的网络的结构化方式。“巴黎（实体）是（关系）法国（实体）的首都。”知识图谱以支持推理、查询和发现的方式编码事实。Google 的知识图谱、Wikidata…
知识截止日期训练数据截止日期、知识日期
基础
模型在该日期之后没有训练数据的时间点，这意味着它缺乏该日期之后发生的事件、发现或变化的知识。如果模型的截止日期是 2024 年 4 月，它不知道 2024 年 5 月或之后发生的任何事情——新产品、新闻事件、科学论文或更新的事实。
知识编辑模型编辑、事实编辑
训练
在不重新训练的情况下修改已训练模型中特定事实的技术。如果模型在新选举后错误地声称"法国总统是马克龙"，知识编辑可以通过修改目标权重来更新这个特定事实，而不影响模型的其他知识或能力。目标是外科手术般的精确：改变一个事实，其余一切保持不变。
神经元人工神经元、感知机、节点
基础
神经网络的基本计算单元。人工神经元接收输入，将每个输入乘以一个权重，求和后加上偏置，再通过激活函数产生输出。成千上万到数十亿个这样的神经元，按层组织并通过学习得到的权重相连，构成了驱动所有现代AI的神经网络。
神经网络
基础
一种受生物大脑启发，由多层相互连接的“神经元”（数学函数）组成，这些神经元通过数据学习模式的计算系统。信息通过各层流动，逐步转换，直到网络产生输出。每个现代AI模型都是一种神经网络。
稀疏注意力局部注意力、滑动窗口注意力
模型
只处理 token 对的子集而非完整 N×N 注意力矩阵的注意力机制。滑动窗口注意力只关注附近的 token（在固定窗口内）。稀疏模式（如 Longformer 的局部+全局注意力组合）让特定 token…
稀疏自编码器SAE
模型
一种神经网络，通过带有稀疏约束的瓶颈层来训练重建模型的内部激活——一次只有少数特征可以激活。学到的特征通常对应于可解释的概念（特定主题、语言模式、推理策略），使SAE成为解开大型语言模型中叠加特征的主要工具。
端点Endpoint
基础设施
一个特定的URL，用于接收AI API的请求。例如，Anthropic 的 message 端点是您向 Claude 发送提示（prompts）的地方。不同的端点服务于不同的功能：文本生成、嵌入（embeddings）、图像生成、模型列表。
精确率与召回率F1 分数、混淆矩阵
基础
评估分类器的两个互补指标。精确率回答“模型标记为正例的项目中，有多少确实是正例？”召回率回答“所有实际正例中，模型找到了多少？”一个高精确率的垃圾邮件过滤器很少将正常邮件标记为垃圾。一个高召回率的过滤器能捕获大多数垃圾邮件。F1…
系统提示词系统消息
使用AI
在对话开始时给予模型的特殊指令，用于设定其行为、性格和规则。与用户消息不同，系统提示应具有持久性和权威性—它定义了本次会话中模型的身份。“你是一个乐于助人的编码助手。始终使用TypeScript。”
红队测试Red Teaming
安全
故意尝试让AI模型失效、行为异常或产生有害输出的做法。红队会探测漏洞：越狱、偏见、生成错误信息、隐私泄露。该术语源自军事推演，其中“红队”扮演对手角色。
结构化输出JSON模式
使用AI
让AI以机器可解析的格式（JSON、XML、Schema）进行回复。大多数提供商已原生支持：定义一个schema，模型保证输出符合要求。
编码器编码器网络、特征提取器
基础
将输入数据转换为压缩的、信息丰富的表示（编码）的神经网络组件。在Transformer中，编码器使用双向注意力处理完整输入并生成上下文表示。在自编码器中，编码器将输入压缩到潜在瓶颈。在图像生成中，VAE编码器将图像转换到潜在空间。编码器是许…
编码器-解码器Seq2Seq、序列到序列
模型
一种包含编码器（压缩输入）和解码器（生成输出）的模型架构。T5/BART是编码器-解码器模型。GPT/Claude/Llama是纯解码器模型。BERT是纯编码器模型。
缩放定律神经网络缩放定律、Chinchilla
基础
幂律关系表明，性能会随着模型大小、数据集大小和计算量的增加而可预测地提升。你可以在花费数百万之前就估算出性能。
聊天机器人AI助手
使用AI
用于与AI模型进行对话交互的软件界面。现代聊天机器人（Claude、ChatGPT、Gemini）由大语言模型驱动，能处理开放式对话、代码、图像和工具调用。
联邦学习FL、协作学习
训练
一种在不共享原始数据的情况下跨多个设备或组织训练模型的方法。每个参与者不是将数据发送到中央服务器，而是在自己的数据上训练模型的本地副本，并仅将模型更新（梯度）发送给中央协调器。协调器聚合所有参与者的更新以改进全局模型。
聚类K-Means、DBSCAN、聚类分析
基础
一种在没有预定义标签的情况下将相似数据点分组在一起的无监督学习任务。给定客户购买数据，聚类可能发现不同的客户群体（打折猎手、奢侈品买家、偶尔购物者）。K-means是最常用的算法：选择K个聚类，将每个点分配到最近的聚类中心，并迭代优化中心位…
腾讯混元大模型、微信、游戏 AI
公司
微信背后的中国科技巨头，全球最大的游戏公司之一，同时在生成式人工智能领域日益成为一股重要力量。其伏羲模型驱动着腾讯庞大生态系统中的各项功能，服务超过十亿用户。
自主智能体AI 智能体、智能体式 AI
使用AI
一种能够以最少的人类监督独立规划、决策和执行多步任务的 AI…
自动化AI 自动化、工作流自动化
工具
利用AI执行以前需要人工干预的任务。这包括从简单的自动化（自动分类电子邮件、生成报告）到复杂的自主工作流程（AI代理进行研究、编写、测试和部署代码）。从传统自动化（严格规则）向AI自动化（灵活智能）的关键转变在于，AI能够处理模糊的、非结构…
自回归自回归模型、下一token预测
基础
一种每次生成一个token的模型，每个新token都基于之前所有token来预测。每一个现代LLM——Claude、GPT、Llama、Gemini——都是自回归的。模型不会“规划”完整回复然后写出来；它实际上是预测下一个词，附加上去，然后…
自注意力缩放点积注意力
基础
一种注意力机制，其中序列关注自身——每个token计算其与同一序列中其他所有token的相关性。查询、键和值都来自同一输入。这让每个token能够收集来自所有其他token的信息，按相关性加权。自注意力是每个Tran…
自然语言处理NLP
基础
人工智能的一个分支，旨在使机器能够理解、解释和生成人类语言。自然语言处理涵盖了从基础的文本处理（分词、词干提取、词性标注）到复杂任务如情感分析、机器翻译、摘要生成和问答系统的一切内容。在Transformer模型出现之前，自然语言处理是一些…
自监督学习SSL
训练
一种模型从未标注数据中自行生成监督信号的训练方法。隐藏输入的一部分，训练模型预测被隐藏的部分。对于LLM：遮蔽下一个token并预测它。对于视觉模型：遮蔽图像块。
蒸馏知识蒸馏
训练
训练一个较小的“学生”模型来模仿一个较大的“教师”模型，通过学习教师的软概率分布而非硬标签。软输出编码了硬标签无法传达的类别之间的关系。
视觉多模态视觉、图像理解
使用
语言模型理解和推理图像与文本的能力。你发送一张照片并问“这张图像里有什么？”或上传一个图表并问“总结趋势。”具有视觉能力的模型（Claude、GPT-4V、Gemini）将图像编码为token，语言模型将其与文本token一起处理，实现统一…
视频生成文本到视频、AI 视频
基础
使用 AI 模型从文本描述、图像或其他视频创建视频。Sora（OpenAI）、可灵（快手）、Runway Gen-3、Vidu…
解码器解码器网络、生成器
基础
从表示生成输出的神经网络组件。在Transformer中，解码器使用因果（从左到右）注意力逐个生成token。在图像生成中，VAE解码器将潜在表示转换回图像。在自编码器中，解码器从压缩瓶颈重建原始输入。解码器是许多架构中的“生成”部分。
计算机视觉CV、机器视觉
基础
人工智能领域专注于使机器能够解读和理解来自世界的各种视觉信息—图像、视频、3D场景和文档。计算机视觉（Computer…
记忆AI 记忆、持久化上下文
使用AI
允许AI模型在单次对话之外保留和回忆信息的机制。这包括上下文记忆（使用上下文窗口）、外部记忆（RAG、向量数据库）、持久化对话记忆（跨会话记住用户偏好）和工作记忆（在多步骤代理任务中维持状态）。—记忆正是让AI感觉像一个协作者而…
评估Evals、模型评估
训练
用于衡量AI模型性能的方法。这远不止于基准测试——它包括人工评估（由人类对输出结果进行评分）、A/B测试（在真实流量中对比模型）、红队测试（对抗性测试）、领域特定测试（医疗准确性、代码正确性）以及社区排行榜（Chatbot…
词嵌入Word2Vec、GloVe、词向量
基础
词的密集向量表示，含义相似的词具有相似的向量。Word2Vec（2013）和GloVe（2014）开创了这一领域：它们在词共现模式上训练，产生"king − man + woman &asymp…
词汇表词表、Token词汇表
基础
模型能够识别和生成的固定token集合。词汇表在训练期间由分词器构建，通常包含32K到128K个条目——常见词、子词片段、单个字符和特殊token。模型处理的任何文本都必须可表示为该词汇表中的token序列。不在词汇表中的token会被分解…
语料库数据集、训练数据
训练
用于训练模型的文本（或其他数据）。语料库的范围可以从精心挑选的书籍和论文集，到对整个互联网的大规模抓取。语料库的质量和组成从根本上决定了模型所掌握的知识及其行为方式。
语音 AI语音 AI、对话式 AI
工具
用于生成、理解及操控人类语音的人工智能系统。这包括文本到语音（TTS）、语音到文本（STT/ASR）、声音克隆、实时语音翻译、语音情感识别以及对话式语音代理。该领域已发展到人工智能生成的语音通常与人类语音难以区分的程度。
语音克隆语音合成、语音复制
使用AI
从简短的音频样本创建特定人声音的合成副本，使文本转语音听起来像那个人。现代系统（ElevenLabs、PlayHT、Resemble AI）可以从短至15秒的音频以惊人的保真度克隆声音，捕捉音调、口音、说话风格和情感范围。
语音识别STT、语音转文字、ASR
使用
将口语音频转换为文本。现代语音识别使用深度学习模型（最著名的是OpenAI的Whisper），能以接近人类的准确率转录100+种语言的音频。该技术驱动语音助手、会议转录、字幕生成和无障碍工具。
课程学习
训练
一种按有意义的顺序——通常从简单到困难——而非随机地呈现训练样本的策略。就像教学生先学算术再学微积分，课程学习先给模型基础模式，然后逐步增加复杂性。这可以加速收敛，有时还能获得更好的最终性能。
谄媚行为AI 谄媚、过度迎合
安全
AI模型倾向于告诉用户他们想听的，而不是事实真相。谄媚型模型会同意错误的前提，验证错误的想法，即使最初是正确的，当被质疑时也会改变立场，并优先考虑被喜欢而非提供帮助。谄媚是RLHF训练的直接副作用——模型学会同意的回应会从人类评估者那里获得…
超参数训练超参数
训练
训练开始前您选择的设置，用于控制模型的学习方式 &mdash…
超参数调优HPO、超参数优化、网格搜索
训练
系统地搜索最佳超参数——在训练期间不会被学习、必须在训练开始前设置的配置选择。学习率、批量大小、层数、dropout率和LoRA秩都是超参数。调优方法包括网格搜索（尝试所有组合）、随机搜索（尝试随机组合）和贝叶斯优化（使用过去的结果指导搜索…
越狱越狱攻击、对抗性提示
安全
诱使 AI 模型绕过其安全训练，生成本应拒绝的内容的技术——包括危险活动的指南、有害内容或违反模型使用政策的行为。越狱利用了模型被训练拒绝的内容与巧妙提示能够引出的内容之间的差距。
边缘AI端侧AI、本地AI
基础设施
在终端设备（手机、笔记本电脑、汽车）上运行AI，而非在云端。数据隐私有保障、零延迟、可离线工作。
过拟合
训练
当模型过度记忆训练数据，导致无法对新输入进行泛化时。就像一个学生死记硬背练习题答案，却无法解决新问题。模型在训练数据上表现优异，但在未见过的数据上表现不佳。
速率限制
基础设施
每分钟/每小时/每天可进行的API请求次数限制。提供商实施速率限制以防止服务器过载并确保公平访问。限制通常针对每个API密钥，并可能限制每分钟请求数（RPM）和每分钟令牌数（TPM）。
采样解码策略、Top-p、Top-k
基础
从模型预测的概率分布中选择生成下一个 token 的过程。贪心解码总是选择最可能的 token。随机采样按概率比例选择。温度、top-p（核采样）和 top-k…
量化GGUF、GPTQ、AWQ
基础设施
降低模型的精度以使其更小更快。使用32位浮点数训练的模型可以被量化为8位、4位甚至更低—将其体积缩小4到8倍，同时仅造成微小的质量损失。GGUF 是通过 llama.cpp 进行本地推理的流行格式。
问答系统QA、阅读理解
使用AI
一种回答自然语言提问的系统。抽取式QA在给定文档中找到答案片段（“根据第3段，答案是……”）。生成式QA从一个或多个来源综合生成答案。开放域QA在没有特定文档的情况下回答任何问题。基于RAG的QA检索相关文档并从中生成答案。
阶跃星辰Step 系列模型、多模态 AI
公司
中国AI初创公司正在构建具有竞争力的大型语言模型和多模态模型。他们的Step系列在国际基准测试中表现出色，得益于大量的计算资源投入。
阿里云通义千问、Qwen 系列模型
公司
阿里巴巴集团的云计算部门及通义模型家族的创造者。通义模型具有全开放权重、多语言支持，是当前最强大的开源模型之一。
随机鹦鹉
安全
对大型语言模型的批评认为，它们仅仅是复杂的模式匹配器，通过拼接看似合理的文本而并不具备对意义的理解。这一术语由艾米丽·班德（Emily Bender）、蒂米特·格布鲁（Timnit Gebru）及其同事在其具有影响力的2021年论文《On…
音乐生成AI音乐、文本到音乐
使用AI
使用AI模型从文本描述、旋律或其他音频输入创作音乐。“一首带有朗朗上口的合成器旋律、120 BPM的欢快电子曲目”产出一首完整的音乐作品。Suno、Udio、MusicLM（Google）和Stable…
预训练
训练
模型最初的大规模训练阶段，通过海量语料库学习语言（或其他模态）。这是昂贵的部分—数千块GPU运行数周或数月，耗资数百万美元。结果是一个基础模型，它理解语言，但尚未针对任何任务进行专业化。
验证集开发集、保留集
训练
从训练中保留的数据子集，用于在开发过程中评估模型性能和调整超参数。三分法：训练集训练模型，验证集指导关于模型的决策（学习率、架构、何时停止），测试集提供最终的无偏性能估计。验证集是你在开发过程中的镜子。
ESC
↑↓ 导航 ↵ 打开 wiki: news: model: 筛选