一款桌面应用,用来查找、下载并在本地运行开放语言模型,带聊天界面和内置的本地 API 服务器。
为什么重要
LM Studio 和 Ollama 是进入本地 AI 最常见的两个入口。Ollama 以命令行为主,深受开发者欢迎;LM Studio 则是图形化应用,面向那些想看清楚发生了什么的人:哪些模型放得进内存,跑得多快,用的是什么设置。
它也是一个实用的开发工具。它的本地服务器提供兼容 OpenAI 的 API,所以你可以让现有的应用、编程工具或脚本指向运行在自己机器上的模型,而不是云服务商。这对隐私、离线工作、成本控制和测试都很有用。
深度解析
LM Studio 是一款面向 macOS、Windows 和 Linux 的免费桌面应用,它让本地 AI 用起来就像一个普通的应用。你搜索一个模型,挑一个适合自己机器的大小,点击下载,然后开始聊天,全程不用碰终端。在底层,它用 llama.cpp 在几乎任何硬件上运行 GGUF 模型,在 Apple Silicon 的 Mac 上还会用 Apple 的 MLX。
它由 Element Labs 开发。应用本身是闭源的,但它的开发者 SDK 和命令行工具是开源的。自 2025 年年中起,它在工作中使用也免费了,不再仅限个人用途。
你能得到什么
- 模型发现:在应用内直接搜索 Hugging Face,并提示哪些量化版本放得进你的 RAM 或 VRAM。
- 聊天界面:对话、系统提示、用于简单 RAG 的文档附件,以及并排显示的设置。
- 本地服务器:一个兼容 OpenAI 的端点(默认在
localhost:1234),其他软件可以调用。 lms命令行工具:加载和卸载模型、启动服务器,并把这一切写成脚本。- SDK:Python 和 TypeScript 库,用来在本地模型之上开发应用。
- 工具使用和 MCP:支持函数调用和连接 MCP 服务器,让本地模型也能使用工具。
选择模型
最常见的问题是该下载哪个文件。模型页面会提供同一个模型的多种量化版本:Q4 版本大约只占原始内存的四分之一,通常是最佳平衡点;Q8 更接近完整质量,但体积大一倍;Q2 和 Q3 更省内存,但质量有明显损失。粗略来说,4 位模型每十亿参数需要略多于 0.5 GB,上下文还要另外占一些。
值得关注的设置
- GPU offload:有多少层在 GPU 上运行。放得下就全部放到 GPU 上;部分卸载也能用,但更慢。
- 上下文长度:更长的上下文需要更多内存来存 KV 缓存。不要设得比实际需要高太多。
- 引擎:在 Mac 上,同一个模型的 MLX 版本和 llama.cpp(GGUF)版本都试一试。MLX 常常更快。
LM Studio 与 Ollama 的比较
两者运行的是同一类模型,也都提供本地 API。如果你想要可视化的应用、方便的模型浏览和可以亲手调的设置,LM Studio 更合适。如果你想要轻量的后台服务、脚本化和开源代码,Ollama 更合适。很多人两个都用。