使用 LM Studio 在 macOS 上本地部署 Gemma 4

在本地运行大语言模型，已经从“折腾显卡和命令行”的小众玩法，逐渐变成普通开发者也能轻松上手的日常工具。对于 Mac 用户来说，LM Studio 是一个非常友好的选择：它提供图形界面、模型下载、聊天窗口、本地 API Server 和命令行工具，可以把本地大模型部署流程简化很多。

本文记录如何使用 LM Studio 在 macOS 上本地部署 Gemma 4，并通过图形界面和本地 API 两种方式运行模型。

Gemma 4 是什么

Gemma 4 是 Google DeepMind 发布的开放模型系列。它延续了 Gemma 系列轻量、高效、适合本地和边缘设备部署的方向，同时面向推理、Agent 工作流和多种开发工具做了增强。

Gemma 4 提供了不同规模的模型，例如面向移动和 IoT 场景的 E2B、E4B，以及更适合个人电脑和工作站运行的 12B、26B、31B 等版本。具体选择哪个版本，主要取决于你的 Mac 内存、使用场景和对速度的要求。

对于本地体验来说，可以优先选择量化后的 GGUF 或 MLX 格式模型。它们更适合在消费级设备上运行，也更容易被 LM Studio 直接加载。

为什么选择 LM Studio

LM Studio 的定位是一个本地 AI 模型桌面应用。它适合三类使用场景：

想在本地和模型聊天，不希望每次都写脚本
想快速试验不同开源模型
想把本地模型作为 OpenAI 风格 API 提供给自己的应用调用

相比纯命令行方案，LM Studio 的优点是上手更快。你可以在界面里搜索模型、下载模型、调整上下文长度和 GPU Offload 参数，也可以在 Developer 面板中启动本地服务。

如果后续需要自动化，也可以使用 LM Studio 自带的 lms 命令行工具。

环境要求

在 macOS 上使用 LM Studio，建议满足以下条件：

Apple Silicon 芯片，例如 M1、M2、M3 或 M4
macOS 13.4 或更新版本
如果使用 MLX 模型，建议 macOS 14.0 或更新版本
推荐 16GB 或以上统一内存
如果是 8GB 内存的 Mac，建议只尝试较小模型，并降低上下文长度

需要注意的是，LM Studio 当前主要面向 Apple Silicon Mac。Intel Mac 并不是推荐环境。

第一步：安装 LM Studio

打开 LM Studio 官网下载安装包：

https://lmstudio.ai/

下载 macOS 版本后，像安装普通 Mac 应用一样把它拖到 Applications 目录。第一次启动时，系统可能会提示安全确认，按提示允许即可。

安装完成后，打开 LM Studio。你会看到类似“聊天”“模型搜索”“本地服务”“开发者工具”等入口。第一次使用时不需要急着改设置，先确认应用能正常打开即可。

第二步：下载 Gemma 4 模型

在 LM Studio 中下载模型有两种常见方式。

第一种是在 LM Studio 内搜索模型。打开模型搜索页面，输入：

gemma 4

然后根据机器配置选择合适的版本。一般来说，模型越大，效果越好，但内存占用越高、速度也可能越慢。量化等级也会影响体积和效果，常见选择包括 Q4、Q5、Q6、Q8 等。

如果你只是想先跑通流程，可以优先选择较小或中等大小的指令微调版本，例如带有 it 或 instruct 标识的模型。

第二种方式是从 Hugging Face 或 Google 相关模型页面打开 LM Studio。如果模型页面提供 “Use this model” 或 LM Studio 入口，可以直接交给 LM Studio 下载和导入。

如何选择模型版本

选择模型时，可以参考下面的经验：

Mac 配置	推荐尝试
8GB 内存	小模型、低量化、较短上下文
16GB 内存	E4B、12B 的量化版本
24GB 到 32GB 内存	12B 或 26B 的中等量化版本
64GB 及以上内存	可以尝试 26B、31B 等更大模型

如果不确定，从较小模型开始是最稳妥的。先验证下载、加载、对话和 API 调用流程，再逐步换成更大的模型。

第三步：在 LM Studio 中加载模型

模型下载完成后，进入聊天页面或 Developer 页面，选择刚刚下载的 Gemma 4 模型并加载。

LM Studio 通常会根据当前 Mac 的硬件自动选择较合适的加载参数。你也可以手动调整：

Context Length：上下文长度。越大越能处理长文本，但越吃内存。
GPU Offload：尽量让计算走 Apple Silicon 的 GPU/Metal，加快推理速度。
Temperature：控制回答的随机性。写作可以稍高，代码和事实问答可以稍低。

加载成功后，在聊天框输入一句测试问题：

请用三句话介绍你自己。

如果模型能正常回复，就说明本地聊天已经跑通。

第四步：启动本地 API Server

LM Studio 不只是聊天工具，也可以把本地模型作为 API 服务暴露出来，供脚本、应用或开发工具调用。

在 LM Studio 图形界面中，可以进入 Developer 页面，加载模型后启动本地服务。默认端口通常是：

启动后，你可以通过本地地址访问模型服务：

http://localhost:1234

如果安装了 LM Studio 的命令行工具，也可以使用 lms 启动服务：

lms server start --port 1234

查看本地已下载模型：

lms ls

加载某个模型：

lms load <model_key>

这里的 <model_key> 可以通过 lms ls 查看。

第五步：通过 API 调用 Gemma 4

启动本地服务后，可以用 HTTP 请求调用模型。不同版本的 LM Studio API 可能会有细节差异，建议以 LM Studio Developer 页面显示的接口为准。

一个典型调用方式如下：

curl http://localhost:1234/api/v1/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "your-loaded-gemma4-model",
    "input": "请写一段关于本地大模型部署的简介。"
  }'

如果你使用的是 OpenAI 兼容接口，也可能会用到类似下面的格式：

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "your-loaded-gemma4-model",
    "messages": [
      {
        "role": "user",
        "content": "请用中文解释 Gemma 4 适合哪些本地应用场景。"
      }
    ],
    "temperature": 0.7
  }'

实际使用时，把 model 替换成 LM Studio 中显示的已加载模型名称即可。

常见应用场景

本地部署 Gemma 4 后，可以用于很多轻量但实用的任务：

本地知识库问答
Markdown 博文草稿生成
代码解释和代码片段生成
日志分析和错误排查
英文技术文档摘要
私有文本的离线处理
搭建本地 Agent 或自动化助手

本地模型最大的优点是数据不需要离开自己的机器。对于私人笔记、内部文档、实验性代码和离线环境，这一点很有价值。

性能优化建议

如果模型运行比较慢，可以尝试以下优化：

换用更小的模型版本
使用更低位宽的量化模型，例如 Q4 或 Q5
降低 Context Length
关闭其他占用大量内存的软件
在 LM Studio 中提高 GPU Offload
优先尝试 MLX 格式模型

如果出现模型加载失败，通常可以从几个方向排查：

当前 LM Studio 版本是否太旧
模型格式是否被当前后端支持
Mac 内存是否不足
上下文长度是否设置过大
是否下载了损坏或不完整的模型文件

Gemma 4 属于较新的模型系列，如果遇到大模型版本加载失败，可以先升级 LM Studio，再尝试较小版本或不同格式的模型。

本地部署的优缺点

本地部署的优点很明显：

数据留在本机
没有云端 API 调用成本
离线也能使用
可以自由试验模型参数
适合和本地工具链集成

但它也有局限：

受限于本机内存和算力
大模型推理速度可能不如云端
模型下载体积较大
需要自己处理版本兼容问题
效果取决于模型大小、量化质量和提示词设计

因此，本地 Gemma 4 更适合作为开发、学习、草稿、私有数据处理和轻量 Agent 的基础。如果要做高并发生产服务，仍然需要更完整的部署和监控方案。

小结

使用 LM Studio 在 macOS 上部署 Gemma 4，整体流程并不复杂：

安装 LM Studio
下载合适的 Gemma 4 模型
在界面中加载模型并测试对话
启动本地 API Server
通过 HTTP 或本地应用调用模型

对于 Mac 用户来说，这是一条非常适合入门本地大模型的路径。LM Studio 降低了部署门槛，Gemma 4 提供了不错的模型能力，两者结合后，可以很快搭建出一个可聊天、可编程调用、可离线运行的本地 AI 环境。

如果你只是想体验本地 LLM，从小模型开始；如果你想做工具集成，再打开 API Server；如果你想长期使用，再根据自己的 Mac 配置慢慢调整模型大小、量化版本和上下文长度。

本地大模型的乐趣就在这里：它不一定一步到位，但每调通一环，你的 Mac 就多了一点可以自己思考和协作的能力。

😄豐De个人博客

Lmfeng Blog