Google Gemma 4 Mini：开源本地运行 AI 模型评测

来源：群聊分享（菩提树）
整理时间：2026-04-23
标签：#Google #Gemma-4 #开源AI #本地运行 #端侧AI #多模态 #AI编程 #Apache-2.0

一、项目概览

一句话： 把 Gemini 级 AI 能力，塞进手机和低配电脑里，完全免费开源。

二、核心亮点

2.1 极致轻量化

技术： 稀疏激活 + 分层量化技术，推理时只激活必要参数

2.2 真·开源商用

2.3 多模态能力

2.4 超长上下文

• 128K token ≈ 9.6 万字
• 可直接丢入完整项目代码 / 长文档
• 全局理解、跨文件分析、批量修改无压力

2.5 极速部署

三、对比同级模型

四、适用场景

4.1 AI 编程助手（最香场景）

替代方案对比：

4.2 移动端 / 边缘设备 AI

4.3 个人 / 小企业私有化部署

五、5 分钟快速上手

5.1 方法一：Ollama（推荐）

# 1. 安装 Ollama（支持 macOS/Linux/Windows）
# macOS: brew install ollama
# Linux: curl -fsSL https://ollama.com/install.sh | sh
# Windows: 下载安装包

# 2. 拉取模型
ollama run gemma4:2b

# 3. 直接对话
>>> 你好，请帮我写一段 Python 代码

5.2 方法二：Hugging Face

# 使用 transformers 加载
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("google/gemma4-2b-it")
tokenizer = AutoTokenizer.from_pretrained("google/gemma4-2b-it")

# 推理
inputs = tokenizer("解释一下量子计算:", return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0]))

5.3 方法三：LM Studio（桌面客户端）

1. 下载 LM Studio：https://lmstudio.ai/
2. 搜索并下载 gemma4:2b
3. 本地启动服务器
4. 通过 API 调用

5.4 方法四：Docker

# 拉取镜像
docker pull ghcr.io/google/gemma4:2b

# 运行容器
docker run -it --rm \
  -v ./data:/data \
  ghcr.io/google/gemma4:2b

# 推理
python -m gemma4.inference --model /data/gemma4-2b

六、编程能力实测

6.1 HumanEval 评测

结论： 小模型中编程能力出色，媲美中大型模型

6.2 代码生成示例

输入：

# 用 Python 实现一个快速排序算法

Gemma 4 Mini 输出：

def quicksort(arr):
    if len(arr) <= 1:
        return arr
    pivot = arr[len(arr) // 2]
    left = [x for x in arr if x < pivot]
    middle = [x for x in arr if x == pivot]
    right = [x for x in arr if x > pivot]
    return quicksort(left) + middle + quicksort(right)

# 测试
print(quicksort([3, 6, 8, 10, 1, 2, 1]))
# 输出: [1, 1, 2, 3, 6, 8, 10]

七、隐私与安全

7.1 数据不出本地

7.2 适用行业

八、性能优化建议

8.1 硬件要求

8.2 加速技巧

九、总结

9.1 一句话评价

Gemma 4 Mini = 2GB 内存 + 128K 上下文 + 多模态 + Apache 2.0 开源 + 免费商用，AI 平民化的里程碑。

9.2 适合人群

9.3 局限性

十、资源链接

本文由 AI 辅助整理，供技术学习参考。