Introducing Gemma 3 270M: The compact model for hyper-efficient AI

https://developers.googleblog.com/en/introducing-gemma-3-270m/

https://zhuanlan.zhihu.com/p/1985797288883405826

https://zhuanlan.zhihu.com/p/1939694335269507103

https://github.com/thomas-chong/fine-tuning-gemma-with-unsloth/tree/main

🚀 谷歌推出 Gemma 3 270M：超高效 AI 模型

2025年8月14日，谷歌在其开发者博客上正式发布了 Gemma 3 270M。这是一款专为特定任务微调而设计的紧凑型 AI 模型，旨在提供强大的指令遵循能力和极高的能效。

🌟 核心亮点

• 小巧而强大：模型仅包含 2.7亿 参数，但具备出色的指令遵循和文本结构化能力。它拥有 25.6 万的大词表，能更好地处理特定和罕见词汇，是进行特定领域和语言微调的坚实基础。
• 极致能效：能效表现突出。在 Pixel 9 Pro 芯片上的内部测试显示，INT4 量化模型进行 25 次对话仅消耗 0.75% 的电量，是 Gemma 系列中能效最高的模型。
• 生产就绪：提供 量化感知训练 (QAT) 的检查点，支持以 INT4 精度运行，在性能损失极小的情况下，非常适合在资源受限的设备上部署。

🛠️ 适用场景

Gemma 3 270M 遵循“合适的工具做合适的事”的理念，特别适合以下场景：

• 高容量、定义明确的任务：如情感分析、实体提取、文本分类、数据提取和合规性检查等。
• 对成本和延迟敏感的应用：可大幅降低推理成本，实现快速响应，甚至可在轻量级设备或本地运行。
• 需要快速迭代和部署：模型体积小，微调实验速度快，可在数小时内找到最佳配置。
• 注重用户隐私：支持完全在设备端运行，无需将敏感数据发送到云端。
• 构建专用模型集群：可以低成本构建和部署多个针对不同任务优化的专用小模型。

🚀 快速上手

开发者可以通过多种途径获取和使用 Gemma 3 270M：

1. 下载模型：可从 Hugging Face、Ollama、Kaggle 等平台下载预训练和指令微调版本。
2. 尝试模型：支持在 Vertex AI 以及 llama.cpp、Gemma.cpp、LiteRT 等多种推理工具上运行。
3. 开始微调：可使用 Hugging Face、UnSloth、JAX 等工具进行微调。
4. 部署方案：微调后的模型可部署在本地环境或 Google Cloud Run 等平台上。