跳到主要内容

Gemma3 270M IT INT4

Google 推出的紧凑型 2.7 亿参数语言模型，量化为 INT4，适用于文本分类和数据提取任务，并支持快速微调。

HuggingFaceHuggingFace

支持的处理器

  • SL2619

Gemma3 270M IT INT4

模型概述​

Gemma 3 270M 是 Google 推出的高度紧凑型 2.7 亿参数模型，专为极致效率而设计。它专为文本分类和数据提取等明确定义的任务而打造，相较于大型模型提供更具性价比的替代方案。其轻量级架构尤其适合快速微调。

这是量化为 INT4 的指令微调模型，已针对 Synaptics Astra® SL2610 系列处理器 Torq NPU 进行优化。

模型特性​

  • 模型类型： 大语言模型
  • 输入： 文本
  • 输出： 文本
  • 量化： INT4

部署​

编译后的模型文件可在 Hugging Face 上下载：Synaptics/gemma-3-270-int4-it-torq。

使用教程​

使用示例请参阅 Torq Examples / gemma3。 具体操作说明请查看 README。

许可证​

源模型和用于设备端部署的编译模型均依据 Gemma 使用条款 授权。

了解更多​

相关模型

大语言模型

Gemma3 270M IT

Google 推出的轻量级 2.7 亿参数多模态语言模型，专为文本分类和数据提取等任务优化，具备快速微调能力。