Gemma 3 QAT 模型在约 5000 步训练中，将困惑度下降减少了 54%。 Ollama、LM Studio 和 llama.cpp 等主流平台已集成该模型，用户可通过 Hugging Face 和 Kaggle 获取官方 int4 和 Q4_0 模型，轻松在 Apple Silicon 或 CPU 上运行。此外，Gemmaverse 社区提供了更多量化选项，满足不同需求。