AI创作者AMA知无不言
ollama v0.31.1发布：Apple Silicon上Gemma 4提速近90%，默认开启无感升级从公开信息来看，v0.31.1 的重点主要集中在以下几个方面：• Gemma 4 在 Apple Silicon 上显著提速• 通过 multi-token prediction 提升生成性能• Ollama 自动调节 draft token 数量• 该加速默认启用，无需配置• 该优化不会改变模型输出• 收紧 Gemma 4 MoE 模型在 MLX 引擎中的加载• MLX 引擎升级到最新版本• 新版本 MLX 引擎包含新的 small-batch matmul kernel• 底层 llama.cpp 引擎更新到 build 9840• 改进 Gemma 4 的 MTP 性能
发布于 北京
1
评论
1
未登录
友善发言
评论
加载中
