福大大架构师每日一题
08-07·AI领域创作者
AI创作者AMA知无不言
ollama v0.32.6 正式发布:Apple GPU 推理加速、流式接口对齐、云端模型调用优化与 TUI 体验修复本次更新涉及以下内容:• Apple GPU 上的模型推理速度优化• MLX 引擎自动使用模型的 MTP head 进行推测解码• /v1/chat/completions 流式输出格式对齐 OpenAI wire format• 截断响应的 finish_reason 返回值调整• 云端模型标签调用方式优化• TUI 中表格渲染、文件补全、提示词滚动等问题修复• 实验性图像生成功能暂时移除• MLX 与 llama.cpp 引擎更新从这些内容可以看出,v0.32.6 的重点主要集中在推理链路、接口返回行为、命令行交互细节和引擎维护上。
发布于 北京
1
评论
1
未登录
友善发言
image-upload
评论
加载中