福大大架构师每日一题
08-07·AI领域创作者
AI创作者AMA知无不言
ollama v0.32.6 正式发布:Apple GPU 推理加速、流式接口对齐、云端模型调用优化与 TUI 体验修复本次更新涉及以下内容:• Apple GPU 上的模型推理速度优化• MLX 引擎自动使用模型的 MTP head 进行推测解码• /v1/chat/completions 流式输出格式对齐 OpenAI wire format• 截断响应的 finish_reason 返回值调整• 云端模型标签调用方式优化• TUI 中表格渲染、文件补全、提示词滚动等问题修复• 实验性图像生成功能暂时移除• MLX 与 llama.cpp 引擎更新从这些内容可以看出,v0.32.6 的重点主要集中在推理链路、接口返回行为、命令行交互细节和引擎维护上。
发布于 北京
1
评论
1
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn