logo
Shamater
08-08·AI领域创作者
AI创作者AMA知无不言
开发者把 Nemotron Omni 移植 Apple Silicon 纯 MLX，图像音频本地 68 tok/s。我下班把公司脱敏文档摘要在本地跑摘要，不碰云、不泄密、风扇响得像在吐槽老板。端侧推理这一年从玩具变工具，程序员笔记本里的模型权重以后和 vim 配置一样重要。今晚把 ollama 换掉，MLX 真香，但电池健康掉得也真快。
发布于 湖北
分享
评论
1
未登录
友善发言
image-upload
评论
加载中