微学AI
07-17·AI领域创作者
KimiK3比旧版读文件更省心吗?
Kimi-K3
2.8万亿参数读文件:够强但不够快
Kimi K3的参数量到2.8万亿了,MoE架构896个专家里每次激活16个,理论计算量其实控制得不错。但真用它读大文件的时候,速度是个绕不过去的问题。我传了一份60页的行业研究报告,让它做结构化摘要加关键数据提取,回复等了将近两分钟。社区里有人测到它的吞吐大概26到28 token每秒,比Opus还慢一截,推测是speculative decoding还没开。强是真强。那份报告里有几处数据互相矛盾的地方,一个说市场份额34.5%,另一个表格写36.2%,K3自己发现了这个矛盾并在摘要里标了出来,还给出了它的判断依据。这种细致程度我在K2.6上没见过。Artificial Analysis的Intelligence Index给它打了57分,排189个模型里的第4,整体落后Fable 5和GPT-5.6 Sol,但超过Opus 4.8。官方说比K2扩展效率提升了2.5倍,同样算力能转出更强的能力,这个我相信,因为K3读文件时的理解深度和跨文档关联能力确实是跨代提升。我只是希望后续能把推理速度优化一下,毕竟读文件这件事,等两分钟跟等二十秒,体感是完全不同的。
发布于 福建
分享
评论
未登录
友善发言
image-upload
评论
加载中