如何评价Kimi 发布的2.8万亿级开源模型 K3？
组里有个做GPU内核优化的同事，上周跟我说了一件挺吓人的事。他把Kimi K3扔进沙箱，给了24小时，让它自己profile、重写、benchmark四组CUDA kernel。结果K3在AttnRes和KDA两个任务上跑赢了他们组优化了两周的版本。我一开始不信，上Hugging Face翻了技术报告。官方数据更夸张：K3能在48小时内从零设计一颗芯片，Nangate 45nm工艺，4平方毫米，1.46M标准单元，跑通时序验证，模拟吞吐8700 tokens/s。一颗模型给自己设计的芯片。更离谱的是它还自己写了个叫MiniTriton的编译器，从IR层到PTX代码生成全链路打通，在部分benchmark上比Triton还快。这是什么概念？不是它「会写代码」，是它能理解硬件、编译器、深度学习栈的完整体系，然后独立完成一个工程闭环。K3在开发后期，团队自己的kernel优化工作大部分都是它做的。我承认，看完这些数据我有点焦虑。不是焦虑被替代，是焦虑自己对底层技术的理解还停留在应用层。K3这种级别的Agent能力，已经不是辅助人类了，它在独立完成工程闭环。
发布于 福建
分享
评论
赞
未登录
友善发言
评论
加载中
