脉脉

Tammy

08-03 · 前北京并行科技股份有限公司

张小珺对谈游凯超与vLLM创业故事

1️⃣这期播客深入访谈了Inferact创始人游凯超，讲述了他如何将伯克利开源项目vLLM发展为估值1.5亿美元的创业公司，并探讨了开源情怀与商业化的平衡。2️⃣重点讨论了AI领域模型与基础设施协同设计（Co-design）的必要性，以及vLLM在推理优化中的技术突破。3️⃣游凯超还分享了对未来AI技术趋势的预测，强调开源生态与硬件适配将定义下一代AI竞争力。#大模型推理#推理优化#推理引擎