视频简介
本期嘉宾是游凯超，创业公司 Inferact 联合创始人兼首席科学家。这家公司很特殊——它从伯克利一个校园开源项目 vLLM 演化而来。社区维护者们用了将近 3 年时间，把它从一篇算法论文变成了一个开源社区，又变成了一家公司的正常运营。这些维护者放弃了大量的个人诱惑，坚持着他们所相信的开源精神。今年初，Inferact 获得了 1.5 亿美元的种子轮融资。访谈讨论了当一个寄托着社区情怀的开源项目变成商业化组织之后，所面临的抉择、转变与思考；也聊了在 AI Infra、模型结构甚至 Harness Engineering 都要联合设计的时代背景下，多方联合设计应该怎么做。
本期看点
- 从算法论文到机器学习系统的演化之路
- vLLM 开源社区的坚持：「如果 vLLM 失败，我们会后悔一辈子」
- 从社区到公司：开源项目的商业化抉择与转变
- AI Infra 与模型的 Co-design 联合设计
- 1.5 亿美元种子轮融资背后的故事