Morph(YC S23批次)致力于构建支持最快开源模型的底层推理基础设施,其技术栈横跨内核开发、模型服务、路由算法、自动扩缩容及容量管理等多个层级。目前,该公司正在招聘一位成员级技术工程师(性能工程师),旨在通过技术手段使整个系统变得更快、更廉价且更可靠。该职位极具挑战性,要求候选人找出理论硬件性能与生产环境性能之间的差距,能够从API层一直追踪到单独的内核以定位延迟和吞吐量问题。日常工作将包括优化批处理、调度策略、路由机制、模型量化及分布式执行,同时需构建基准测试与可观测性工具,确保在追求极致性能时模型的质量与正确性不受损。Morph寻找的是在推理栈多个部分均处于前1%水平的顶尖人才,要求深入理解GPU性能、内存带宽、集合通信及推理服务,并具备将分析数据转化为工程决策的能力。虽然团队规模较小,但拥有巨大的计算资源,应聘者将与创始人直接合作,解决决定前沿模型服务效率的核心问题。
事件分析
💡 核心观点:AI基建竞争进入深水区,全栈式榨干GPU硬件极限已成为开源模型降低成本、对抗闭源API的关键生存技能。
原文链接:Hacker News

评论前必须登录!
立即登录 注册