OpenUI 团队在处理 LLM 输出的解析器时发现,Rust 编译为 WASM 的方案反而成为了性能瓶颈。测试表明,JS 与 WASM 之间的数据序列化、内存拷贝以及反序列化等“边界税”开销,远超 Rust 本身的计算优势。团队将解析器完全重写为 TypeScript,消除了跨语言调用的成本,并引入语句级增量缓存将流式解析复杂度从 $O(N^2)$ 降至 $O(N)$。这一改动使得单次调用速度提升 2.2-4.6 倍,证明了在涉及频繁互操作的场景下,原生 JS 配合算法优化往往优于 WASM 方案。
原文链接:Hacker News

IT资源栈
评论前必须登录!
立即登录 注册