深度解析 LLM 加速竞赛：OpenAI 的“硬核芯片”与 Anthropic 的“算法特权”

本文深入对比了 Anthropic 和 OpenAI 近期推出的“极速模式”背后的技术实现差异。Anthropic 的加速策略本质上是通过降低批量大小，让用户以六倍的高价换取“零等待”的独占算力，从而保证模型原有的智能水平。相比之下，OpenAI 采用了更硬核的路线，通过与 Cerebras 合作，利用其巨型晶圆级芯片内置的超大 SRAM，将模型完整载入内存，实现了超过 15 倍的推理速度提升。然而，受限于 44GB 的内存容量，OpenAI 只能运行经过蒸馏的轻量级模型，导致能力有所下降。作者指出，OpenAI 的方案代表了底层算力架构的重大突破，而 Anthropic 则是巧妙的商业策略调整。