打破AI“黑盒”魔咒：旧金山初创Goodfire推出首个机械可解释性工具Silico

旧金山初创公司 Goodfire 近日发布了名为 Silico 的全新工具，旨在通过“机械可解释性”技术解决大型语言模型（LLM）难以调试的问题。该工具允许研究人员在训练过程中窥视模型内部，并调整决定其行为的参数，从而实现对技术构建过程的精细化控制。Goodfire 致力于将构建 AI 模型从不可预测的“炼金术”转变为严谨的“科学”工程，以解决当前主流 LLM 因内部机制不透明而导致缺陷难修的痛点。作为与 Anthropic、OpenAI 并驾齐驱探索该技术的厂商，Goodfire 正试图让 AI 开发变得像传统软件工程一样可调试。