Sarah Sachs 的 Token Town 讲的是模型选择权

Sarah Sachs 在 Notion 的分享叫 “Token Town”。标题看起来轻松,实际讲的是 AI 产品团队怎么面对越来越复杂的模型市场,以及普通公司如何用得起这套能力。

原视频:https://www.youtube.com/watch?v=htM02KMNZnk

Fortune 5 million 的问题

她提到一个很好的说法:Fortune 500 有能力请顾问、建专家团队、和供应商谈条件,但更多公司是 Fortune 5 million。它们没有议价能力,也没有足够的人每天研究模型取舍。

这句话很现实。今天模型市场变化太快:上下文窗口、价格、速度、tool use、reasoning、open weight、enterprise privacy,每个维度都在变。大公司可以建立团队跟踪,小公司和普通用户没有这个能力。

Notion AI 要解决的,就是把这套复杂性藏在产品后面。用户不应该每天研究哪个模型更便宜、哪个模型更会写、哪个模型又改了接口。产品应该替用户做模型选择、工具调用、prompt 组织和结果评估。

模型路由进入产品设计

Token Town 不是单纯的后端模型路由。它更像产品体验问题。用户只看到 Notion 的一个功能,但背后可能有多个模型、多个工具、多个 prompt、多个 eval。

这和 Tereza 的 software factory 呼应。工厂里不同任务应该用不同机器。AI 产品里,不同用户意图也应该路由到不同模型和工具。写摘要、查数据库、生成表格、改文档、执行自动化,背后的最佳模型可能完全不同。

Sarah 还提到 feedback loop:thumbs up / thumbs down、真实 completion 上的 automated evals、工具命中情况检查。Notion 不是只靠一次 prompt 调好,而是在真实使用里持续改进。

AI-native 产品的竞争点

我觉得这场对软件工厂有一个提醒:模型路由不是后端工程师的小优化,它会进入产品设计。未来 AI-native 产品的竞争,不只是模型能力,而是谁能把复杂模型市场藏在一个稳定体验后面。

用户不关心你调用了哪个模型。他关心结果是否可靠、是否快、是否符合工作语境、是否能继续编辑。如果产品把模型选择暴露得太多,用户会累。如果完全不解释,用户又无法建立信任。

所以好的 AI 产品要做两件相反的事:把复杂性藏起来,同时把关键证据露出来。用户不需要知道每次路由细节,但需要知道结果从哪里来、用了哪些工具、能不能撤回或验证。

Token Town 的价值就在这里。它不是在炫模型,而是在讨论模型市场成熟后,产品层如何替用户承接复杂性。

Notion 讲的是产品层模型路由

Sarah Sachs 的 Token Town 不是单纯讲模型选型,而是讲一个产品如何在复杂模型市场里保持简单体验。用户不想知道每次该选哪个模型、哪个便宜、哪个更适合摘要、哪个更适合生成表格。用户只想完成任务。

所以 Notion 要在后台处理模型路由。它要根据任务类型、成本、速度、质量和用户反馈选择合适模型。这和软件工厂里的模型路由完全同构,只是场景从开发流程换成了知识工作产品。

feedback loop 是产品能力

Sarah 提到 thumbs up / thumbs down、真实 completion 上的 automated evals、工具命中检查。这些都是产品里的反馈 loop。一个 AI 产品如果没有反馈系统,就只能靠上线前测试和用户抱怨。

真正的 AI-native 产品会持续学习:哪些任务用户满意,哪些输出被改掉,哪个工具没命中,哪个模型在某类任务上不稳定。反馈越细,路由越准,产品体验越稳。

把复杂性藏起来,不等于没有复杂性

Notion 的用户体验应该简单,但后台一定复杂。模型市场越丰富,产品越需要承担选择成本。普通用户不应该每天研究模型 leaderboard,产品要替他们把这种复杂性吸收掉。

这对所有 AI 产品都有启发。不要把模型选择当成高级设置丢给用户。更好的方式是让系统理解任务,并在后台做合理选择,同时保留必要的透明度和控制权。Token Town 的价值,就在于把模型路由变成产品设计问题。

来源与说明

本文基于 AI Engineer World’s Fair 2026 Day 1 主舞台视频转录、官方日程信息,以及本地 AI engineering 知识库整理。文章不是逐字稿,而是按单场分享的主线、上下文和工程启发重写。

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册