Fireworks AI 创始人林峤：Token 成本降 10 倍带来 100 倍用量

Fireworks AI CEO Lin Qiao：token 成本下降 10 倍，将驱动使用量增长 100 倍 July 20, 2026 · 23 min read · View source ↗ Youtube AI Claude Hardware Fireworks AI 的 CEO 每天处理 40 万亿个 token，她认为那些"算力开支泡沫论"的人把账算反了。这是她在 Harry Stebbings 的 20VC 节目上的观点，她真正要推动的，是谁来拥有智能这件事。 如果你没有那一个小时，这里是精简版： Fireworks 每天处理超过 40 万亿个 token，其中大部分来自定制化模型，而非现成模型，Qiao 预计到明年年底，这个规模会增长 20 到 100 倍——她称之为 S 曲线爆炸的早期阶段。 她认为 token 成本大约在三年内下降 10 倍，而成本下降会把使用量拉升大约 100 倍。成本之所以还没降下来，是因为能源、芯片和制造环节的供应链短缺，而不是技术本身存在天花板。 30% 到 40% 的毛利率，相对于 SaaS 公司 80% 的毛利率，是超高速增长阶段的一种选择，而不是新常态。Fireworks 不会进入应用层，而向下进入数据中心则是一个时机问题。 营收接近 8 亿美元的 ARR，她预计到年底至少翻倍，而团队只有 200 人。 OpenAI 和 Anthropic 这类前沿实验室正在修建一条"分发智能的输电线"，这是基础性的、有价值的，但在她的判断里，它们不会取代每家公司在其之上构建的专用智能。她不希望看到由一个公司拥有智能的世界。 开放模型和闭源模型都已经跨过了质量门槛。开放权重带来控制权，调优起来容易得多，而且一家公司少量的独特数据就能让开放模型"爬山"（hill-climb），在其自身的任务上超越通用模型。 去年是编程之年，而今年是协同工作之年（co-work），工作类型要多样化得多，覆盖法律、金融、客服、招聘、销售和医疗。 硬件过去按六年折旧。如今一个厂商一年发布三代芯片，模型每周都在迭代，所以模型演进的速度超过了硬件折旧的速度，这重写了"自建还是购买"的算账逻辑。 Fireworks AI 处在 AI 技术栈的中间层：在模型实验室之下，在 NVIDIA 和其他芯片厂商之上。这个位置通常会招来"商品化中转商"的指责。联合创始人兼 CEO Lin Qiao 花了一个小时向 Harry Stebbings 论证相反的观点。她的论述从"智能究竟从哪里来"开始，以一个多数基础设施创始人不愿说出口的关于集中的警告收尾。 把被锁住的数据变成智能的那一层 Qiao 把智能视为数据的衍生物，然后指出数据在哪里。前沿模型用公开互联网加上标注数据进行训练，而在她看来，那只是现有数据的一小角。如果智能是数据的衍生物，那么世界上大部分数据根本没有被用来训练通用智能模型。公开互联网相对于全世界的数据总量是很小的，而总量中的大部分是锁在企业内部的私有数据，这些企业永远不会分享，因为那是专有 IP。她的结论由此而来：世界上大部分数据从未被激活成智能，而激活它们，就是这门生意。 > "大多数数据并没有被激活以产出任何智能，而我们相信的机会就在于激活这些数据。我们相信，智能的前沿，未来其实是私有智能，或者说专用智能。" > > Lin Qiao > > ▶ Watch · 00:05:22 Stebbings 提出了那个显而易见的反对意见：Anthropic 的企业业务，Claude 及其周边，瞄准的正是这块私有数据的蛋糕。Qiao 的回答把两者区分开。一家完全相信 AGI 的公司相信，终有一天一个模型能以最优方式解决所有问题，这意味着专业化在定义上就变得不必要。Fireworks 则是押注在相反的方向。 为什么她不相信"一个模型统御一切" Qiao 对"单一模型未来"的反对，与其说是技术性的，不如说是文明层面的： > "AGI 的定义是：有这样一个模型，能以最优方式解决所有问题。在我看来，那意味着你不需要专业化。如果我们的未来世界将由一个标准来统治，由一家公司决定品味，那我们就把自己变成了一支机器人军队。这让我感到非常压抑。" > > Lin Qiao > > ▶ Watch · 00:06:02 她用一个与 Jensen Huang 的对话来支撑这个观点——这段对话录制于他的 GTC 主题演讲之后，塑造了她的世界观。据她转述，Jensen 的版本是：不存在所谓的"通用型专业公司"，因为每家公司都建立在对"如何做事"的某种特殊信念之上，这种信念给了它存在的理由，而这种信念是坐在外面的另一家公司无法学习、也无法共享的。节目后段，她直接点明了这种恐惧，而这几乎是整场访谈最接近"主旨陈述"的一句话。 > "我不希望看到的是：只有一家公司拥有智能。有一种惠及所有人的通用智能，还有一种真正推动我们在历史中前进的专用智能。我不希望后者因为只有一家公司能做而消亡。" > > Lin Qiao > > ▶ Watch · 00:29:40 我把它解读为披着价值观外衣的产品策略，两者相互强化。如果持续优势存在于专业化，那么 Fireworks 出售专业化的工具，就是在市场的这一半（更可防守的一半）出售镐头。 输电线，是经济仍然要建在其上的基础设施 如果 AGI 并非必然，为什么这个领域里最有公信力的创始人——Dario Amodei、Sam Altman、Larry Page、Sergey Brin——都把它当成必然来谈？Qiao 并没有否定他们。她重新定义了他们在构建的东西。 > "我认为他们构建的东西很棒，因为他们本质上是在修建一条输电线，把一个真正强大的智能源分发出去，让其他人都能在其上构建。但问题是，这条输电线会取代我们所做的一切吗？我不这么认为。" > > Lin Qiao > > ▶ Watch · 00:10:05 Stebbings 把它磨利成一个投资者版本的问题：在一个开源正在缩小差距的世界里，输电线是好生意吗？回答这个问题花掉了剩下的一小时，而它始于 Fireworks 当初为什么要建立在开放权重之上。 开放与闭源，都已经跨过质量线 创立之初，Fireworks 团队就"自己训练模型还是基于开放模型构建"有过争论，当时的开放模型还处于婴儿期。他们的 PyTorch 背景做出了决定，而这个理由经得起时间检验。开放性给用户带来控制权，因为模型一旦发布，权重就完全属于你了；而过去两年开放模型和闭源模型都跨过了质量门槛，这个选择得到了回报。论点的下半部分改变的是单位经济学：一个开放模型不仅可控，而且用极少的数据就能调教。 > "开放模型跨过阈值后，调优起来要容易得多。用一家特定公司拥有的少量独特数据，我们就可以朝着你的评测指标'爬山'，而爬山的结果往往是：你用你的数据解决了你的独特问题，效果比通用模型更好。" > > Lin Qiao > > ▶ Watch · 00:13:56 Fireworks 自己也身体力行。Qiao 说公司在内部用开放模型做招聘、候选人寻源、部分财务流程，以及编程和调试，部分原因就是它自己就很在意成本。 规模化到破产 在 Qiao 看来，关于"高估"的争论，其实是在问：产品市场契合是否仍然等同于一门持久的生意。在 SaaS 时代，两者确实是等价的。算力是商品，难的是找到需求。如今这两者已经脱钩了。 > "在 SaaS 时代，产品市场契合和持久生意几乎是等价的。而如今它们是两个独立的概念。客户愿意付钱，但他们无法规模化，因为一旦规模化，他们可能规模化成破产。你听说过'规模化到破产'（scaling to bankruptcy）吗？" > > Lin Qiao > > ▶ Watch · 00:15:10 这个陷阱对现有巨头比对创业公司更糟，因为巨头已经拥有他们必须去服务的流量。一旦巨头推出 AI 功能，它一次性触达整个客户群，而 CFO 的成本预测根本无法为这笔账单找到理由。Qiao 指出的替代方案是：掌控一个开放权重模型，推出你自己的版本。 由此引申出的判断是：前沿实验室与其说是被高估，不如说是瞄准了比头条所暗示的更窄的一片需求，因为企业工作流的很大一部分可以由调优后的开放模型以更低成本来服务。这正是 Fireworks 要切入的楔子。 给每一个模型加上你自己的护栏 Stebbings 提出的最当下的风险是国家安全：如今 OpenRouter 上顶尖的开放模型来自中国，用他的话说，质量令人难以置信。Qiao 没有回避这个顾虑，但也没有把它当成中国模型独有的问题。 > "无论开放还是闭源，你都应该给它套上你自己的护栏。模型提供商会把他们自己的判断、自己的品味注入模型训练过程。你无法保证那与你的判断一致。" > > Lin Qiao > > ▶ Watch · 00:20:06 接着她给出了那则塑造整场访谈形态的预测，并在做出之前承认它可能听起来吓人。 > "我真的相信，未来不会是少数几个 AGI 模型统治世界。我真的相信未来会是——这可能有点吓人，但我认为这是真的——数以百万计的专用模型，每个用例一个。" > > Lin Qiao > > ▶ Watch · 00:20:59 当被问到中国自己是否会因其模型改进太快而限制开放模型的获取时，她承认短期内会有巨大影响，然后转向开放生态的结构本身。开放生态在定义上就不是单一提供者，而在人才密度和资源方面，她相信美国有能力、也应该自己构建这个开放系统。 在工作流层拥有智能 Stebbings 用两家他很熟悉的法律 AI 公司把争论往前推：一家承诺自建模型，一家没有。一年前，"不自建模型"那一派看起来是对的，因为前沿能力涨得太快。如今它看起来是错的。Qiao 的回答从应用软件脚下的地基发生了多大位移讲起。用于编程的通用智能已经显著颠覆了软件开发：过去需要几十名非常强的产品工程师和 PM、跨多个季度甚至多年投入才能做成的东西，如今一个人就能发布成产品并在几周内快速规模化。当"实现"不再构成壁垒时，可防守性就必须转移到别处，而她把它定位在 harness（装配层）上——那个决定模型该调用哪个工具、何时调用的层。 > "有一个 harness 在整合、在决策，在编排该用哪个 AI 工具、该调用哪个工具。而这是定制的、专属的……甚至这个 harness 都需要与驱动它的模型协同训练。所以它们……正是通过在工作流层拥有'如何做这件事'的智能，把业务推向卓越。" > > Lin Qiao，关于那两家法律 AI 公司 > > ▶ Watch · 00:25:57 她对反面观点也很谨慎。法律行业保守、容错率低，企业销售周期长达数年，所以一个裸模型离可部署还差得远。这两家公司共同拥有的价值，是"法律工作到底是如何完成的"这一专有知识，而协同训练的 harness 编码的正是这个。 模型 IQ 以台阶式前进，专业化则持续复利 "模型优越性是永久转瞬即逝的——今天这家实验室领先，明天换另一家"的担忧，得到一个两层结构的回答。基础智能以离散跳跃的方式前进；而叠加其上的专业化，则移动得更快、更连续。 > "基础通用 IQ 的进步是存在的，而那些会以台阶函数的方式发生……在我看来，大约每一年或每三个季度会有一次大跃迁。但在最好的基础模型之上构建，专业化开始加速……所以我确实看到，专业化的加速会比通用智能部分快得多。" > > Lin Qiao > > ▶ Watch · 00:27:18 战略层面的解读是：一家押注"基础模型霸权"的公司，被绑定在一个一年才跳一次的变量上；而一家复利专业化的公司，每周都在变强。Qiao 把同样的逻辑延伸到路由。在她看来，前沿不是某一个模型，而是那个路由系统：把困难的判断交给昂贵的闭源模型，把子任务交给更便宜的开放模型；而她还看到了空间，去构建一个能自己学习的自动版本——一个由流经你产品的内容所塑造的、自我进化的系统。 Cursor 训练引擎内部 Fireworks 与 Cursor 的合作展示了这套策略在实战中的样子，其 CTO Dima 曾驻扎在 Cursor 数月，构建强化学习基础设施。出发点是：两家都是资本敏感的创业公司，负担不起超大规模云厂商的训练集群，所以他们必须让分布式训练在数值上成立。Cursor 的工作是大规模的强化学习后训练：训练器调整模型权重，每个新模型部署到一个 RL rollout 中，与一个合成的编程环境交互并获得奖励返回，而 Fireworks 把训练器与 rollout 解耦。回报是：同一个任务可以跑在分散的 GPU 上，而不是一个用 InfiniBand 连成一体的大集群，代价则是一个棘手的同步问题。 > "在大型超大规模云厂商里，它们把这一切放在一起跑，10,000、100,000 颗芯片通过 InfiniBand 互联。这极其昂贵。我们设计了一个完全分布式的系统，在全球五、六个数据中心区域运行，接入分散的 GPU。挑战在于我们需要同步模型权重，因为延迟决定了奖励有多'新鲜'。" > > Lin Qiao > > ▶ Watch · 00:36:10 关于集中度风险——Cursor 是一个巨型单一客户——Qiao 承认这个行业是双峰分布的，只有少数应用达到逃逸速度，并表示自"每个模型公司都围着 Cursor 转"的那一年之后，客户群已经多元化。 从编程之年到协同工作之年 这场访谈里会被广为传播的一句话，是她给 AI 采用进程标注的日历，它指向下一波需求来自哪里。 > "去年是编程之年。所有主要的编程公司都在用我们。而今年是协同工作之年（co-work）。协同工作本身就比编程多样化得多，因为既有通用型协同工作，帮你做各种各样的研究；又有许多不同类别的专用协同工作：法律、金融、客服、招聘、销售、营销、医疗。" > > Lin Qiao > > ▶ Watch · 00:38:37 其商业意义在于：编程把开支集中在少数几个赢家身上，而协同工作把它摊到一个宽广得多的应用领域上，这对一个向所有领域销售的平台来说，是更宽容的需求基础。她还提到一个早期信号：面向消费者的公司开始通过生成式 AI 重新思考传统推荐系统——这个市场她在 Meta 时近距离观察过。 每天 40 万亿 token，以及为什么"泡沫论"说反了 锚定整场讨论的数字一起到来了。Fireworks 每天处理超过 40 万亿个 token，其中大部分来自定制化模型而非现成模型，而 Qiao 预计这个规模会从一个低基数开始复利增长。 > "从 20 倍到 100 倍，任何幅度都有可能。我们正处在这条爆炸式 S 曲线的非常早期的阶段。" > > Lin Qiao，关于明年年底的 token 量 > > ▶ Watch · 00:41:22 Stebbings 说，如果需求真的增长 20 到 100 倍，那"算力开支泡沫"的想法就荒谬了，这个行业反而是在算力供给上配得不足。Qiao 同意，并把真正的约束定位在技术栈的底部，而不是顶部。 > "我认为 Jensen 有一个五层的 AI 蛋糕，从上到下是：应用、模型、基础设施、芯片、能源。我们在供应链上被下层卡住了脖子。能源、芯片、我们制造得有多快。整个行业都不是为大规模扩展而设计的。" > > Lin Qiao > > ▶ Watch · 00:41:40 我想附加的提醒是：一个营收随 token 量水涨船高的创始人，有充分理由看到"供给不足"而不是"供给过剩"。不过她的供应链论点本身是成立的，因为能源和晶圆产能是物理约束，没有任何一轮融资能在季度时间线上解决。 专业化，或者赢得"构建"的权利 既然 OpenAI、Anthropic、DeepSeek 和 Meta 都在自己设计芯片，Stebbings 问 Fireworks 是否必须变成全栈才能活下来。Qiao 的回答是一种关于专注的纪律，以及一条关于"垂直整合何时才算赢得了资格"的规则。 > "对我们来说，敏捷就是一切，而构建任何东西，我们都需要赢得资格。我们想跑遍所有地方、世界上所有可能的 AI 芯片。但当业务长得非常大之后，你就赢得了为自己巨大流量而构建的资格，而如果它能省下大约五倍的成本，那你就应该去做。" > > Lin Qiao > > ▶ Watch · 00:43:22 自然的追问是：为什么 NVIDIA 做了一个开放模型 Nemotron，却不做一个与 Fireworks 竞争的推理平台。她的解释把 NVIDIA 的模型工作解读为防守性的供应链动作，而不是圈地。在她的解读里，这个模型纯粹是一个供应链答案——因为美国没有一个本土开放模型会是个问题；而一旦像 Fireworks 这样的公司提供了专用智能平台层，这个缺口就合上了，NVIDIA 也就没有理由自己去建平台。 重塑一切的成本曲线 Stebbings 带来一个硬数字，来自新投资人 Marc Benioff：Salesforce 大约把开发者工资的 3.8% 花在 Anthropic 和 Claude Code 上，他问这个占比从今往后是升还是降。Qiao 预期单位成本会大幅下降，并解释了为什么它还没有降下来。到目前为止成本没降，是因为供应链约束；但在一个自由经济里，高价会引来竞争，竞争把成本拉下来，而便宜得多的基础设施又会引来更多的使用量。她拒绝给出单一的头条倍数，因为不是所有 token 的生产和消费成本都一样。一个每 token 便宜 2 倍的模型，如果需要 2 倍的 token 才能解决同一个任务，落地成本是一样的。但在被追问一个数字后，她还是给出了那条成为本期标题的数字，它由三个复合杠杆构成：通过精准化和调优让每任务所需 token 变少、通过平台让每 token 的经济性变好、以及在两到三年内供应链约束缓解后底层基础设施变得更便宜。 > "所以总体而言，我可以想象未来三年内成本下降 10 倍。而这 10 倍的成本下降，将驱动 100 倍的使用量。" > > Lin Qiao > > ▶ Watch · 00:50:29 她的 100 比 10 这个比值，是任何为 AI 需求做承销的人都必须定价的主张。如果成本下降 10 倍而使用量上升 100 倍，即使每 token 价格崩塌，token 上的营收仍然在增长——这正是泡沫争论一直漏掉的调和。关于为什么 Fireworks 定价高于 Together 等更便宜的对手，Qiao 论证说这不是苹果对苹果的比较，因为她的流量大部分是调优过质量的定制模型，甚至落到一个她称之为"零 KLD"的技术保证上——训练系统与推理系统之间的比特等价，让模型在两者之间迁移时不会损失任何精度。 为什么 30% 到 40% 的毛利率是刻意选择 Stebbings 点出了让 SaaS 投资人不安的那个数字：Fireworks 大概只有 30% 到 40% 的毛利率，而软件公司能拿到 80%，他问这是不是永久性的。Qiao 把它框定为特定阶段的刻意取舍。 > "它反映的是我们正处于超高速增长阶段。利润率优化是一个约束问题，而约束通常会拖慢创新。一旦我们知道这是一个我们想再放大一千倍的体系，那我们就会去把它优化到极致。" > > Lin Qiao > > ▶ Watch · 00:54:15 关于利润率的扩张从哪里来，她在技术栈顶端划了一条清晰的界线，把底部留作开放问题。进入应用层这件事，对她来说是明确排除在外的；而沿着技术栈向下进入自建数据中心，则作为一个时机问题留在台面上。 当 Stebbings 问她如何在"增长 vs 利润率"之间决策时，她的规则是：持续优化产品差异化，同时拒绝把利润率过度优化成缓慢增长。她在 Meta 建过数据中心，也看到了在那里专业化的空间，包括把重 flops 的 GPU 与重 SRAM 的加速器结合起来，分别应对运行模型的两个不同阶段。在她看来，数据中心完全不是商品化的，因为建设、电力、光纤和液冷都是深度的运营技能。 比折旧老化得更快的硬件 折旧给出了这一小时里最值得投资的一条观察，它重写了"拥有算力何时才划算"。硬件在物理上仍然能用六年。但经济寿命如今短得多，因为最适合跑在它上面的模型几周就换一代。 > "过去，硬件折旧是六年，扎扎实实的六年。而现在，一年之内，光一个厂商就有三个 SKU。我们每周都在发布一个新模型，而这个模型在下一个模型出来之前就达到价值峰值。哪个模型会跑在两年前的硬件上？会是一个两年前的模型。而那些模型还有价值吗？" > > Lin Qiao > > ▶ Watch · 01:01:13 关于是否要为了纯粹的数据中心建设速度而长期押注中国（鉴于美国的审批和法律摩擦），Qiao 承认建设速度的差距，又用一个本土的劳动力约束把问题复杂化。她见过中国一座立交桥一周内建起来，而自己家附近的一条高速公路一年了还没修完；然而在美国，连电工都严重短缺，她把这框定为全球供应链约束的又一块拼图。 具体到芯片，Qiao 解释了为什么她会考虑先拥有数据中心、再考虑拥有硅片。一颗芯片只有在工作负载稳定之后才回本，因为流片（tape-out）后的设计很难改，而 AI 工作负载目前变化还是太快。 > "每当使用量越过某个阈值，自建底层供给在经济上就说得通。但硬件一旦流片，就很难改了。所以当你的工作负载稳定下来，那才是考虑自建芯片的时候。我们现在还处在工作负载成熟度的早期阶段，不足以支撑一颗能持久的芯片。" > > Lin Qiao > > ▶ Watch · 01:09:51 当被问到人们低估的瓶颈是什么，她跳过了常见的 HBM 答案，指向了最大规模模型的系统设计。她论证说，目前仍然没有为超大模型打造的优秀系统，今天没有任何东西是为 10 万亿参数模型设计的，而填补这个缺口需要从模型、到服务平台层、一直到芯片层的协同设计（co-design），因为需要被设计的是系统，而不是任何单颗芯片。 每家公司都应该拥有自己的智能 贯穿整场对话的集中度忧虑，在国家层面落得最重。Qiao 指出，一个主要模型曾被短暂限制——大约 19 天，欧洲感受最深——那是风险变得具体的一刻。她的框架又回到了输电线。 > "如果我们把通用智能模型想成一条输电线，那每个国家都应该拥有自己的输电线。'我的输电线要被切断了'，这是一个非常可怕的时刻。这不只是一个国家是否应该拥有主权独立的问题，而是每一家公司都应该拥有自己的独立性。你不会想让任何一个人有能力切断你。" > > Lin Qiao > > ▶ Watch · 01:07:57 这个论点背后的生意增长得足够快，让它不再只是理论。Fireworks 接近 8 亿美元 ARR，团队 200 人，Qiao 预计到年底至少翻倍——这个速度被 Stebbings 称为相对于 Slack 时代"18 个月做到 1000 万美元"的基准来说前所未有。 她以 Jensen Huang 结束了领导力部分，讲了她从观察他运作中得到的教训：速度取决于离地面真相足够近，近到你能自己做判断。在她看来，领导力是判断力而非特权；在一个高速运转的空间里，一个不知道什么真正奏效、却握着决策权位的领导者，会做出错误的决定。 她对未来三年的唯一一条预测，把策略和价值观拧成一句话，而这句话是你可以拿住她、让她兑现的主张。 > "我真的看到，人们会拥有——每一家公司都会把'拥有自己的智能'当作必备项。它不是可选项。有一个软件的类比：每一家公司都构建自己的软件栈。同样地，我认为到某个时候，每一家公司都应该拥有自己的智能。" > > Lin Qiao > > ▶ Watch · 01:27:12 底线 Qiao 的论点之所以站得住，是因为每一条线索都回到同一个问题：智能究竟是集中进少数几个通用模型，还是分布进数百万个专用模型。她的 token 经济学、她对利润率的耐心、她拒绝进入应用层、以及她对"一家公司拥有智能"的警告，都是押在不同技术栈层次上的同一个赌注。 我觉得有意思的不是那个预测，而是她押在预测之下的赌注。她不是在争论利润率或 token 数量。她在争论的是：世界上有用的智能，到底是归每一个构建了具体之物的人所有，还是归那个训练出"其余人都来租用"的唯一模型的人所有。她的两种未来都从同一个起点出发——足够便宜、任何人都用得起的强大模型——它们的分歧只在：谁来做专业化，谁留住价值。如果那个专业化层真的是持续优势所在，那么很多公司即将发现，自己手里握着的是一个值得编码的信念，还是仅仅一条值得出租的工作流。她已经选定了自己站在哪一边去构建。她留作开放问题的，是市场的其余部分能否在"默认选项悄悄变成唯一选项"之前，意识到自己其实有过选择。 Tags: # X # Youtube # AI # Claude # Hardware # Marketing # Growth # Thread # Guide Related articles HOW I WENT FROM $600/MONTH TO $14. ELON'S GROK + KIMI'S BRAIN Follow & Bookmark this - I'm [@starmexxx](https://x.com/starmexxx), I track how AI tools are creating new income streams most people haven't heard of yet. This one is the entire build. Grok Bot AI Hardware Claude