AI 前沿·阅读约 1 分钟·
小模型的时代来了:一次深度 AI 调研只要几毛钱,消费级 AI 产品第一次算得过账

小模型的时代来了:一次深度 AI 调研只要几毛钱,消费级 AI 产品第一次算得过账

Segment 联创实测 gpt-5.6-luna:速度快、便宜到夸张。当推理成本从 1 美元降到 0.1 美元,AI 消费级产品的经济模型第一次成立,'快、便宜、够用'的模型需求即将起飞。

原文来源:Small Models Have Arrived — Segment 联创 Calvin French-Owen 实测小模型:当一次复杂 AI 调研的成本从 1 美元降到 0.1 美元,消费级 AI 产品的经济模型第一次成立了。

过去几周,Calvin French-Owen(Segment 联合创始人)一直在玩 gpt-5.6-luna。他的评价是:惊人地能干、快、聪明。日常使用中速度能跑到每秒 100 个 token,翻代码库、翻邮件、翻知识库都游刃有余。

最让他意外的还是成本。他试过跑一些相当复杂的研究线程,结果账单很难做高——哪怕让模型在上千封邮件里搜索,一次 API 调用的成本也就是几美分。

这个信号值得认真对待。如果你平时做编码工作,你大概率会优先选最贵最强的模型(Fable 5、5.6 Sol 这类),很容易错过小模型的进步。但 French-Owen 发现,在 artificialanalysis.ai 的帕累托前沿上,GLM 5.3 已经给"又快又便宜"提供了一个新的选项。

为什么消费级 AI 公司这么少?答案很简单:token 成本

他提到一个细节:跟他聊过的几个投资人都在问同一个问题——"奇怪,为什么我们没看到更多消费级 AI 公司?"

答案很直接:token 成本。

在 AI 出现之前,大型消费应用的标准剧本是这样的:做一个运营成本很低的网站,靠病毒式传播吸引一批用户,融资、扩大用户规模,然后做广告市场。谷歌、Facebook、Snapchat 基本都走的是这条路。

但如果你想在产品里加 AI,情况就变了:每一次请求都有真实的推理成本,需要的资本量瞬间暴增。

French-Owen 有一个反复在跑的测试用例:做一个每日新闻站,内容完全个性化——去网上研究他这个人,猜他喜欢什么新闻,然后搭一个微型网站展示当天头条。用上一代模型(Sonnet 级别)跑一次大概要花 1 美元。一个月收 30 美元订阅费?对一个消费级产品来说这账根本算不过来。当然这里有很多可以优化的地方,但如果你收费对标的是华尔街日报或经济学人,你就得提供同等级的价值。

而用 luna 跑,结果相当不错,平均成本大约 0.1 美元。这就说得过去了。

—— 广告 ——

"IQ 180" 的工作 vs "token 吐字机"的工作

更有意思的部分在商业世界。French-Owen 和 Segment 的另一位联创 Peter 在一次徒步中聊起这个话题。Peter 同时管理着多家公司,除了 Segment 之外,还为 Charm Industrial 融过 1 亿美元以上,最近又给 Revoy 融了 A 轮。他极度有条理、时间利用效率极高。

Peter 把工作分成两类:一类是"IQ 180"的工作——天才型的人想出你从没想过的疯狂解决方案;另一类是"token 吐字机"的工作——超高速响应、同时在几十条战线上推进。Peter 说,他做的工作大约 95% 都属于第二类:打电话、催进度、做基础工作。

当然,Peter 也承认,没有那个解决深层问题的 IQ 180 技术大脑,他的公司今天早就死了——只是他的大部分时间确实花在第二类上。

French-Owen 的推论是:对"前沿级"模型的需求会持续增长,尤其是需要全新突破的领域(工程、硬科学、模型训练)。但与此同时,对"快、便宜、够用"模型的需求,马上就要起飞了。

想想你每天打交道的人:同事、供应商、客户。十次里有九次,你想要的不是天才,而是一个响应极快、能把事情办妥的人。今天公司里的大部分"人形 token"就是这么花掉的——招聘的天平严重偏向"快、便宜、够用"这个原型。

当然,要让"快、便宜、够用"的模型真正进入商业世界,还有一堆工作要做:新的 harness、prompt 注入安全、角色和权限体系。但他有信心这些问题会被解决。

对独立开发者的启示

这篇文章值得所有打算做 AI 产品的人读一遍,尤其是独立开发者。它把"AI 产品为什么难赚钱"这个问题拆得很清楚:不是模型能力不够,而是单位经济模型不成立。而当小模型的成本降到这个量级,一个明显的窗口正在打开——那些以前被推理成本卡死的消费级场景(个性化内容、批量处理、高频交互工具),现在第一次有了算得过账的可能。

风向已经在变了。做产品的人与其继续盯着最贵的模型,不如认真评估一下"快、便宜、够用"这条路线——你省下来的每一分推理成本,都是产品的利润空间。

分享到
微博Twitter

© 2026 四月

原文链接:https://www.aprilzz.com/ai/small-models-have-arrived