
小模型的时代来了:一次深度 AI 调研只要几毛钱,消费级 AI 产品第一次算得过账
Segment 联创实测 gpt-5.6-luna:速度快、便宜到夸张。当推理成本从 1 美元降到 0.1 美元,AI 消费级产品的经济模型第一次成立,'快、便宜、够用'的模型需求即将起飞。
原文来源:Small Models Have Arrived — Segment 联创 Calvin French-Owen 实测小模型:当一次复杂 AI 调研的成本从 1 美元降到 0.1 美元,消费级 AI 产品的经济模型第一次成立了。
过去几周,Calvin French-Owen(Segment 联合创始人)一直在玩 gpt-5.6-luna。他的评价是:惊人地能干、快、聪明。日常使用中速度能跑到每秒 100 个 token,翻代码库、翻邮件、翻知识库都游刃有余。
最让他意外的还是成本。他试过跑一些相当复杂的研究线程,结果账单很难做高——哪怕让模型在上千封邮件里搜索,一次 API 调用的成本也就是几美分。
这个信号值得认真对待。如果你平时做编码工作,你大概率会优先选最贵最强的模型(Fable 5、5.6 Sol 这类),很容易错过小模型的进步。但 French-Owen 发现,在 artificialanalysis.ai 的帕累托前沿上,GLM 5.3 已经给"又快又便宜"提供了一个新的选项。
为什么消费级 AI 公司这么少?答案很简单:token 成本
他提到一个细节:跟他聊过的几个投资人都在问同一个问题——"奇怪,为什么我们没看到更多消费级 AI 公司?"
答案很直接:token 成本。
在 AI 出现之前,大型消费应用的标准剧本是这样的:做一个运营成本很低的网站,靠病毒式传播吸引一批用户,融资、扩大用户规模,然后做广告市场。谷歌、Facebook、Snapchat 基本都走的是这条路。
但如果你想在产品里加 AI,情况就变了:每一次请求都有真实的推理成本,需要的资本量瞬间暴增。
French-Owen 有一个反复在跑的测试用例:做一个每日新闻站,内容完全个性化——去网上研究他这个人,猜他喜欢什么新闻,然后搭一个微型网站展示当天头条。用上一代模型(Sonnet 级别)跑一次大概要花 1 美元。一个月收 30 美元订阅费?对一个消费级产品来说这账根本算不过来。当然这里有很多可以优化的地方,但如果你收费对标的是华尔街日报或经济学人,你就得提供同等级的价值。
而用 luna 跑,结果相当不错,平均成本大约 0.1 美元。这就说得过去了。
—— 广告 ——
"IQ 180" 的工作 vs "token 吐字机"的工作
更有意思的部分在商业世界。French-Owen 和 Segment 的另一位联创 Peter 在一次徒步中聊起这个话题。Peter 同时管理着多家公司,除了 Segment 之外,还为 Charm Industrial 融过 1 亿美元以上,最近又给 Revoy 融了 A 轮。他极度有条理、时间利用效率极高。
Peter 把工作分成两类:一类是"IQ 180"的工作——天才型的人想出你从没想过的疯狂解决方案;另一类是"token 吐字机"的工作——超高速响应、同时在几十条战线上推进。Peter 说,他做的工作大约 95% 都属于第二类:打电话、催进度、做基础工作。
当然,Peter 也承认,没有那个解决深层问题的 IQ 180 技术大脑,他的公司今天早就死了——只是他的大部分时间确实花在第二类上。
French-Owen 的推论是:对"前沿级"模型的需求会持续增长,尤其是需要全新突破的领域(工程、硬科学、模型训练)。但与此同时,对"快、便宜、够用"模型的需求,马上就要起飞了。
想想你每天打交道的人:同事、供应商、客户。十次里有九次,你想要的不是天才,而是一个响应极快、能把事情办妥的人。今天公司里的大部分"人形 token"就是这么花掉的——招聘的天平严重偏向"快、便宜、够用"这个原型。
当然,要让"快、便宜、够用"的模型真正进入商业世界,还有一堆工作要做:新的 harness、prompt 注入安全、角色和权限体系。但他有信心这些问题会被解决。
对独立开发者的启示
这篇文章值得所有打算做 AI 产品的人读一遍,尤其是独立开发者。它把"AI 产品为什么难赚钱"这个问题拆得很清楚:不是模型能力不够,而是单位经济模型不成立。而当小模型的成本降到这个量级,一个明显的窗口正在打开——那些以前被推理成本卡死的消费级场景(个性化内容、批量处理、高频交互工具),现在第一次有了算得过账的可能。
风向已经在变了。做产品的人与其继续盯着最贵的模型,不如认真评估一下"快、便宜、够用"这条路线——你省下来的每一分推理成本,都是产品的利润空间。
© 2026 四月
原文链接:https://www.aprilzz.com/ai/small-models-have-arrived
相关文章
虚拟机已经关不住 AI 智能体:一次真实的 VM 逃逸实验
Trail of Bits 让 GPT 5.6-Cyber 尝试逃出虚拟机,结果它三次成功,还挖出了多个 0-day。普通 VM 沙箱的时代结束了。
用强化学习训练模型'画'出代码:9 个奖励信号砍到 4 个,训练效率翻 3 倍
两个开发者用 GRPO 训练 Qwen 写 p5.js 代码画水彩画,踩遍了奖励函数设计的所有坑:冗余信号、饱和的代码长度奖励、失效的绝对评分。他们的修复过程是 RL 奖励工程的一份实战教材。
花 266 美元和四个 AI 模型,他拿回了自己平板的所有权
Amazon 软件不断强制关机他买的 Fire HD 平板,root 无路可走。Claude 被安全护栏拦下,Kimi K3 找到被忽略两年的漏洞,GLM 两代接力收尾——最终成本 266 美元,五个多月,换来一台真正属于自己的设备。