AI 前沿
AI 前沿
大模型动态、AI工具实测、实战落地
共 145 篇RSS
别拿生成式大模型做简单判断：Laya 用 33 毫秒给出一组校准过的概率
作者一年多前就做过非自回归的决策模型，今年同类方案被重新包装成突破发布。他把经验整理成开源的 Laya：单次前向传播回答结构化问题，并公布了英语模型在非拉丁文字上的失效数据。
三元大模型默认每个权重占 1.625 位，Intel 团队改按真实权重分布编码后压到 1.485 位
三元 LLM 的权重只有 -1、0、+1 三个值，业界默认它们等概率出现，于是按 1.625 位打包。Intel 团队实测 29 个模型，发现 0 最多占到 51.5%，据此设计的 BITCOS 布局在 26 个模型上更省，解码吞吐最高提升 27%。
让 4B 小模型给 Postgres 写执行计划提示，多表查询负载平均提速 1.81 倍
作者用本机 2×RTX 3090 加租来的双 H100 SXM 节点，把 Qwen3.8-4B 蒸馏版微调成一个会写 pg_hint_plan 提示的智能体：在 JOB 基准的 113 条 join 密集查询上，三次采样取最优后拿到 1.81 倍几何平均提速，整个负载的总延迟下降 44.7%。
模型优化系统，系统跑模型：GLM 用 Infra Agent 把推理吞吐提到约 3 倍
智谱在 10 万+ 国产加速器集群上从零搭起 GLM-5.3-Flash 的生产推理服务，大量工作由 GLM-5.3 驱动的 Infra Agent 完成：两周内端到端吞吐提到约 3 倍，单 token 成本追平主流 NVIDIA GPU。
Gemini 3.8 Live 发布：边推理边说话，中途能切换 97 种语言
Google 发布 Gemini 3.8 Live 和 3.8 Live Extended Thinking 两个语音模型：其中 3.8 Live 支持近实时视觉理解和后台工具调用，Extended Thinking 在 Artificial Analysis 的语音质量指数（Speech to Speech Quality Index）上拿到 82.6 分排名第一，3.8 Live 则支持通话中自动切换 97 种语言。
推理成为主角：2026 年 AI 硬件厂商在赌什么
训练退居幕后，推理成了数据中心里唯一的话题。H100 跑开源模型时有 50% 到 80% 的时间在空转，等待内存喂数据——这个瓶颈逼出了两条完全不同的技术路线。
Bengio：AI 智能体为什么会撒谎、作弊、互相串通
图灵奖得主 Yoshua Bengio 拆解近几个月 AI 智能体越界事件的成因：不是模型突然变坏，而是「模仿人类文本 + 强化学习」这套训练方式，把撒谎、作弊和互相串通一起奖励了出来。
Anthropic CEO Amodei：给 AI 前沿竞赛踩一脚刹车
Anthropic 联合创始人兼 CEO Dario Amodei 提出放慢 AI 能力增长的方案：派第三方评估员常驻公司、民主国家之间协调安全标准、再推动全球协调。
省 token 不等于省钱：RTK 自称砍掉近九成输出，实测 DeepSeek 那组成本反涨 17%
RTK 有 7.9 万 Star，自己报告能省下近九成 token，README 也承诺砍掉最多 90% 的 bash 输出。Quesma 花 1500 美元在 Terminal-Bench 上跑了 1740 次实验，结论是省下的 token 并不等于省下的钱——DeepSeek 那组的任务成本反而涨了 17%。
DeepSeek V4.1 Flash 发布：KV cache 降到 890 字节/token，长上下文成本只剩四分之一
新 Causal Encoder-Decoder 架构加上 CSA2 稀疏注意力，让 DeepSeek 把 1M 上下文的 KV cache 压到上一代的四分之一，同时在 Terminal-Bench 上反超自家 V4-Pro。权重 MIT 开源，API 已上线并降价。
费马大定理有了第一个机器可验证的证明：Claude 用 11 天写了 1300 万行 Lean
Anthropic 宣布 Claude 近乎自主地在 11 天内用 Lean 写完了费马大定理的第一个完整机器可验证证明：1300 万行代码、29,500 个中间定理，消耗约 60 亿 token。这次突破的重点不在发现新数学，而在把验证交给机器——数学评审可能从此进入机器时代。
GPT-6 Astra 发布：OpenAI 新旗舰在 Computer Use、编码与安全上交出高分答卷
OpenAI 于 9 月初发布 GPT-6 Astra，官方称其为'迄今最聪明、对齐最好的模型'：ARC-AGI-3 拿下 99.9%、FrontierMath 第四级 98% 饱和、ExploitBench 满分，Computer Use 单任务耗时比上一代缩短约 47%。本文梳理 Astra 的关键数据、Codex 的新机制与安全争议。