工具推荐

独立开发者+AI工具评测

108RSS
h3.c:antirez 用纯 C 给 Apple Silicon 写的 MiniMax-H3 推理引擎

h3.c:antirez 用纯 C 给 Apple Silicon 写的 MiniMax-H3 推理引擎

Redis 之父 antirez 的新项目:一个单仓库的 MiniMax-H3 原生推理引擎,支持文生视频、音视频生成、首尾帧条件控制,还内置 SSD 流式加载把 36GB 模型内存占用压到 2GB。

Ante:一个 15MB 的 Rust 单二进制编码 Agent,支持完全离线运行

Ante:一个 15MB 的 Rust 单二进制编码 Agent,支持完全离线运行

Ante 是一个用 Rust 写成的自包含编码 Agent:单个 15MB 二进制、零运行时依赖、内置 llama.cpp 推理引擎,没有 API key 也能离线跑。Terminal-Bench 2.1 得分 82.7%,资源占用比 Claude Code 低 5-9 倍。

Celld:把 Cloudflare 的 Durable Objects 搬回你自己的服务器

Celld:把 Cloudflare 的 Durable Objects 搬回你自己的服务器

Deno 官方开源的 celld 让你在自己机器上跑 Cloudflare Workers 和 Durable Objects:每个对象就是一个 SQLite 数据库,通过 S3 兼容存储协调,无控制平面、无共识,还能自动休眠省资源。

Assembly Hall of Shame:一场把 CPU 指令跑到 1980 亿周期的竞赛

Assembly Hall of Shame:一场把 CPU 指令跑到 1980 亿周期的竞赛

安全研究员 Christopher Domas 的新项目反其道而行之:不追求指令跑得多快,而是把单条 x86 指令拖到 1980 亿个时钟周期——相当于一条指令跑 62 秒。项目开源仅两天已收获 500+ star。

Cloudflare 发布 Kitesurf:跑在 Workers 上的 Agent 专用浏览器,内存比 Chromium 省 7 倍

Cloudflare 发布 Kitesurf:跑在 Workers 上的 Agent 专用浏览器,内存比 Chromium 省 7 倍

Cloudflare 用 12 周造出了一个完全跑在 Workers 上的浏览器 Kitesurf,专为 AI Agent 设计:截图内存占用只有 Chromium 的 1/5,CPU 节省 3-7 倍。没有标签页、没有主题、没有扩展——AI 根本不需要这些。

Channels SDK:一个开源库,把你的 AI Agent 接进 Slack、Teams、Discord

Channels SDK:一个开源库,把你的 AI Agent 接进 Slack、Teams、Discord

CopilotKit 开源的 Channels SDK(MIT 协议),让你用同一套代码把任何 AG-UI 兼容的 AI Agent 接到 Slack、Microsoft Teams、Discord 等聊天平台,还能渲染原生交互 UI——按钮、选择器、审批门直接出现在对话里。

celld:把 Cloudflare Durable Objects 搬回自己的服务器,Deno 官方出品

celld:把 Cloudflare Durable Objects 搬回自己的服务器,Deno 官方出品

celld 是 Deno 官方开源的分布式 Durable Objects 运行时,每个对象就是一个独立的 SQLite 数据库,通过 S3 兼容桶协调节点,无需控制面和共识协议,自托管 Cloudflare Workers 生态。

Soup:一条命令在 4GB 笔记本 GPU 上微调 8B 模型

Soup:一条命令在 4GB 笔记本 GPU 上微调 8B 模型

Layer streaming 技术让微调不再需要高端显卡:实测 Llama-3.1-8B 在 4GB 显存上跑出 119.6 tok/s,峰值占用 3.32GB,与常规运行逐位一致

AirLLM:一张 4GB 显卡跑 70B 大模型,2.8T 的 Kimi K3 也只要 3.7GB 显存

AirLLM:一张 4GB 显卡跑 70B 大模型,2.8T 的 Kimi K3 也只要 3.7GB 显存

AirLLM 用分层流式加载让 70B 模型跑在单张 4GB 显卡上,无需量化蒸馏剪枝,现在连 2.8T 参数的 Kimi K3 都能以 3.72GB 显存运行。小显存玩家的本地大模型福音。

Syncular:离线优先的 SQL 同步方案,客户端本地 SQLite + 服务端单一提交日志

Syncular:离线优先的 SQL 同步方案,客户端本地 SQLite + 服务端单一提交日志

Syncular 是一个开源的 offline-first SQL 同步框架:客户端保留真实本地 SQLite 数据库(浏览器用 OPFS、其他平台用原生 SQLite),写入走乐观 outbox,服务端一条有序提交日志作为唯一事实来源。TypeScript 和 Rust 双核心,支持 Tauri、React Native、Flutter 等绑定。

qm:Y Combinator 开源的团队级多智能体工作平台

qm:Y Combinator 开源的团队级多智能体工作平台

YC 把内部每天在用的多智能体系统 QM 开源了:每个员工有独立工作区、共享记忆和文件、Slack 与 Web 双端、可插拔多种 Agent 引擎,MIT 协议直接部署

WASTE:2.78 万亿参数的 Kimi K3,在 64GB 内存的消费级笔记本上跑起来了

WASTE:2.78 万亿参数的 Kimi K3,在 64GB 内存的消费级笔记本上跑起来了

WASTE 是一个零依赖的 C 语言推理引擎:把 MoE 模型按需从 NVMe 流式加载专家权重,29GB 内存就能跑完整的 2.78T 参数 Kimi K3,速度 0.5 tok/s——第一个在消费级硬件上跑通万亿级模型的公开方案