202610132026年10月13日 · 星期二
AI 日报Builders Digest
LLM 能力鸿沟加速扩大 · 开源替换 API 调用的确定性问题 · GPT-6.1 Sol 上下文增至 50 万
今日主线

从 chatbot 到 Agent Swarm:Andrej Karpathy 描绘三层用户漏斗,Box CEO 给出商业答案

Andrej Karpathy 在今天转发并评论了一条关于 LLM 能力认知差距的推文,他将其描述为一个正在"急剧收窄的漏斗"而非简单的"两个群体各说各话"——全球约 75% 的人口(~60 亿)几乎没有接触过 LLM;约 20%(10–20 亿)是免费层 ChatGPT 的 casual 用户,把它当成更好的搜索引擎或写作辅助;约 0.2%(~2000 万人)亲眼见证过复杂项目通过 Agent 在几天内完成,包括构建应用、反编译二进制、翻译应用等。而最后那个约 5000 人(0.00006%)的内部前沿系统使用者,则正在经历 Agent swarm 协作数周完成软件巨型项目、发行 zero-day、以机器速度运行攻防的震撼体验。

Box CEO Aaron Levie 紧接着对 Karpathy 的漏斗图给出了商业侧的呼应:他认为绝大多数人仍在用 AI 做类搜索的简单交互,这是对 AI 能力的严重低估;真正的 agent swarm 形态——数学、网络安全、生物、材料科学、软件工程、金融等领域的并行加速——目前仅有不到一个碎片的人在使用。他同时指出企业级采用还需要跨越工作流升级、数据迁移、合规治理和安全框架等一系列障碍,而这恰恰是应用层 AI 的机会所在。

本期播客

No Priors × Walter Goodwin(Fractile CEO):为前沿实验室打造专用推理芯片

No Priors · 2026-10-02 · 约 45 分钟

Fractile 是一家全栈 AI 芯片公司,专注于为世界上最大模型的推理构建极高带宽、极低延迟的专用芯片。创始人 Walter Goodwin 在访谈中谈到,当前 NVIDIA 系统内部就包含 6 到 9 颗不同的定制芯片协同工作,而 Fractile 的目标是让 AI 实验室能够像搭积木一样构建自己的推理芯片堆栈,从而在任何时刻维持一道"滚动的技术领先窗口"——只要在芯片层面取得 3 到 6 个月的结构性优势,就能赢得大量部署订单。

Goodwin 特别强调了内存带宽是下一代推理芯片的核心瓶颈,而非单纯的计算吞吐。他的判断是:随着模型规模逼近硬件极限,带宽将成为决定推理速度的最关键因素,这也是 Fractile 从创立之初就押注的方向。

收听原片 ↗
建造者观点
Andrej Karpathy @karpathy · Founder @Vercel(AI),早期 OpenAI

LLM 能力认知的差距正在加速扩大,已经不再是"两群人各说各话",而是一个尖锐的漏斗:约 60 亿人几乎从未接触过 LLM;10–20 亿人用免费层 ChatGPT 当作写作助手或高级搜索;约 2000 万人亲眼见证过 Agent 在几天内完成过去需要数周甚至数月的复杂项目;而最后约 5000 人内部使用前沿系统,正在经历 Agent swarm 协作数周完成软件巨型项目、发行 zero-day、以机器速度攻防的震撼。 原推 →

Aaron Levie @levie · CEO @Box

大众对 AI 的使用仍然停留在 chatbot 级别,这是对 AI 能力的严重低估。真正的 agent swarm 形态(数学、网络安全、生物、材料科学、软件工程、金融)目前仅有不到一个碎片的人在用,因为模型能力、工作流改造、合规治理、数据迁移和安全框架全都还没到位。但这恰恰是企业应用层 AI 最大的机会窗口。 原推 →

Thibault Sottiaux @thsottiaux · Codex & ChatGPT @OpenAI

GPT-6.1 Sol 通过 Codex 和 Work 使用时的默认上下文长度已从 27.2 万提升至 50 万 tokens(约 +80%),这是经过仔细测试后找到的新甜点值,未来还会继续提高。同时,订阅用户调用 GPT-6.1 Sol 时不再收取长上下文额外费用。用户可以手动覆盖设置,最大支持 100 万 tokens。 原推 →

Garry Tan @garrytan · President & CEO @Y Combinator

用确定性代码替代 LLM API 调用是个显而易见的选择——不仅成本更低,而且生成的代码质量更好、更符合用户真实意图。他还分享了自己在 GStack 中的实践:用线程协调 PR 队列、确保 CI 全绿才合入 master,并让 Agent 用简单语言解释自己的计划(ELI5),仍然会人工审批以确保方向正确,但前沿模型现在足够好,几乎不需要干预。 原推 →

Matt Turck @mattturck · VC @FirstMarkCap;MAD Podcast 主持人

人们的职业形态在演变:从打孔卡操作员 → Lotus Notes 管理员 → Flash 开发者 → DevOps 和 Tableau 分析师 → 如今正在成为 Agent 管理者和 harness 工程师。历史告诉我们,这总会顺利过渡。 原推 →

Thariq @trq212 · Claude Code @anthropicai

引用陶哲轩的观点:我们不应该满足于一个不透明的超级智能。 intelligibility 本身是智能的关键信号之一——我们应该努力构建能与人类建立理解的产品和模型,而不是将人类排除在外。 原推 →

Peter Yang @petergyang · AI 教育创作者

分享了一段来自 @Rasmic(已教授 10 万+人学习 AI 构建)的访谈摘录:当前开发者对 Agent 的信任度仍然是最大障碍。他提出"证据驱动"的工作流——Agent 在执行前后都提供可验证的证据,配合 greploop 持续校验,逐步建立信任。他认为这能大幅减少开发者最讨厌的手工审查环节。同时他和女儿用 Codex 一起构建了 ModRetro 复古游戏,体现了 AI 降低创作门槛的真实价值。 原推 →

Zara Zhang @zarazhangrui · Builder, Harvard'17

Gemini 现在只用在 Chrome 里。 原推 →

官方博客

阅读原文 ↗