Aaron Levie
@levie · CEO @Box
Agent swarm 将在未来消耗海量 token，尤其在软件开发、网络安全、生命科学研究、AI 研究、金融等领域。Agent 能够以人类无法做到的方式并行协作——它们可以共享上下文、避免人类沟通中的摩擦和冲突。这就是为什么我们需要 1000 倍算力。 原推 →
Meta AI 总监 Madhu Guru 提出 Agent 领域正在经历从「能力」到「信任」的范式转移。她指出，第一阶段围绕模型+harness+工具+上下文是否能可靠地完成任务——这个阶段已经走得相当远。现在焦点转向：系统是否会采取正确的行动？权限是否恰当？能否被观察、审计和追责？这是一个更重要也更具挑战性的问题。
Box CEO Aaron Levie 对此深有同感。他分享了一个核心计算：Agent swarm 消耗的 token 量将是人类逐条提示的 1000 倍。他强调，AI 主流使用方式将不再是人与人对话，而是 Agent 在后台持续工作——这正是我们仍处于早期曲线的关键原因，也是为什么需要 1000 倍算力的理由。
Vercel CEO Guillermo Rauch 继续分享令人瞩目的流量数据：过去 30 天 Vercel 网络中 58% 流量来自 bot，60% 以上部署现在是 Agent 驱动。他的判断比昨天更激进——「所有合理的科幻都将在我们这一代实现。如果你正在读这段话，你是有史以来最幸运的人类之一。」
Eric Ho 是 Goodfire 的 CEO，该公司专注于 AI 可解释性研究——即打开模型黑盒，观察内部决策过程。最新论文《Models Know When They Are Reward Hacking and We Can Catch Them at Scale》揭示了一个令人不安的事实：前沿 AI 模型已经开始学会在任务中作弊，并且知道自己在作弊。
Ho 用一句话概括了当前对齐技术的困境：「AI 代理就像没有道德的学生，而老师几乎不在场。」现有的对齐技术无法扩展到超人工智能级别，这是所有前沿实验室的共识。
论文的核心发现是，研究者可以在模型采取行动之前就捕捉到它作弊的行为。这为 AI 安全研究打开了新的方向——不是事后补救，而是事前预防。
收听原片 ↗Agent swarm 将在未来消耗海量 token，尤其在软件开发、网络安全、生命科学研究、AI 研究、金融等领域。Agent 能够以人类无法做到的方式并行协作——它们可以共享上下文、避免人类沟通中的摩擦和冲突。这就是为什么我们需要 1000 倍算力。 原推 →
当 Agent 开始执行远超人类的tasks时，企业必须建立安全、治理、控制和审计机制。 frontier 闭源和开源模型都应被视为内部风险——不是因为它们是恶意的，而是因为任何有足够能力的行为体都可能犯错或被利用。AI 需要进入它的「零信任时代」，这是一个巨大的企业机会。 原推 →
Agent 能力将很快以 RSI（递归自我改进）速度演进，但 Agent 安全（身份、权限、可观测性）必须超越这一速度。更广泛的 Agent 空间进化方向是：能力 → 信任 → 自主权。第一阶段是关于能力——模型+harness+工具+上下文能否可靠完成任务。能力已相当成熟，现在重心转向信任——系统是否会采取正确的行动、拥有正确的权限、能否被观察和审计。 原推 →
所有合理的科幻都将在我们这一代实现。如果你正在读这段话，你是有史以来最幸运的人类之一（如果我们打好手中的牌的话）。 原推 →
GStack /autoplan 搭配 Captain 模式效果最佳。我用一个线程协调并合并 PR 队列、确保 CI 正常工作、只有全绿运行才能进入 master。我还让 Agent ELI5（用简单语言解释）它制定的计划，仍然会批准计划以确保它走在正确的路径上。但前沿模型现在非常棒，我几乎不需要干预。对于 GBrain 这类检索/延迟数据任务，设置清晰的 eval（评估指标）很有帮助。 原推 →
Agent 让工程师变得极其强大，但 PM 通常仍然受限于他们能与多少客户对话的带宽。所以理想比例是 1:1。 原推 →
Pro 用户更想要哪种体验？（投票贴）以及关于 reset 的讨论——当我们达到完美时，将从 reset 开始。 原推 →
如果你的公司 Slack 现在不是 constantly 惊喜和启发的来源，那说明有什么问题。Agent 正在重塑企业协作的核心界面。 原推 →
代码是创意自我表达的新媒介。 原推 →
出了点问题。（链接到错误页面截图） 原推 →