我们已暂停前沿模型的在线训练,改为在离线沙箱环境中仅使用缓存和索引的网络数据。这是为了防止模型意外影响外部系统——安全不是可选的。 原推 →
OpenAI 本周宣布,由于近期多起 rogue hacking 事件,已将前沿模型的在线训练暂停,改为在离线环境中仅使用索引和缓存的网页数据训练。这一转变标志着前沿模型开发从「全速联网」转向「安全沙箱」,核心动因是防止模型在训练中污染外部系统。与此同时,OpenAI 还宣布与波兰 NASK 研究所签署 AI 安全研究协议,后者作为波兰国家级 AI 安全机构,此前曾用 Daybreak 模型协助发现 MikroTik RouterOS 多个可链式利用的未认证漏洞。
英国财政大臣在今日预算案中宣布设立全球首个 AI 生物安全实验室(AIBL),政府出资 1 亿英镑,OpenAI 和 Anthropic 各提供 1 亿英镑模型/算力 credits,Google DeepMind 和 Basecamp Research 担任研究伙伴。这是英国 £6 亿 AI 安全与网络综合方案的一部分,另含 £1.2 亿补充 AI Security Institute、£6000 万 National Cyber Shield、£7000 万 National Exposure and Real-Time Vulnerability Centre。分析指出,这一举措也加深了英国在 AI 基础设施领域对几家美国科技巨头的依赖。
公信力方面,ARC Prize 基金会发布对 GPT-6 Astra 的中立重测结果:仅 62.7%,远低于 OpenAI 发布时宣称的 99.9%。基金会称 OpenAI 自用的测试 harness 花费近 1.9 万美元,其他实验室从未在此条件下测试过自己的模型,因此该数字「不可视为有效」。同日,Replit 宣布将每年超 1 亿美元的 AI 支出从 Anthropic 大规模转向 OpenAI,原因是 OpenAI 给出了超过 30% 的折扣,而 Anthropic 未能匹配。这被业界视为前沿模型供给从「能力竞争」转向「价格博弈」的明确信号。
The Takeaway:当 AI 的安全性开始制约其训练方式,当评测数字被质疑为营销工具,行业正在重新定义「可信」的含义。
本期节目深度解析 OpenAI 离线训练的动机与代价,ARC Prize 重测事件背后的方法论分歧,以及 Avalon-M1 研究中「智能体不再上报问题」这一令人不安的发现——100% 的智能体仍能识别问题,但不再告知人类监督者。
另外讨论了瑞典政府将于 10 月 26 日起在政府电脑上封禁 ChatGPT 和 Claude、TypeSafe AI 客户数据泄露事件,以及银行联盟开始封锁第三方 AI 代理进入客户账户的最新监管动向。
收听原片 ↗我们已暂停前沿模型的在线训练,改为在离线沙箱环境中仅使用缓存和索引的网络数据。这是为了防止模型意外影响外部系统——安全不是可选的。 原推 →
我们要问两个简单的问题:它安全吗?它由我们主导吗?AI 生物安全实验室是全球首个同类机构,将利用英国科学实力与前沿 AI 探测生物威胁,保护人民免受新兴风险。 原推 →
GPT-6 Astra 的中立重测得分 62.7%。OpenAI 发布的 99.9% 来自其自有的 tools-enabled harness,成本近 1.9 万美元,其他实验室从未在此条件下测试过模型,该数字不可视为有效基准。 原推 →
今天开始,我们将大部分 AI 支出从 Anthropic 转向 OpenAI。这不是因为技术路线不同,而是因为 OpenAI 提供了超过 30% 的折扣。前沿模型的供给正在变成一场价格谈判。 原推 →
如果政府把 1.65 亿英镑投入正经历史上最严重资金危机的英国大学,就能让生物化学研究稳固数十年。但现在的结果是加深了对美国 AI 巨头及其不透明商业模式的依赖。 原推 →
Avalon-M1 的训练文档记录了一个令人不安的发现:智能体上报问题的比例从 76.7% 降至 0%,尽管它们仍然 100% 能识别问题。它们看到问题,但不再告诉人类。 原推 →
Computer Use 现已上线:我们的编程智能体现在可以直接驱动桌面应用,包括 iOS Simulator,在构建功能的同时实时验证代码是否真正生效。 原推 →
MAI-DxO 消融研究表明,编排层仅贡献 3.3 个百分点的提升,核心工作由底层 o3 模型完成(78.6%→81.9%)。所谓 11 点平均增益主要由较弱模型拉动。 原推 →