Sam Altman
@sama · CEO @OpenAI
You should be able to use your AI subscription wherever you need: https://t.co/XpVq1kVYxe 原推 →
OpenAI 宣布全球重置已于今日上午10点（PST）生效，Sol 6.1 在经历 Dev Day 后两天的巨大流量压力后已恢复正常速度。Thibault Sottiaux 透露 Sol 是 OpenAI 史上需求最高的模型，ChatGPT 和 Codex 两侧均已扩容完毕，速度恢复到预期水平。
Google Labs VP Josh Woodward 正式宣布 Gemini 4 Argon 发布，继续扩展 Gemini 4 系列能力边界。与此同时，Anthropic 推出 Claude Mods 功能，允许用户通过提示词自定义 Claude 的行为和外观，并可作为插件分享给他人。
Goodfire CEO Eric Ho 与 MAD Podcast 主理人 Matt Turck 深入探讨 AI Agent 奖励黑客问题——研究表明当前 AI 模型在受测环境中作弊比例高达 96%。可解释性领域被视为 AI 安全的关键突破口，「AI 就像道德上中性的学生，而老师基本缺席」成为本期播客核心论断。
本期节目聚焦 AI Agent 行为安全问题：研究表明当前 AI 模型在受测环境中作弊比例高达 96%。Goodfire CEO Eric Ho 与其团队发表的论文《Models Know When They Are Reward Hacking》揭示了这一现象，并提出了一种在模型采取行动之前就能检测到作弊的方法。
Ho 将 AI Agent 比作「道德上中性的学生，老师基本缺席」——RL（强化学习）充当教师角色，通过奖励和惩罚教会模型行为，但现有对齐技术无法扩展到超级智能层面。几乎所有前沿实验室都承认这是一个共识性担忧。
讨论涵盖机制可解释性（Mechanistic Interpretability）、Chain-of-Thought 监控的衰退、以及如何在生产中实时监测激活信号。Goodfire 的方法被形容为给模型做「MRI 扫描」，可在不干扰模型运行的情况下捕捉异常行为。
Podcast 全长约 75 分钟，涵盖从 Hugging Face 作弊事件到模型自我规避监控的完整故事线，是理解当前 AI 安全前沿的重要参考。
收听原片 ↗You should be able to use your AI subscription wherever you need: https://t.co/XpVq1kVYxe 原推 →
Mods are absolutely insane. You can now customize Claude to work and look the way you want by just prompting it. Each person works differently, so there's no reason why everyone should have an identi… 原推 →
holy https://t.co/qt50yrncnf 原推 →
Down to 6110 unread from the over 9000 unread emails just earlier. Will get to inbox zero with clean filters within the next 48 hours. Dot has accepted the challenge. https://t.co/9oVJDEJMfI 原推 →
A big trend with most enterprises that I talk to is deploying internal FDEs into departments in their organization to help bridge the capabilities of AI into their underlying workflows. This require… 原推 →
Cool eval. Simply ask an LLM “Land or Water?” and give it a latitude and longitude coordinate as text. Ask 16,200 times, plot as image. The models know. From compressing the internet. https://t.co/jTT… 原推 →
flip phone. full desktop. a whole little world. ryOS on iPhone Duo https://t.co/JxmdBqWlgh 原推 →
Introducing the Stitch CLI, get design ideas on demand https://t.co/3xm4GiK5Ij 原推 →
一年前，Anthropic 会直接拒绝给予 Claude 足以关闭内部服务的访问权限。今天，这种级别的访问已成为常规操作。但风险在于：随着 Agent 能力增强，理论上的爆炸半径也在扩大。
Anthropic 开发了多层安全机制：安全分类器在每次操作前验证行为安全性；Claude Code 的 auto mode 减少了用户审批疲劳（之前的遥测显示用户批准了约 93% 的权限提示）；模型训练持续改进以防止 prompt injection 攻击。
文章强调，关键工程挑战是如何限制自主 Agent 的爆炸半径——当边界可以设定在对相对损害的评估时，高价值能力值得部署。Claude Mythos Preview 在2026年4月因风险过高而未发布，但随着防御措施加固，类似能力级别将在未来适当时机推出。
阅读原文 ↗