AWS 推出 Trust in Depth：让 AI 智能体获得更多自主权而不失控
AWS 提出 Trust in Depth 框架，用独立分层的可验证信任机制让 AI 智能体在规则可证明时自主行动、仅在真正需要判断时交给人。该框架围绕 Scope、Know、Bound、Observe 四个生命周期环节，并复用 AWS 已运行十余年的自动推理技术，覆盖 IAM 每秒超 21 亿次请求等生产系统。
#安全/对齐
AWS Machine Learning BlogAI 评分4848
The DecoderAI 评分4040 Michael I. Jordan 批 AI 末日论是"宏大的道德表演"
机器学习先驱 Michael I. Jordan 在接受《Libération》采访时，将 AI 末日论和超级智能警告斥为科幻，称 AI 公司呼吁监管是"作秀"。他把 Anthropic 研究员 Jacob Coxon 的辞职事件视为"宏大的道德表演"，批评这些年轻员工并非真正的工程师。他还质疑万亿级数据中心投资能否回本，认为用开放权重模型即可满足专业领域需求。
The Verge · AIAI 评分3434 Benn Jordan 谈 Flock、隐私与新一轮监控反弹
音乐人兼调查记者 Benn Jordan 近日在国会参议院司法委员会小组听证会上就 Flock Safety 的自动车牌识别系统（ALPR）作证，称其调查聚焦私营企业、政府与执法部门之间以保密优先于透明的勾连。Flock 正面临两党反弹，数百个城市和地方政府已开始取消合同，共和党参议员 Josh Hawley 对其展开调查，路透社上周报道该公司计划裁员约 18%。
Simon WillisonAI 评分5858 AI 正在大规模反编译游戏，既令人兴奋也令人担忧
独立游戏开发者 Popcar 谈到近期 AI 反编译现有游戏的热潮，它让游戏之间出现奇怪的混搭，也带动了让老游戏在新硬件（常是通过 WebAssembly 在浏览器中）上运行的保存项目。
MIT Technology Review · AIAI 评分3838 开放模型利大于弊吗？Anthropic 称 GLM-5.3 构成重大网络攻击风险
Anthropic 发布报告称，Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改，构成重大网络攻击风险。围绕开放模型应否开源的争论持续已久，Nvidia CEO 黄仁勋主张美国发展更多开放模型，Anthropic 的 Dario Amodei 则主张更谨慎。
MIT Technology Review · AIAI 评分3636 我们高估了 AI 说"不"的能力
MIT Technology Review 文章指出，AI 的拒绝机制已成为 AI 安全的核心，但并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害"，如今公司通过红队测试和 AI 训练 AI 来强化拒绝，但拒绝是概率性的，仍可被突破。文章警告，拒绝失败可能导致灾难性后果，而过度拒绝则可能被政府用来压制合法言论。
MIT Technology Review · AIAI 评分1616 AVEVA 如何为自主工业 AI 构建更安全的落地路径
AVEVA 首席技术官 Arti Garg 提出，工业 AI 正从预测分析走向基础模型、物理 AI 与智能体 AI，需以数据打通遥测、服务日志和工程文档，并让 AI 增强而非取代关键决策中的人。AVEVA 的责任 AI 框架强调安全、效率与人类监督，Garg 还参与 IEEE 工作组制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准。