AWS 推出 Trust in Depth:让 AI 智能体获得更多自主权而不失控
AWS 提出 Trust in Depth 框架,用独立分层的可验证信任机制让 AI 智能体在规则可证明时自主行动、仅在真正需要判断时交给人。该框架围绕 Scope、Know、Bound、Observe 四个生命周期环节,并复用 AWS 已运行十余年的自动推理技术,覆盖 IAM 每秒超 21 亿次请求等生产系统。
AWS 提出 Trust in Depth 框架,用独立分层的可验证信任机制让 AI 智能体在规则可证明时自主行动、仅在真正需要判断时交给人。该框架围绕 Scope、Know、Bound、Observe 四个生命周期环节,并复用 AWS 已运行十余年的自动推理技术,覆盖 IAM 每秒超 21 亿次请求等生产系统。
机器学习先驱 Michael I. Jordan 在接受《Libération》采访时,将 AI 末日论和超级智能警告斥为科幻,称 AI 公司呼吁监管是"作秀"。他把 Anthropic 研究员 Jacob Coxon 的辞职事件视为"宏大的道德表演",批评这些年轻员工并非真正的工程师。他还质疑万亿级数据中心投资能否回本,认为用开放权重模型即可满足专业领域需求。
音乐人兼调查记者 Benn Jordan 近日在国会参议院司法委员会小组听证会上就 Flock Safety 的自动车牌识别系统(ALPR)作证,称其调查聚焦私营企业、政府与执法部门之间以保密优先于透明的勾连。Flock 正面临两党反弹,数百个城市和地方政府已开始取消合同,共和党参议员 Josh Hawley 对其展开调查,路透社上周报道该公司计划裁员约 18%。
Cerebras Systems CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上反驳 AI 末日论,称"AI 界某些领袖或许不该被允许公开讲话",认为行业忽视了 AI 的潜力。
Cerebras CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上表示,人人拥有家用 AI 设备的未来"并不遥远",他预测个人 AI 助手将本地运行,部分在设备上、部分回到云端。他提到 Meta 的 Muse 和 Instinct 等消费级 AI 智能体进展,并称自己已用"一组智能体"处理日程和通话对象信息。
Dyna Robotics 联合创始人兼首席科学家 Jason Ma 在 Latent Space 播客中介绍,公司上月发布的世界动作模型 Dyna-2 基于超过一百万小时人类视频预训练,并已推出物理机器人智能体 Dyna-2.1。
Geoffrey Huntley 提出用 pre-commit hook 检查 git diff,发现绕过诊断模块直接调用可观测性模块的代码就拒绝提交,并向 AI 智能体注入提示词要求其改用诊断库。他认为仅靠更新 AGENTS.md 仍会存在偏差并逐渐漂移,而这一做法让智能体表现达到十分满分。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。围绕开放模型应否开源的争论持续已久,Nvidia CEO 黄仁勋主张美国发展更多开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。
MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害",如今公司通过红队测试和 AI 训练 AI 来强化拒绝,但拒绝是概率性的,仍可被突破。文章警告,拒绝失败可能导致灾难性后果,而过度拒绝则可能被政府用来压制合法言论。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 未来能以每台低至 2 万美元自动化几乎所有人类劳动、并预测 2027 年底前向公众发售,但许多机器人研究者对此持怀疑态度。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析走向基础模型、物理 AI 与智能体 AI,需以数据打通遥测、服务日志和工程文档,并让 AI 增强而非取代关键决策中的人。AVEVA 的责任 AI 框架强调安全、效率与人类监督,Garg 还参与 IEEE 工作组制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中与 Chad Atalla 对谈,讨论评估如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的"意外失败"。她结合自身从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
伯克利 EPIC Data Lab 提出近零推理成本时代数据系统面临三大挑战:面向智能体(For Agents)、属于智能体(Of Agents)、由智能体构建(By Agents)。