AWS 推出 Trust in Depth:让 AI 智能体获得更多自主权而不失控
AWS 提出 Trust in Depth 框架,用独立分层的可验证信任机制让 AI 智能体在规则可证明时自主行动、仅在真正需要判断时交给人。该框架围绕 Scope、Know、Bound、Observe 四个生命周期环节,并复用 AWS 已运行十余年的自动推理技术,覆盖 IAM 每秒超 21 亿次请求等生产系统。
AWS 提出 Trust in Depth 框架,用独立分层的可验证信任机制让 AI 智能体在规则可证明时自主行动、仅在真正需要判断时交给人。该框架围绕 Scope、Know、Bound、Observe 四个生命周期环节,并复用 AWS 已运行十余年的自动推理技术,覆盖 IAM 每秒超 21 亿次请求等生产系统。
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,再生成带护栏和回滚指引的修复方案。该方案在 90 天内将关键云暴露减少超过 90%,且零生产事故。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成,通过单一 API 按任务调用不同基础模型。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型,训练数据为本地诈骗对话,涵盖冒充公共机构、银行和本地人物等类型。
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器,用代码上下文识别数据库密码、Kubernetes Secret、Dockerfile 等非结构化密钥,候选批次评估耗时低于 2 毫秒,可将可拦截的密钥数量提升一倍以上。
推荐理由:GitHub 用九个季度数据说明密钥泄露与代码量同步增长,并给出用分类器把防护前移到 push 环节的思路。
Google DeepMind 推出 SynthID Bio,把水印技术带入合成生物学,将不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:SynthID 水印首次延伸到合成生物学,读者可了解其在蛋白质序列与结构上的实现方式及生物安全用途。
GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,智能体就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃做分类并生成漏洞报告。
推荐理由:GitHub Security Lab 公开了自主模糊测试流水线的架构与运行方式,读者可据此判断 LLM 智能体在安全自动化中的分工边界。