Amazon SageMaker AI 上的 MoE 内核工程优化实践
针对 MoE 模型在 Amazon SageMaker AI 上的内核工程优化,通过 Swap-AB 转置让 Hopper 的 WGMMA 指令充分利用专家维度(N=8192),在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及以上版本。
针对 MoE 模型在 Amazon SageMaker AI 上的内核工程优化,通过 Swap-AB 转置让 Hopper 的 WGMMA 指令充分利用专家维度(N=8192),在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及以上版本。
AWS 发布教程,介绍如何在 Amazon Bedrock 上基于 SpaceXAI 的 Grok 4.7 构建工具调用智能体,并评测其 reasoning effort 分档表现。
推荐理由:AWS 官方给出 Grok 4.7 在 Bedrock 上搭建工具调用智能体的完整评测方法,含 72 次运行的分档对比与生产监控思路。
NVIDIA DLSS 4.5 控制选项已在 GeForce NOW 上线,支持 Windows、macOS、Chrome OS 和 Steam OS,Ultimate 会员在 GeForce RTX 5080 云主机上可使用最高 4X 的 Dynamic Multi Frame Generation。
OpenAI 在教师节推出面向教育者的巴西葡萄牙语版 AI 工具,并展示 Study Mode 如何帮助教师支持学生主动、分步学习。
NVIDIA 加入欧盟委员会在都柏林 AI in Science Summit 上启动的 AI in Science Enablers Initiative,为欧洲科研界提供加速工具、算力、培训与创业支持。
北欧正加速建设欧洲重要科技生态,预计到 2027 年底部署 1 吉瓦 AI 云容量,Bitdeer、CoreWeave、Crusoe、Nscale 等云厂商参与其中。
亚马逊云科技介绍如何用 Amazon Bedrock AgentCore 构建智能体式 IDP 系统,由 8 个专用智能体组成识别与训练两条图工作流,自动分类、提取、校验并从新文档格式中学习。
基于 Amazon Bedrock AgentCore 的 AI 智能体系统可自动生成 PowerPoint 演示文稿,内部测试中不到 90 秒完成。
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,再生成带护栏和回滚指引的修复方案。该方案在 90 天内将关键云暴露减少超过 90%,且零生产事故。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成,通过单一 API 按任务调用不同基础模型。
Amazon SageMaker JumpStart 支持从模型目录部署预训练模型,并用 SageMaker Python SDK 跑轻量可复现的性能测试,测完删除端点。
Amp 利用 GPT-6 Astra、Ultrafast、GPT-Live-1 及 Sign in with ChatGPT,将 AI 智能体的能力拓展到代码之外的场景。
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析从数周缩短至数小时,从而有能力调查更多威胁。
Third Moment Research 借助 GPT-6 Astra、GPT-6.1 Sol、Codex 以及面向网络安全的 Daybreak,构建出可连续专注数天并随使用不断改进的 AI 智能体,实现 1 万个智能体运行 36 小时以上。
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系,其安全团队借此更快调查威胁,并能在数分钟内提出补丁方案。
NVIDIA 宣布对 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国 AI 与量子计算初创企业进行新投资,并作为 Global Alliance Founding Partner 与 Earthshot Prize 合作。
欧洲多国城市正联合 ABA Technology、Akila、K2K、Milestone 等软件伙伴,用 NVIDIA 加速计算、Cosmos 与 Nemotron 开放模型及 Metropolis VSS 蓝图构建物理 AI 智能体和数字孪生,用于交通、能源、公共安全等城市运营。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型,训练数据为本地诈骗对话,涵盖冒充公共机构、银行和本地人物等类型。
OpenAI 发布新分析,指出智能体 AI 在欧盟企业和小型企业中的采用正在增长,并点出更深入使用可在哪些环节释放更多价值。
Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,让 AI 智能体在浏览器会话内自动处理 x402 协议的 HTTP 402 付费请求,该方案已在 AWS Marketplace 上线。
推荐理由:原文给出 Anchor Browser 与 AgentCore payments 的集成方式,读者可据此判断智能体自动支付付费网页与 API 的落地路径。
GitHub 为密钥扫描训练了专用的 ModernBERT 分类器,替代此前的 LLM 流水线,用户对告警的接受度提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本节省超过 98%。
Amazon Bedrock 的托管权益(managed entitlements)支持从中心账户订阅一次第三方 AI 模型,再把访问权限分发到组织内多个 AWS 账户。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 构建了 Slack 内的 AI IT 服务台 Deckhand,可解答常规 IT 问题、识别报错截图并创建和更新 Jira Service Management 工单。
NVIDIA 与微软此前宣布 RTX Spark 笔记本将于 10 月 16 日(周五)上市,配备最高 128GB 统一内存和 1 petaflop AI 算力,生态伙伴在上市前推出面向本地 AI 的软件更新。
推荐理由:原文列出 RTX Spark 首发时本地智能体、模型与开发工具的适配清单,可据此判断本地 AI 工作流的可用边界。
Higgsfield 借助 GPT-6 Astra 把 AI 视频生成时长从 1 分钟延长到 10 分钟以上,并用 GPT-Image-2.5 提升画面精度。该平台还通过 GPT-Live 提供语音电影制作路径。
NVIDIA 宣布计划投资 Doctolib、Entalpic、Genesis AI 和 Pigment 四家法国初创公司,分别覆盖医疗智能体、原子级材料工程、通用机器人和企业规划平台。
GitHub Copilot 提供四种方式让 Copilot 理解项目上下文:仓库级自定义指令(.github/copilot-instructions.md)、可复用的 agent skills(.github/skills)、面向复杂任务的 custom agents(.github/agents),以及连接外部工具与数据的 MCP servers。
微软研究院推出 StudentSim,一种在真实学习者测试前评估和改进 AI 辅导系统的研究系统,它基于公开的去标识化学习记录训练个性化学生模拟器,每个模拟器对应一名学生。
NVIDIA 在 OCP 全球峰会上通过开放的 NVIDIA MGX 架构,向 OCP 贡献了 Vera Rubin 机架和计算托盘设计,为系统构建商提供开发下一代 AI 工厂基础设施的共同基础。
推荐理由:NVIDIA 在 OCP 峰会上把 Vera Rubin 机架与计算托盘设计开放给 MGX 架构,读者可据此了解 AI 工厂基础设施的开放标准进展。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
Asana 借助 Codex 中的 GPT-6 Astra,在浏览器测试中让浏览器智能体的模型成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
NVIDIA 开发者用 GPT-6 Astra、Claude Fable 5 等前沿 AI 模型配合 Omniverse 库,通过自然语言指令构建仿真应用。案例包括仓库人形机器人模拟器、基于旧金山 Market Street 的自动驾驶测试环境 Zero to Alpamayo,以及用约三天完成传感器数字孪生对比。
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器,用代码上下文识别数据库密码、Kubernetes Secret、Dockerfile 等非结构化密钥,候选批次评估耗时低于 2 毫秒,可将可拦截的密钥数量提升一倍以上。
推荐理由:GitHub 用九个季度数据说明密钥泄露与代码量同步增长,并给出用分类器把防护前移到 push 环节的思路。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。
推荐理由:微软开源 3500 行 Agent RL 框架,给出真实 harness 训练与 Kubernetes 部署路径,可迁移到自有智能体训练流程。
Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、Apache 2.0 许可,原生将文本、图像、音频和视频映射到统一嵌入空间,参数量 7.4 亿。
推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一到端侧嵌入空间,并给出参数量与内存占用,便于判断本地多模态检索的可行性。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中与 Chad Atalla 对谈,讨论评估如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的"意外失败"。她结合自身从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的开放离线基准,基于 1.039 亿个 GitHub pull request 的分布特征构建,包含来自 187 个开源仓库、覆盖 19 种语言的 219 个 pull request。
推荐理由:GitHub 公开了代码审查基准的构建方法与评测口径,读者可据此理解 AI 代码审查能力如何被量化比较。
GitHub 发文指出,AI 正在改变开发者工作方式,写代码仍重要,但开发者更需要学会指挥 AI 智能体、评估其输出并做出技术决策。文章给出三项技能:学会指挥 AI 而非只是使用它;不要轻信 AI 的第一个答案,可让第二个模型进行批判,GitHub Copilot 内置的 Rubber Duck agent 就用第二个模型审查计划、代码和测试;用 AI 节省的时间去解决更大的问题。
微软研究院实习生开发了一套端到端机器学习系统,可提前 30-60 分钟为美国本土 66,935 座变电站生成位置级空间天气风险估计。该系统结合 AE 与 Dst 指数预报、纬度、地质电导率和电网数据,在 2020-2026 评估期内检测到近 80% 的重大空间天气事件,其中 Dst 预测在 62.2% 的高活跃时段优于 Burton 方程。
Google DeepMind 推出 SynthID Bio,把水印技术带入合成生物学,将不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:SynthID 水印首次延伸到合成生物学,读者可了解其在蛋白质序列与结构上的实现方式及生物安全用途。