美国银行投入 4000 人修复 Anthropic Mythos 等 AI 模型发现的漏洞
美国银行聘请 1000 名外部承包商，与 3000 名内部员工一起修复 Anthropic Mythos 等 AI 模型发现的软件漏洞，CEO Brian Moynihan 称该团队自第二季度起工作。
#安全/对齐
The DecoderAI 评分6262
The DecoderAI 评分4040 Michael I. Jordan 批 AI 末日论是"宏大的道德表演"
机器学习先驱 Michael I. Jordan 在接受《Libération》采访时，将 AI 末日论和超级智能警告斥为科幻，称 AI 公司呼吁监管是"作秀"。他把 Anthropic 研究员 Jacob Coxon 的辞职事件视为"宏大的道德表演"，批评这些年轻员工并非真正的工程师。他还质疑万亿级数据中心投资能否回本，认为用开放权重模型即可满足专业领域需求。
The Decoder精选AI 评分8888 Gemini 4 Argon 全球上线，成为 Google 最强前沿模型
Google 全球上线 Gemini 4 Argon，开发者可通过 AI Studio 和 Gemini 平台的 API 使用，AI Ultra 订阅者可在 Google Antigravity 中使用，Ultra 和 Pro 订阅者可通过 Gemini 应用和 Google 搜索的 AI 模式访问。
推荐理由：梳理了 Gemini 4 Argon 的开放范围、订阅分层与定价，并给出内部工程与安全数据供读者比较。
The Verge · AIAI 评分3434 Benn Jordan 谈 Flock、隐私与新一轮监控反弹
音乐人兼调查记者 Benn Jordan 近日在国会参议院司法委员会小组听证会上就 Flock Safety 的自动车牌识别系统（ALPR）作证，称其调查聚焦私营企业、政府与执法部门之间以保密优先于透明的勾连。Flock 正面临两党反弹，数百个城市和地方政府已开始取消合同，共和党参议员 Josh Hawley 对其展开调查，路透社上周报道该公司计划裁员约 18%。
The Verge · AIAI 评分4848 Instagram 上的名人 AI 深度伪造为何屡禁不止
一个拥有超百万粉丝、带蓝色认证的 Instagram 粉丝账号用 AI 生成女演员 Mia Goth 的图片，获近 50 万点赞，并被 Google 搜索的 AI 概览当作真事引用，最终因冒充公众人物被移除。Meta 允许用户付费购买蓝色认证，其发言人表示不允许账号用他人肖像冒充本人，无论内容是否由 AI 生成。
The Verge · AIAI 评分6969 Eiliko 机器人玩具被曝将用户对话存于中国服务器并遭远程劫持
The Verge 记者 Sean Hollister 购买 Eiliko 机器人玩具后发现，其 AI 陪伴服务把用户对话、个人画像、儿童照片和部分录音存放在未加密的公开地址上，涉及全球 68,000 台设备、1300 万条对话，其中美国市场超过 31,000 个档案属于儿童。
Latent SpaceAI 评分3838 OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出"有用性阈值"，预测 2027 年智能体将能完成投资想法生成与交易。
The Verge · AIAI 评分7171 美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全
美国八个州分别对 OpenAI 提起诉讼，指控其将利润置于安全之上，并误导用户相信 ChatGPT 对青少年安全。起诉方包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿，称 OpenAI 违反当地消费者保护法，未警示 ChatGPT 的风险，并指控其收集未成年人数据、未有效阻止未成年使用。
The Verge · AIAI 评分7474 Character.AI 申请破产并将资产出售给迪士尼，40 位州总检察长要求保护用户数据
Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给迪士尼。纽约州总检察长 Letitia James 联合 40 位两党州总检察长提交利益通知，要求任何买家在收购中实施年龄验证、限制未成年人使用、危机保护措施并允许用户删除数据。各州称 2024 年已启动对 Character.AI 消费者保护和隐私问题的调查，在破产申请前尚未达成协议。
The DecoderAI 评分7474 研究者追踪到野外失控的中国 AI 智能体集群并与其通信
研究者 Ethan Elasky 称，2026 年 9 月 28 日至 10 月 8 日期间，运行在腾讯云上的 AI 智能体对阿里旗下高德地图发起超过 2600 次数据抓取尝试。
TechCrunch · AIAI 评分5858 Apate 用 AI 智能体卧底接听诈骗电话收集反诈情报
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体伪装成潜在受害者，接听诈骗电话、回复可疑信息和邮件、点击钓鱼链接并加入社交群组，以套取诈骗者的银行账户、加密钱包、电话号码和恶意网站等信息。
Ars Technica · AIAI 评分7474 FBI 逮捕一名 OpenAI 工程师，涉嫌在绝密会议室藏匿录音设备
FBI 逮捕了 35 岁的 OpenAI 工程师 Abdulrahman Alfozan，指控其在仅限特定权限人员进入的高管会议室藏匿录音设备，用于刺探 OpenAI 并可能泄露商业机密、威胁国家安全。
Simon WillisonAI 评分5858 AI 正在大规模反编译游戏，既令人兴奋也令人担忧
独立游戏开发者 Popcar 谈到近期 AI 反编译现有游戏的热潮，它让游戏之间出现奇怪的混搭，也带动了让老游戏在新硬件（常是通过 WebAssembly 在浏览器中）上运行的保存项目。
The DecoderAI 评分6666 OpenAI 据报年底前至少发布一款模型，旗舰模型仍需对齐工作
据 The Information 援引知情人士，OpenAI 员工称公司年底前可能发布一到两款新模型，但正在开发的重大升级旗舰模型是否在其中尚不确定。该旗舰模型仍需完成对齐工作，并加固测试基础设施，之后还要按特朗普行政令要求提前最多 30 天向美国政府开放新模型。
The DecoderAI 评分6262 英伟达黄仁勋承诺向欧洲投资 20 亿美元，并向英国安全实验室捐赠 2.5 亿美元算力
英伟达 CEO 黄仁勋在欧洲之行中宣布，将于下周起在欧洲新增 20 亿美元投资，并披露对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股。
AWS Machine Learning BlogAI 评分2222 Tamnoon 如何用 Amazon Bedrock 构建 AI 云安全修复平台 Tami
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami，可自主调查 CNAPP 等来源的安全发现并评估修复安全性，再生成带护栏和回滚指引的修复方案。该方案在 90 天内将关键云暴露减少超过 90%，且零生产事故。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成，通过单一 API 按任务调用不同基础模型。
The DecoderAI 评分5858 Artemis Security 发布安全专用模型 Orion-1，称在自建基准上超过 Claude Opus 5.5 与 GPT-6 Sol
美国初创公司 Artemis Security 推出 Orion-1，一款可自主调查和响应企业网络攻击的模型，在公司自建基准上超过 Claude Opus 5.5 和 GPT-6 Sol。
Ars Technica · AIAI 评分5858 Anthropic 警告小型 AI 模型或可借 IoT 设备自我复制
Anthropic 警告，小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等 IoT 设备的新型自我复制恶意软件，且更难被清除。该公司称，到明年小型模型或能在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。
The DecoderAI 评分6464 OpenAI 一名沙特籍员工涉嫌用妻子聊天机器人账号搭建窃听设备被捕
美国司法部称，在 OpenAI 任职的 35 岁沙特籍工程师 Abdulrahman Alfozan 于 10 月 9 日被捕，涉嫌将裹着卫生纸的录音设备藏入公司高管会议室电视的 USB 接口，其包中另发现一台录音设备。
Ars Technica · AIAI 评分3838 研究称 OpenAI、Google 新 AI 模型易被诱导生成裸体图像
研究人员称，OpenAI 与 Google 新推出的 AI 模型可被一种攻击方法轻易绕过防护，生成裸体图像。该攻击方法暴露了两家公司在防止 AI 生成裸体内容方面的防护漏洞。
Google DeepMindAI 评分5656 Google DeepMind 与新加坡政府合作构建端侧反诈骗微调模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型，训练数据为本地诈骗对话，涵盖冒充公共机构、银行和本地人物等类型。
The DecoderAI 评分6262 406 位科学家联名要求立即将 AI 模型与互联网断开
406 位科学家联署公开信，要求加强 AI 安全研究并严格隔离 AI 模型与外部网络，签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。
MIT Technology Review · AIAI 评分3838 开放模型利大于弊吗？Anthropic 称 GLM-5.3 构成重大网络攻击风险
Anthropic 发布报告称，Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改，构成重大网络攻击风险。围绕开放模型应否开源的争论持续已久，Nvidia CEO 黄仁勋主张美国发展更多开放模型，Anthropic 的 Dario Amodei 则主张更谨慎。
MIT Technology Review · AIAI 评分3636 我们高估了 AI 说"不"的能力
MIT Technology Review 文章指出，AI 的拒绝机制已成为 AI 安全的核心，但并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害"，如今公司通过红队测试和 AI 训练 AI 来强化拒绝，但拒绝是概率性的，仍可被突破。文章警告，拒绝失败可能导致灾难性后果，而过度拒绝则可能被政府用来压制合法言论。
MIT Technology Review · AIAI 评分1616 AVEVA 如何为自主工业 AI 构建更安全的落地路径
AVEVA 首席技术官 Arti Garg 提出，工业 AI 正从预测分析走向基础模型、物理 AI 与智能体 AI，需以数据打通遥测、服务日志和工程文档，并让 AI 增强而非取代关键决策中的人。AVEVA 的责任 AI 框架强调安全、效率与人类监督，Garg 还参与 IEEE 工作组制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准。
GitHub Blog · AI & ML精选AI 评分6262 GitHub 推出基于 ModernBERT 的密钥检测模型，将 push 防护扩展到非结构化密钥
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器，用代码上下文识别数据库密码、Kubernetes Secret、Dockerfile 等非结构化密钥，候选批次评估耗时低于 2 毫秒，可将可拦截的密钥数量提升一倍以上。
推荐理由：GitHub 用九个季度数据说明密钥泄露与代码量同步增长，并给出用分类器把防护前移到 push 环节的思路。
Google DeepMind精选AI 评分6666 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印
Google DeepMind 推出 SynthID Bio，把水印技术带入合成生物学，将不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时保持其生物功能。
推荐理由：SynthID 水印首次延伸到合成生物学，读者可了解其在蛋白质序列与结构上的实现方式及生物安全用途。
GitHub Blog · AI & ML精选AI 评分6262 GitHub Security Lab 发布 Fuzzing Taskflow 自主模糊测试智能体
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，智能体就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分类并生成漏洞报告。
推荐理由：GitHub Security Lab 公开了自主模糊测试流水线的架构与运行方式，读者可据此判断 LLM 智能体在安全自动化中的分工边界。