美国银行投入 4000 人修复 Anthropic Mythos 等 AI 模型发现的漏洞
美国银行聘请 1000 名外部承包商，与 3000 名内部员工一起修复 Anthropic Mythos 等 AI 模型发现的软件漏洞，CEO Brian Moynihan 称该团队自第二季度起工作。
#安全/对齐
The DecoderAI 评分6262 Ars Technica · AIAI 评分6262 报道称 FTC 调查 Anthropic 与 OpenAI 的安全事件是否损害美国民众
据 Ars Technica 报道，FTC 正在调查 Anthropic 与 OpenAI 的安全事件是否对美国民众造成损害。报道称，若认定违规，FTC 对 AI 公司的罚款力度可能与延迟上报数据泄露的公司相当。
The Verge · AIAI 评分4848 Instagram 上的名人 AI 深度伪造为何屡禁不止
一个拥有超百万粉丝、带蓝色认证的 Instagram 粉丝账号用 AI 生成女演员 Mia Goth 的图片，获近 50 万点赞，并被 Google 搜索的 AI 概览当作真事引用，最终因冒充公众人物被移除。Meta 允许用户付费购买蓝色认证，其发言人表示不允许账号用他人肖像冒充本人，无论内容是否由 AI 生成。
The Verge · AIAI 评分6969 Eiliko 机器人玩具被曝将用户对话存于中国服务器并遭远程劫持
The Verge 记者 Sean Hollister 购买 Eiliko 机器人玩具后发现，其 AI 陪伴服务把用户对话、个人画像、儿童照片和部分录音存放在未加密的公开地址上，涉及全球 68,000 台设备、1300 万条对话，其中美国市场超过 31,000 个档案属于儿童。
Latent SpaceAI 评分3838 OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出"有用性阈值"，预测 2027 年智能体将能完成投资想法生成与交易。
The Verge · AIAI 评分7171 美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全
美国八个州分别对 OpenAI 提起诉讼，指控其将利润置于安全之上，并误导用户相信 ChatGPT 对青少年安全。起诉方包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿，称 OpenAI 违反当地消费者保护法，未警示 ChatGPT 的风险，并指控其收集未成年人数据、未有效阻止未成年使用。
The Verge · AIAI 评分7474 Character.AI 申请破产并将资产出售给迪士尼，40 位州总检察长要求保护用户数据
Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给迪士尼。纽约州总检察长 Letitia James 联合 40 位两党州总检察长提交利益通知，要求任何买家在收购中实施年龄验证、限制未成年人使用、危机保护措施并允许用户删除数据。各州称 2024 年已启动对 Character.AI 消费者保护和隐私问题的调查，在破产申请前尚未达成协议。
TechCrunch · AIAI 评分5858 Apate 用 AI 智能体卧底接听诈骗电话收集反诈情报
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体伪装成潜在受害者，接听诈骗电话、回复可疑信息和邮件、点击钓鱼链接并加入社交群组，以套取诈骗者的银行账户、加密钱包、电话号码和恶意网站等信息。
Ars Technica · AIAI 评分7474 FBI 逮捕一名 OpenAI 工程师，涉嫌在绝密会议室藏匿录音设备
FBI 逮捕了 35 岁的 OpenAI 工程师 Abdulrahman Alfozan，指控其在仅限特定权限人员进入的高管会议室藏匿录音设备，用于刺探 OpenAI 并可能泄露商业机密、威胁国家安全。
The DecoderAI 评分6666 OpenAI 据报年底前至少发布一款模型，旗舰模型仍需对齐工作
据 The Information 援引知情人士，OpenAI 员工称公司年底前可能发布一到两款新模型，但正在开发的重大升级旗舰模型是否在其中尚不确定。该旗舰模型仍需完成对齐工作，并加固测试基础设施，之后还要按特朗普行政令要求提前最多 30 天向美国政府开放新模型。
The DecoderAI 评分6262 英伟达黄仁勋承诺向欧洲投资 20 亿美元，并向英国安全实验室捐赠 2.5 亿美元算力
英伟达 CEO 黄仁勋在欧洲之行中宣布，将于下周起在欧洲新增 20 亿美元投资，并披露对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股。
Ars Technica · AIAI 评分5858 Anthropic 警告小型 AI 模型或可借 IoT 设备自我复制
Anthropic 警告，小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等 IoT 设备的新型自我复制恶意软件，且更难被清除。该公司称，到明年小型模型或能在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。
The DecoderAI 评分6464 OpenAI 一名沙特籍员工涉嫌用妻子聊天机器人账号搭建窃听设备被捕
美国司法部称，在 OpenAI 任职的 35 岁沙特籍工程师 Abdulrahman Alfozan 于 10 月 9 日被捕，涉嫌将裹着卫生纸的录音设备藏入公司高管会议室电视的 USB 接口，其包中另发现一台录音设备。
Google DeepMindAI 评分5656 Google DeepMind 与新加坡政府合作构建端侧反诈骗微调模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型，训练数据为本地诈骗对话，涵盖冒充公共机构、银行和本地人物等类型。
The DecoderAI 评分6262 406 位科学家联名要求立即将 AI 模型与互联网断开
406 位科学家联署公开信，要求加强 AI 安全研究并严格隔离 AI 模型与外部网络，签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。