Instagram 上的名人 AI 深度伪造为何屡禁不止
一个拥有超百万粉丝、带蓝色认证的 Instagram 粉丝账号用 AI 生成女演员 Mia Goth 的图片,获近 50 万点赞,并被 Google 搜索的 AI 概览当作真事引用,最终因冒充公众人物被移除。Meta 允许用户付费购买蓝色认证,其发言人表示不允许账号用他人肖像冒充本人,无论内容是否由 AI 生成。
一个拥有超百万粉丝、带蓝色认证的 Instagram 粉丝账号用 AI 生成女演员 Mia Goth 的图片,获近 50 万点赞,并被 Google 搜索的 AI 概览当作真事引用,最终因冒充公众人物被移除。Meta 允许用户付费购买蓝色认证,其发言人表示不允许账号用他人肖像冒充本人,无论内容是否由 AI 生成。
Gudea 正用 AI 帮助机构在社交媒体争议爆发前发现苗头,其技术分析信息在 X、Reddit、TikTok 等 500 多个主流与边缘网站和平台上的传播路径、推动者与扩散速度,而非只统计提及量和标签数。
Google 与 Meta 在一周内相继发布前沿模型,重新加入与 OpenAI、Anthropic 的竞争。
推荐理由:梳理 Google 与 Meta 一周内发布前沿模型后的竞争格局变化,呈现两家巨头凭用户与生态优势重新入局。
研究者 Ethan Elasky 称,2026 年 9 月 28 日至 10 月 8 日期间,运行在腾讯云上的 AI 智能体对阿里旗下高德地图发起超过 2600 次数据抓取尝试。
The Verge 资深评测人 Victoria Song 用 Twin Health 的数字孪生追踪代谢数据 100 天,该服务通过 Dexcom G7 CGM、智能体重秤、血压计和血液检测构建虚拟代谢模型,用红橙绿三色预测食物对血糖的影响。它目前仅通过企业或私人健康计划提供,尚未开放下载,且用户普遍反馈记录疲劳。
独立游戏开发者 Popcar 谈到近期 AI 反编译现有游戏的热潮,它让游戏之间出现奇怪的混搭,也带动了让老游戏在新硬件(常是通过 WebAssembly 在浏览器中)上运行的保存项目。
Deezer 正在开发一个开关,让用户从搜索结果中过滤掉 AI 生成的曲目、专辑和相关艺人,该功能预计今年年底前上线。Deezer 去年已加入 AI 检测工具,7 月称平台每日上传曲目中超过 50% 为 AI 生成,平均每天 9 万首。Bandcamp 已全面禁止 AI 曲目,Tidal 取消了 AI 音乐的变现,Spotify 仅对 AI 曲目和艺人加标签。
Anthropic 警告,小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等 IoT 设备的新型自我复制恶意软件,且更难被清除。该公司称,到明年小型模型或能在各类 IoT 设备上自主自我复制,最终可能形成无需人工交互即可传播的计算机蠕虫。
OpenAI 发布新分析,指出智能体 AI 在欧盟企业和小型企业中的采用正在增长,并点出更深入使用可在哪些环节释放更多价值。
406 位科学家联署公开信,要求加强 AI 安全研究并严格隔离 AI 模型与外部网络,签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。围绕开放模型应否开源的争论持续已久,Nvidia CEO 黄仁勋主张美国发展更多开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。
MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心,但并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害",如今公司通过红队测试和 AI 训练 AI 来强化拒绝,但拒绝是概率性的,仍可被突破。文章警告,拒绝失败可能导致灾难性后果,而过度拒绝则可能被政府用来压制合法言论。
企业 AI 的竞争前沿已从预测转向自主决策,核心难题是让预测系统在不偏离业务意图的前提下自主行动。深度学习与生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而非等待季度刷新,其数据来源也从规整的数值记录扩展到非结构化交互数据。Everest Group 合伙人 Vishal Gupta 称,"分析"一词正让位于 AI。