Instagram 上的名人 AI 深度伪造为何屡禁不止
一个拥有超百万粉丝、带蓝色认证的 Instagram 粉丝账号用 AI 生成女演员 Mia Goth 的图片,获近 50 万点赞,并被 Google 搜索的 AI 概览当作真事引用,最终因冒充公众人物被移除。Meta 允许用户付费购买蓝色认证,其发言人表示不允许账号用他人肖像冒充本人,无论内容是否由 AI 生成。
一个拥有超百万粉丝、带蓝色认证的 Instagram 粉丝账号用 AI 生成女演员 Mia Goth 的图片,获近 50 万点赞,并被 Google 搜索的 AI 概览当作真事引用,最终因冒充公众人物被移除。Meta 允许用户付费购买蓝色认证,其发言人表示不允许账号用他人肖像冒充本人,无论内容是否由 AI 生成。
Gudea 正用 AI 帮助机构在社交媒体争议爆发前发现苗头,其技术分析信息在 X、Reddit、TikTok 等 500 多个主流与边缘网站和平台上的传播路径、推动者与扩散速度,而非只统计提及量和标签数。
Google 与 Meta 在一周内相继发布前沿模型,重新加入与 OpenAI、Anthropic 的竞争。
推荐理由:梳理 Google 与 Meta 一周内发布前沿模型后的竞争格局变化,呈现两家巨头凭用户与生态优势重新入局。
Deezer 正在开发一个开关,让用户从搜索结果中过滤掉 AI 生成的曲目、专辑和相关艺人,该功能预计今年年底前上线。Deezer 去年已加入 AI 检测工具,7 月称平台每日上传曲目中超过 50% 为 AI 生成,平均每天 9 万首。Bandcamp 已全面禁止 AI 曲目,Tidal 取消了 AI 音乐的变现,Spotify 仅对 AI 曲目和艺人加标签。
Anthropic 警告,小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等 IoT 设备的新型自我复制恶意软件,且更难被清除。该公司称,到明年小型模型或能在各类 IoT 设备上自主自我复制,最终可能形成无需人工交互即可传播的计算机蠕虫。
406 位科学家联署公开信,要求加强 AI 安全研究并严格隔离 AI 模型与外部网络,签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。